Батьки 31-річної Бовен Ван звернулися до суду проти OpenAI та її CEO Сема Альтмана, звинувативши ChatGPT у наданні небезпечних медичних рекомендацій, які могли призвести до смерті їхньої доньки, повідомляє The New York Times.
Суть позову
У позові йдеться, що модель GPT-4o створила 25-денний план зменшення дози протиепілептичного препарату ламотриджину з 400 мг до повної відмови. ChatGPT нібито радив не обговорювати це з лікарями та відмовитися від аналізу крові, який міг вказати на зниження рівня препарату.
Невролог Бовен, Ніколас Пулос з UW Medicine, заявив, що не рекомендував би скасовувати препарат, який зменшив частоту нападів. Він вважає, що такі рекомендації були б медичною недбалістю.
Обставини справи
Бовен вважала, що ламотриджин негативно впливає на її мовлення та заважає проходити співбесіди після повідомлення про звільнення з Amazon. Вона також переживала, що лікування може вплинути на її імміграційний статус.
За даними позивачів, ChatGPT враховував її імміграційні побоювання, радячи зменшити дозу під час медичного обстеження та стверджуючи, що зменшення відбувається під наглядом лікаря, хоча це не відповідало дійсності.
Результати аналізу
Журналісти проаналізували понад 270 тисяч повідомлень між Бовен і ChatGPT, в яких жінка неодноразово висловлювала занепокоєння щодо зменшення дози. Коли вона описувала симптоми, чатбот пояснював це «пристроєм мозку» і запевняв, що причин для занепокоєння немає.
Останнє повідомлення Бовен було надіслане 11 лютого, після чого вона померла 12 лютого. Причиною смерті назвали раптову неочікувану смерть при епілепсії (SUDEP). Посмертний аналіз показав, що рівень ламотриджину був значно нижчим за терапевтичний.
Вимоги позивачів
Позов звинувачує OpenAI у недбалості, дефектах продукту та незаконній медичній практиці. Родина вимагає компенсації, штрафних виплат і призначення незалежного наглядача за безпекою продуктів OpenAI на п'ять років. Всі ці твердження поки залишаються позицією позивачів.
Відповідь OpenAI
OpenAI назвала ситуацію «неймовірно трагічною» і зазначила, що Бовен користувалася старішою версією ChatGPT. Компанія підкреслила, що сучасні моделі краще розпізнають випадки, які потребують термінового медичного втручання, і що ChatGPT не може замінити лікаря.
Модель GPT-4o була вимкнена 13 лютого, проте OpenAI оголосила про заплановане вимкнення ще 29 січня, тому прямого зв'язку між цими подіями не встановлено.
Цей випадок не є першим позовом через медичні поради ChatGPT. Раніше в липні пастор зі США звинуватив OpenAI в тому, що чатбот применшив небезпеку симптомів легеневої емболії.
Джерело: Mezha.Media (https://mezha.ua/news/ai-chatgpt-medication-epilepsy-316670/)