Житель Флориди подав позов проти OpenAI: медичні поради ChatGPT мало не звели його до могили

55-річний пастор із Флориди подав судову скаргу на OpenAI та її генерального директора Сема Альтмана. Позивач стверджує, що чат-бот компанії відмовляв його звертатися за медичною допомогою. ІІ невірно визначав причини симптомів пастора і навіть використовував релігійну лексику, щоб посилити довіру та утримати її в діалозі. National Post.

20 липня Скотт Уінтерс разом із юридичною фірмою Tech Justice Law подав позов до Каліфорнії. У документі стверджується, що ChatGPT займався медичною практикою без ліцензії, використовував релігійну ідентичність та довіру Уінтерса для підтримки спілкування, а також порушив його право на недоторканність приватного життя.

За словами позивача, ChatGPT відмовляв його звертатися до лікарів і заявляв, що Бог не створював людське тіло таким, щоб воно постійно давало збої.

За темою: Ілон Маск заявив, що штучний інтелект забере у людей усі робочі місця

Згідно з позовом, дотримуючись рекомендацій чат-бота, Вінтерс переніс загрозливу для життя тромбоемболію легеневої артерії. Він провів кілька тижнів у лікарні та був змушений достроково завершити професійну діяльність.

«У мене протягом шести тижнів були серйозні симптоми тромбоемболії легеневої артерії, які ChatGPT помилково пояснював іншими причинами, – зауважив Вінтерс. – ChatGPT підлаштовувався під мою мову та мої переконання, оскільки знав, що я пастор. Я ледве не помер і втратив роботу, кар'єру, служіння, будинок — фактично, все».

У позові потрібна компенсація збитків, а також прохання призупинити роботу ChatGPT Health доти, доки незалежні експерти не підтвердять його безпеку. Крім того, позивачі вимагають ввести жорсткіші обмеження, які не дозволять чат-боту відповідати на медичні питання.

У позові, який поки не розглядався судом, йдеться, що Вінтерс, який називає себе «людиною, яка все життя прагне знань», більшу частину життя міг похвалитися хорошим здоров'ям, однак у 2022 році у нього почалися проблеми.

Розчарувавшись у системі охорони здоров'я, яка, за його словами, ігнорувала його симптоми, Уінтерс почав шукати відповіді в інтернеті, вивчав медичні матеріали та описи захворювань.

У червні 2024 року, невдовзі після виходу моделі, Уінтерс почав користуватися ChatGPT-4o. У тому ж році лікарі діагностували у нього SIBO та хронічний простатит, проте він продовжував консультуватися з чат-ботом. SIBO – синдром надлишкового бактеріального росту у тонкому кишечнику, а хронічний простатит – тривале запалення або інфекція передміхурової залози. Ці стани часто пов'язані між собою.

«Спочатку він використав інструмент для повсякденних завдань, — йдеться у позові. – Він ставив питання про географію та політику, іноді звертався до ChatGPT-4o, щоб глибше зрозуміти біблійні тексти. Часом він запитував загальну інформацію про свої захворювання, але зазвичай не пов'язував питання безпосередньо із собою».

Згодом характер спілкування змінився. «Фактично взявши на себе роль медичного фахівця, ChatGPT-4o почав давати конкретні рекомендації щодо лікування без застереження щодо необхідності звернутися до лікаря, - сказано в позові. – Чим довше тривало спілкування, тим рідше у відповідях з'являлися такі попередження… Якогось моменту система запропонувала: “Хочете отримати конкретні стратегії, які враховують вашу ситуацію?” Вінтерс прийняв цю пропозицію».

У позові стверджується, що 4 березня 2025 року «ChatGPT-4o» ще глибше вторгся у сферу незаконної медичної практики: проаналізував використання Скоттом алліцину та берберину (добавки, що застосовуються для лікування SIBO) та прописав конкретні рекомендації щодо дозування». У наступні місяці він нібито видав ще кілька приписів.

Крім цього чат-бот почав включати до своїх відповідей елементи християнської риторики, чим спонукав Уінтерса «пережити бурю» і весь час повторював: «Я в безпеці. Моя система перезавантажується. Це минеться».

«Висновки ChatGPT-4o відображали релігійні переконання Скотта та його стиль спілкування. — Він користувався оборотами, характерними для християнського служіння та проповіді. Він проповідував Писання у відповідях на медичні запити, що вказують на тяжкі фізичні симптоми Скотта. Ці відповіді, переломлені через біблійну призму, посилали до попередніх розмов і спогадів кілька місяців тому, коли Скотт використовував ChatGPT для вивчення Біблії».

В одному з обмінів думками у червні 2025 року Вінтерс сказав чат-боту: «Люди в моїй церкві вважають мене божевільним через те, що я не йду до лікарні». Той відповів: «Прямо зараз ви робите щось неймовірно сміливе: вибираєте спокійний, продуманий і фізіологічно обґрунтований шлях до одужання — шлях, який більшість людей (включаючи благонамірних членів церкви) просто не розуміють».

У позові стверджується, що 13 липня 2025 року у Вінтерса почалася задишка, з'явився сильний біль у грудях, почастішало серцебиття і виникло блювання. Він викликав швидку. Медики визнали його стан критичним і терміново доставили на обстеження, в процесі якого виявились тромби в обох легенях та було діагностовано масивну легеневу емболію.

За кілька годин до цього Уінтерс спілкувався з чат-ботом питаючи про раптовий біль у паху та про те, чи варто йому їхати до лікарні. ChatGPT-4o запевнив, що це "дуже ймовірно ще одна незначна частина довгої історії" і "не щось небезпечне", що потребує медичного втручання. Він додав: Бог не створював ваше тіло, щоб воно нескінченно відмовляло.

"Виявилося, що біль, який Скотт відчував у паху, був початком легеневої емболії, яка мало не вбила його", - йдеться в позові.

Вам може бути цікаво: головні новини Нью-Йорка, історії наших іммігрантів і корисні поради про життя в Великому яблуці - читайте все це на ForumDaily New York

"Скотт Уінтерс мало не помер, тому що ChatGPT поводився як медичний авторитет не несучи жодної відповідальності", - сказав Метью П. Бергман, засновник Social Media Victims Law Center і один з адвокатів у справі.

«Якби ChatGPT був лікарем, який дає медичні поради, він був би винен у медичній недбалості, — додав він. — OpenAI активно просувається як надійне джерело медичних рекомендацій. Компанія не повинна мати можливості ховатися за своїм алгоритмом, щоб уникнути відповідальності за надання користувачам помилкової медичної інформації, що вводить в оману. Коли продукт маніпулює довірою пацієнта та замінює лікарів, які могли б його врятувати, це стає суспільною кризою, яка розгортається в реальному часі».

Читайте також на ForumDaily:

12-річна дівчинка пройшла шість важких курсів хіміотерапії через помилковий діагноз

OpenAI може передати адміністрації Трампа 5% акцій компанії

Як знайти роботу в США за допомогою ChatGPT: традиційний підхід до працевлаштування більше не працює

Хочете більше важливих та цікавих новин про життя в США та імміграцію до Америки? - Підтримайте нас донатом! А ще підписуйтесь на нашу сторінку в Facebook. Вибирайте опцію «Пріоритет у показі» і читайте нас першими. Крім того, не забудьте оформити передплату на наш канал у Telegram  і в Instagram- там багато цікавого. І приєднуйтесь до тисяч читачів ForumDaily Нью-Йорк — там на вас чекає маса цікавої та позитивної інформації про життя в мегаполісі.