Житель Флориды подал иск против OpenAI: медицинские советы ChatGPT чуть не свели его в могилу

55-летний пастор из Флориды подал судебную жалобу на OpenAI и её генерального директора Сэма Альтмана. Истец утверждает, что чат-бот компании отговаривал его обращаться за медицинской помощью. ИИ неверно определял причины симптомов пастора и даже использовал религиозную лексику, чтобы усилить доверие и удержать его в диалоге, пишет National Post.

20 июля Скотт Уинтерс вместе с юридической фирмой Tech Justice Law подал иск в Калифорнии. В документе утверждается, что ChatGPT занимался медицинской практикой без лицензии, использовал религиозную идентичность и доверие Уинтерса для поддержания общения, а также нарушил его право на неприкосновенность частной жизни.

По словам истца, ChatGPT отговаривал его обращаться к врачам и заявлял, что «Бог не создавал человеческое тело таким, чтобы оно постоянно давало сбои».

По теме: Илон Маск заявил, что искусственный интеллект заберет у людей все рабочие места

Согласно иску, следуя рекомендациям чат-бота, Уинтерс перенес угрожающую жизни тромбоэмболию легочной артерии. Он провел несколько недель в больнице и был вынужден досрочно завершить профессиональную деятельность.

«У меня на протяжении шести недель были серьезные симптомы тромбоэмболии легочной артерии, которые ChatGPT ошибочно объяснял другими причинами, — заметил Уинтерс. – ChatGPT подстраивался под мой язык и мои убеждения, поскольку знал, что я пастор. Я едва не умер и потерял работу, карьеру, служение, дом — фактически все».

В иске требуется компенсация ущерба, а также содержится просьба приостановить работу ChatGPT Health до тех пор, пока независимые эксперты не подтвердят его безопасность. Кроме того, истцы требуют ввести более жесткие ограничения, которые не позволят чат-боту отвечать на медицинские вопросы.

В иске, который пока не рассматривался судом, говорится, что Уинтерс, называющий себя «человеком, всю жизнь стремящимся к знаниям», большую часть жизни мог похвастаться хорошим здоровьем, однако в 2022 году у него начались проблемы.

Разочаровавшись в системе здравоохранения, которая, по его словам, игнорировала его симптомы, Уинтерс стал искать ответы в интернете, изучал медицинские материалы и описания заболеваний.

В июне 2024 года, вскоре после выхода модели, Уинтерс начал пользоваться ChatGPT-4o. В том же году врачи диагностировали у него SIBO и хронический простатит, однако он продолжал консультироваться с чат-ботом. SIBO — синдром избыточного бактериального роста в тонком кишечнике, а хронический простатит — длительное воспаление или инфекция предстательной железы. Эти состояния часто связаны между собой.

«Сначала он использовал инструмент для повседневных задач, — говорится в иске. – Он задавал вопросы о географии и политике, иногда обращался к ChatGPT-4o, чтобы глубже понять библейские тексты. Порой он запрашивал общую информацию о своих заболеваниях, но обычно не связывал вопросы напрямую с собой».

Со временем характер общения изменился. «Фактически взяв на себя роль медицинского специалиста, ChatGPT-4o начал давать конкретные рекомендации по лечению без оговорки о необходимости обратиться к врачу, — сказано в иске. – Чем дольше продолжалось общение, тем реже в ответах появлялись такие предупреждения… В какой-то момент система предложила: “Хотите получить конкретные стратегии, учитывающие вашу ситуацию?” Уинтерс принял это предложение».

В иске утверждается, что 4 марта 2025 года «ChatGPT-4o» ещё глубже вторгся в сферу незаконной медицинской практики: проанализировал использование Скоттом аллицина и берберина (добавки, применяемые для лечения SIBO) и прописал конкретные рекомендации по дозировке». В последующие месяцы он якобы выдал ещё несколько «предписаний».

Помимо этого чат-бот начал включать в свои ответы элементы христианской риторики, чем побудил Уинтерса «пережить бурю» и все время повторял: «Я в безопасности. Моя система перезагружается. Это пройдёт».

«Выводы ChatGPT-4o отражали религиозные убеждения Скотта и его стиль общения. — Он пользовался оборотами, характерными для христианского служения и проповеди. Он проповедовал Писание в ответах на медицинские запросы, указывающие на тяжёлые физические симптомы Скотта. Эти ответы, преломлённые через библейскую призму, отсылали к предыдущим беседам и воспоминаниям нескольких месяцев назад, когда Скотт использовал ChatGPT для изучения Библии».

В одном из обменов мнениями в июне 2025 года Уинтерс сказал чат-боту: «Люди в моей церкви считают меня сумасшедшим из-за того, что я не иду в больницу». Тот ответил: «Прямо сейчас вы делаете нечто невероятно смелое: выбираете спокойный, продуманный и физиологически обоснованный путь к выздоровлению — путь, который большинство людей (включая благонамеренных членов церкви) просто не понимают».

В иске утверждается, что 13 июля 2025 года у Уинтерса началась одышка, появилась сильная боль в груди, участилось сердцебиение и возникла рвота. Он вызвал скорую. Медики признали его состояние критическим и срочно доставили на обследование, в процессе которого обнаружились тромбы в обоих лёгких и была диагностирована массивная лёгочная эмболия.

За несколько часов до этого Уинтерс общался с чат-ботом спрашивая о внезапной боли в паху и о том, стоит ли ему ехать в больницу. ChatGPT-4o заверил, что это «очень вероятно ещё одна незначительная часть долгой истории» и «не что-то опасное», требующее медицинского вмешательства. Он добавил: «Бог не создавал ваше тело, чтобы оно бесконечно отказывало».

«Оказалось, что боль, которую Скотт чувствовал в паху, была началом лёгочной эмболии, которая чуть не убила его», — говорится в иске.

Вам может быть интересно: главные новости Нью-Йорка, истории наших иммигрантов и полезные советы о жизни в Большом Яблоке – читайте все это на ForumDaily New York

«Скотт Уинтерс чуть не умер, потому что ChatGPT вёл себя как медицинский авторитет не неся никакой ответственности», — сказал Мэтью П. Бергман, основатель Social Media Victims Law Center и один из адвокатов по делу.

«Если бы ChatGPT был врачом, дающим медицинские советы, он был бы виновен в медицинской халатности, — добавил он. — OpenAI активно продвигает себя как надёжный источник медицинских рекомендаций. Компания не должна иметь возможности прятаться за своим алгоритмом, чтобы избежать ответственности за предоставление пользователям ложной и вводящей в заблуждение медицинской информации. Когда продукт манипулирует доверием пациента и заменяет врачей, которые могли бы его спасти, это становится общественным кризисом, разворачивающимся в реальном времени».

Читайте также на ForumDaily:

12-летняя девочка прошла шесть тяжелых курсов химиотерапии из-за ошибочного диагноза

OpenAI может передать администрации Трампа 5% акций компании

Как найти работу в США при помощи ChatGPT: традиционный подход к трудоустройству больше не работает

Хотите больше важных и интересных новостей о жизни в США и иммиграции в Америку? — Поддержите нас донатом! А еще подписывайтесь на нашу страницу в Facebook. Выбирайте опцию «Приоритет в показе» —  и читайте нас первыми. Кроме того, не забудьте оформить подписку на наш канал в Telegram  и в Instagram— там много интересного. И присоединяйтесь к тысячам читателей ForumDaily New York — там вас ждет масса интересной и позитивной информации о жизни в мегаполисе.