В ChatGPT появилась функция для загрузки и анализа медицинских данных: безопасно ли ею пользоваться

Сотни миллионов людей каждую неделю обращаются к ChatGPT с вопросами о здоровье. Теперь у платформы появился отдельный раздел для таких пользователей. Насколько безопасно искать ответы о здоровье у искусственного интеллекта, выясняет CBS News.

На днях компания OpenAI запустила в ChatGPT раздел Health: пользователи могут загружать туда медицинские документы — например, результаты анализов и сведения о принимаемых препаратах, — а также подключать Apple Health, чтобы дать системе доступ к данным о здоровье и физической активности.

«С вашего разрешения ChatGPT теперь может использовать связанные с вами данные из Health, чтобы сравнить новые результаты с предыдущими анализами, проанализировать изменения после последнего визита к врачу или помочь понять, как сон, физическая активность и тренировки соотносятся с вашим распорядком», — говорится в заявлении OpenAI, опубликованном 23 июля.

По теме: Житель Флориды подал иск против OpenAI: медицинские советы ChatGPT чуть не свели его в могилу

По данным компании, около 300 миллионов человек уже еженедельно задают ChatGPT вопросы о здоровье. Руководитель направления инноваций в здравоохранении Cornell Tech Тандзим Чоудхури считает, что это отражает состояние системы здравоохранения в США.

«Наша система здравоохранения сломана, — сказала Чоудхури в интервью CBS News. — Думаю, поэтому так много людей ищет советы».

Чоудхури, более 15 лет работающая на стыке искусственного интеллекта и медицины, отметила, что ИИ может расширять доступ к медицинской информации в ситуации, когда многие американцы сталкиваются с трудностями при получении помощи. При этом, по её словам, «необходимо учитывать риски и выстраивать более надёжные механизмы защиты».

Она подчеркнула, что пользователи, которые обращаются к ИИ за медицинской информацией, должны понимать риски и неизбежные компромиссы, связанные с передачей личных данных крупной языковой модели, такой как ChatGPT.

ИИ способен «галлюцинировать» — выдавать вводящую в заблуждение, неточную или даже опасную медицинскую информацию. На прошлой неделе житель Флориды подал иск в суд, утверждая, что советы ChatGPT едва не привели к его смерти после перенесённой тромбоэмболии лёгочной артерии. Представитель OpenAI заявил CBS News: «ChatGPT — не врач и не должен использоваться как замена медицинской помощи, диагностики или лечения».

Несколько месяцев назад подросток из Калифорнии умер после того, как ChatGPT сообщил ему, что безопасно употребить смесь веществ, которая оказалась смертельной. Тогда OpenAI заявила CBS News: «Это трагическая ситуация, и наши мысли с семьёй погибшего», добавив, что та версия ChatGPT больше не доступна пользователям.

В заявлении о запуске Health в ChatGPT компания OpenAI также отметила, что система может ошибаться и «не заменяет помощь и профессиональные решения квалифицированных медицинских специалистов».

CBS News обратилась к OpenAI за комментарием и спросила, способен ли ChatGPT распознавать ситуации, когда пользователю следует обратиться за помощью к врачу.

По словам Чоудхури, сейчас именно пользователь должен решать, когда необходимо обратиться к специалисту и когда не стоит полагаться на советы чат-бота.

«Всё зависит от состояния человека и его способности принять правильное решение», — сказала она, добавив, что некоторые пользователи — например, пожилые люди или люди с когнитивными нарушениями — могут неправильно оценивать риски взаимодействия с чат-ботом.

Помимо возможной неточности информации, стоит учитывать и сам факт передачи личных данных, отметил профессор компьютерных наук Колумбийского университета и заместитель декана по вычислениям и искусственному интеллекту Вишал Мисра.

«Все риски, которые возникают при передаче медицинских данных кому-либо, сохраняются и здесь», — сказал он в интервью CBS News. «Вы делитесь очень личной информацией».

В OpenAI сообщили, что при разработке раздела Health привлекались врачи из разных стран: они создавали реалистичные медицинские сценарии и тестировали систему до запуска. В компании добавили, что в Health предусмотрены дополнительные меры защиты, включая усиленное шифрование, а также механизмы подтверждения действий: перед выполнением операций в подключённых сервисах, например перед отправкой электронного письма, система уточняет у пользователя, соответствует ли действие его запросу. OpenAI также заявила, что загруженные в ChatGPT данные не будут использоваться для обучения моделей и показа рекламы.

Чоудхури отметила: неясно, будут ли такие правила конфиденциальности действовать постоянно и каким образом эти данные могут использоваться в долгосрочной перспективе. По её словам, компании в сфере ИИ уже меняли условия использования своих сервисов, а Федеральная торговая комиссия США предупреждала потребителей о рисках передачи данных.

По словам Мисры, для некоторых пользователей преимущества обращения к ChatGPT за советами могут перевесить риски. Он добавил, что сам использовал ChatGPT, чтобы отслеживать часть своих показателей здоровья.

«Это может быть полезно, если действовать осторожно, потому что система умеет многое, — сказал он. — Она способна находить связи, которые может упустить даже очень квалифицированный врач».

Вам может быть интересно: главные новости Нью-Йорка, истории наших иммигрантов и полезные советы о жизни в Большом Яблоке – читайте все это на ForumDaily New York

Анализируя данные, предоставленные пользователем, ИИ может помогать отслеживать изменения в состоянии здоровья со временем, а затем эту информацию можно передать врачу, чтобы получить более полное представление о состоянии пациента. При этом, подчеркнул Мисра, даже если ChatGPT даёт полезную информацию, его не стоит воспринимать как врача. Важно сохранять контакт с реальным специалистом.

«Что бы искусственный интеллект ни сказал, покажите это врачу, — отметил он. — Не предпринимайте никаких действий самостоятельно».

Читайте также на ForumDaily:

12-летняя девочка прошла шесть тяжелых курсов химиотерапии из-за ошибочного диагноза

OpenAI может передать администрации Трампа 5% акций компании

Лучшие бесплатные курсы по изучению ИИ, после которых можно получить сертификат

Хотите больше важных и интересных новостей о жизни в США и иммиграции в Америку? — Поддержите нас донатом! А еще подписывайтесь на нашу страницу в Facebook. Выбирайте опцию «Приоритет в показе» —  и читайте нас первыми. Кроме того, не забудьте оформить подписку на наш канал в Telegram  и в Instagram— там много интересного. И присоединяйтесь к тысячам читателей ForumDaily New York — там вас ждет масса интересной и позитивной информации о жизни в мегаполисе.