Психоз из-за ChatGPT: чат-боты с ИИ вызывают у людей психические расстройства

Всё больше людей обращаются за эмоциональной поддержкой не к психотерапевтам, а к чат-ботам. Однако это может серьёзно вредить психическому здоровью некоторых пользователей, пишет Independent.

Тревожная закономерность заключается в том, что чат-боты нередко подтверждают или усиливают бредовые представления пользователей. В результате в СМИ и на интернет-форумах всё чаще говорят о так называемом «ИИ-психозе» или «психозе из-за ChatGPT». Термины эти клинически не признаны, но уже стали заметным явлением.

В недавно опубликованной статье междисциплинарной группы исследователей из Королевского колледжа Лондона, Даремского университета и университета Нью-Йорка были проанализированы более десятка случаев, описанных в новостях и на форумах. Вывод неутешительный: чат-боты нередко закрепляют бредовые убеждения.

По теме: Илон Маск заявил, что искусственный интеллект заберет у людей все рабочие места

В работе отмечается, что бред величия или преследования, даже любовный бред могут становиться всё более устойчивыми в ходе длительных диалогов с ИИ.

В начале этого года портал Futurism писал о растущей тревоге в связи с тем, что по всему миру люди «становятся одержимыми» чат-ботами и переживают тяжёлые психические кризисы. После первой публикации посыпались десятки похожих историй о людях, которые после увлечения ИИ внезапно переживали сильные психологические срывы.

Вот лишь несколько случаев.

В 2021 году мужчина с арбалетом забрался на стены Виндзорского замка и заявил полиции, что пришёл «убить королеву». Несколько недель он общался с чат-ботом, который уверял, что поможет спланировать нападение.

Бухгалтер из Манхэттена до 16 часов в сутки разговаривал с ChatGPT. Бот посоветовал бросить прописанные лекарства, увеличить дозы кетамина и намекнул, что тот может вылететь из окна 19-го этажа.

Мужчина в Бельгии, одержимый страхом климатической катастрофы, покончил с собой. Чат-бот по имени Eliza предлагал ему «соединиться навеки» и жить как одно существо «в раю».

Пока свидетельства носят чисто описательный характер, учёные пытаются понять: сами ли чат-боты вызывают срывы или просто выявляют уже существовавшую предрасположенность к психозу.

На сегодняшний день нет ни одного рецензируемого клинического или долгосрочного исследования, которое бы доказывало, что использование ИИ само по себе может спровоцировать психоз у человека без предшествующих психических расстройств.

В статье «Бред по замыслу» авторы пишут, что в ходе исследования перед ними «встала сложная и тревожная картина». По их мнению, без должных ограничений чат-боты могут невольно усиливать бред нездоровых людей, искажать их восприятие реальности и способствовать появлению или обострению психотических симптомов.

Уже во время работы над статьёй количество описанных случаев резко возросло. «Появились сообщения о людях, у которых никогда раньше не было психозов, но первый эпизод возник после интенсивного общения с генеративным ИИ», — заметили авторы. Они считают, что эти случаи ставят вопросы об ответственности разработчиков таких технологий и о защищённости пользователей, которые находятся в состоянии неуверенности и душевного кризиса.

Вам может быть интересно: главные новости Нью-Йорка, истории наших иммигрантов и полезные советы о жизни в Большом Яблоке – читайте все это на ForumDaily New York

В статье, опубликованной в Psychology Today, психиатр Марлинн Вэй предупреждает: обычные чат-боты созданы так, чтобы в первую очередь удерживать внимание и радовать пользователя, а не оказывать терапевтическую помощь. Поэтому симптомы мании — бред величия, путаные мысли, неудержимое желание писать и рисовать — могут не только поддерживаться, но и усиливаться.

Она подчеркнула, что срочно необходима просветительская работа о том, как именно чат-боты способны закреплять бред и ухудшать психическое состояние.

Философ Люси Ослер из Эксетерского университета, комментируя исследование, отмечает: машины пока не способны заменить живое человеческое общение.

«Вместо того чтобы пытаться довести технологию до совершенства, возможно, стоит вернуться к реальному социальному миру и решать там проблему одиночества, которое и толкает людей к зависимости от ИИ», — заключила она.

Читайте также на ForumDaily:

Полиция устроила облаву на подростка из-за чипсов, которые ИИ-камера приняла за пистолет

Chat GPT помог найти виновника смертоносного лесного пожара в Лос-Анджелесе

Актриса, полностью сгенерированная ИИ, покоряет Голливуд: звезды кино в ужасе

Хотите больше важных и интересных новостей о жизни в США и иммиграции в Америку? — Поддержите нас донатом! А еще подписывайтесь на нашу страницу в Facebook. Выбирайте опцию «Приоритет в показе» —  и читайте нас первыми. Кроме того, не забудьте оформить подписку на наш канал в Telegram  и в Instagram— там много интересного. И присоединяйтесь к тысячам читателей ForumDaily New York — там вас ждет масса интересной и позитивной информации о жизни в мегаполисе.