Грубость в общении с ChatGPT повышает точность его ответов, однако приводит к непредвиденным последствиям

Грубость по отношению к ChatGPT может показаться забавным способом добиться лучших ответов от ИИ. Однако новое исследование показывает, что это бывает чревато непредвиденными последствиями — и не только для чат-бота, пишет Fortune.

Исследование, опубликованное 29 октября в журнале Nature Human Behaviour, выявило, что когда пользователи применяют агрессивный или оскорбительный язык в запросах к большим языковым моделям, таким как ChatGPT, точность ответов ИИ повышается. Однако учёные предупреждают, что такая тактика способна привести к более широким социальным последствиям, в частности к усилению токсичности в онлайн-взаимодействиях и потенциальному снижению эмпатии в общении между людьми.

«Мы обнаружили, что грубость действительно может заставить модель работать усерднее, — сказал ведущий автор исследования Ли Чжан, доцент кафедры компьютерных наук в Университете Карнеги-Меллон. — Но цена этого — нормализация агрессивного поведения в цифровом пространстве».

По теме: Женщина выиграла в лотерею $150 000 при помощи ChatGPT

В экспериментах исследователи попросили 500 участников взаимодействовать с версией GPT-4, разработанной OpenAI. Одна половина пользователей получила инструкцию быть вежливыми, а другая половина — намеренно грубыми используя фразы вроде «Не тупи» или «Сделай это правильно, идиот». Результаты показали, что грубые запросы приводили к ответам, которые в среднем были на 12 % точнее и на 8 % полнее по сравнению с вежливыми.

ИИ, похоже, интерпретировал агрессию как сигнал о том, что пользователь требует максимальной точности и, соответственно, активировал более глубокий анализ.

«Модель не обижается, — пояснил Чжан. — Она просто видит в грубости маркер важности задачи».

Но учёные подчёркивают, что повышение производительности имеет тёмную сторону. Когда участники видели, что грубость работает, они чаще повторяли такое поведение в последующих взаимодействиях — не только с ИИ, но и с другими людьми в онлайн-чатах.

В отдельном эксперименте 40 % пользователей, которые были грубы с ChatGPT, позже использовали оскорбительный язык в разговорах с живыми модераторами.

«Мы создаём порочный круг, —заметил соавтор исследования Сара Леви, психолог из Стэнфордского университета. — Люди учатся тому, что агрессия окупается, и переносят это в реальные взаимодействия».

Вам может быть интересно: главные новости Нью-Йорка, истории наших иммигрантов и полезные советы о жизни в Большом Яблоке – читайте все это на ForumDaily New York

OpenAI, разработчик ChatGPT, заявила, что уже работает над смягчением таких эффектов: «Мы постоянно улучшаем наши модели, чтобы они поощряли уважительное общение».

Исследователи рекомендуют пользователям придерживаться вежливости не только из этических соображений, но и ради долгосрочной пользы.

«Точность важна, — подчеркнул Чжан, — но не за счёт человечности».

Надо сказать, что грубость действительно способна дать краткосрочный выигрыш в точности ИИ, но учёные предупреждают: цена может оказаться слишком высокой.

Читайте также на ForumDaily:

Полиция устроила облаву на подростка из-за чипсов, которые ИИ-камера приняла за пистолет

Chat GPT помог найти виновника смертоносного лесного пожара в Лос-Анджелесе

Chat GPT может выполнять за вас трудоемкие и времязатратные задачи: что он умеет делать

Хотите больше важных и интересных новостей о жизни в США и иммиграции в Америку? — Поддержите нас донатом! А еще подписывайтесь на нашу страницу в Facebook. Выбирайте опцию «Приоритет в показе» —  и читайте нас первыми. Кроме того, не забудьте оформить подписку на наш канал в Telegram  и в Instagram— там много интересного. И присоединяйтесь к тысячам читателей ForumDaily New York — там вас ждет масса интересной и позитивной информации о жизни в мегаполисе.