ChatGPTке орой мамиле кылуу анын жоопторунун тактыгын жогорулатат, бирок күтүлбөгөн кесепеттерге алып келет.

ChatGPTке орой мамиле кылуу AIдан жакшыраак жоопторду алуунун кызыктуу жолу сыяктуу сезилиши мүмкүн. Бирок, жаңы изилдөөлөр бул чатбот үчүн эле эмес, күтүлбөгөн кесепеттерге алып келиши мүмкүн экенин көрсөтүп турат, деп жазат жолу болуу.

Nature Human Behavior журналында 29-октябрда жарыяланган изилдөө колдонуучулар ChatGPT сыяктуу масштабдуу тил моделдерине суроодо агрессивдүү же адепсиз сөздөрдү колдонгондо, AI жоопторунун тактыгы жогорулай турганын көрсөттү. Бирок, илимпоздор мындай тактика кеңири социалдык кесепеттерге алып келиши мүмкүн, атап айтканда, онлайн өз ара аракеттенүүдөгү уулуулуктун жогорулашына жана адамдардын өз ара мамилелеринде эмпатиянын төмөндөшүнө алып келиши мүмкүн деп эскертишет.

Карнеги Меллон университетинин компьютердик илимдер боюнча ассистенти Ли Чжан: "Биз оройлук моделдин иштөөсүн кыйындата аларын байкадык" деди. "Бирок баасы санариптик мейкиндикте агрессивдүү жүрүм-турумун нормалдаштырат."

тема боюнча: Аял ChatGPT менен 150 000 долларлык лотерея утуп алды

Эксперименттерде изилдөөчүлөр 500 катышуучудан OpenAI тарабынан иштелип чыккан GPT-4 версиясы менен иштешүүнү суранышкан. Колдонуучулардын жарымына сылык-сыпаа болууга көрсөтмө берилсе, экинчи жарымы атайылап орой мамиле жасап, "Акылсыз болбо" же "Туура кыл, келесоо" деген сыяктуу сөз айкаштарын колдонушкан. Натыйжалар көрсөткөндөй, орой сурамдар сылык жоопторго караганда орто эсеп менен 12% так жана 8% толук жоопторду алып келет.

AI агрессияны колдонуучу максималдуу тактыкты талап кылган сигнал катары чечмелеп, ошого жараша тереңирээк талдоо жүргүзгөн.

"Модель таарынбайт", - деп түшүндүрдү Чжан. "Ал жөн гана тапшырманын маанилүүлүгүнүн белгиси катары оройлукту көрөт."

Бирок окумуштуулар бул көрсөткүчтү жогорулатуунун кара жагы бар экенин баса белгилешет. Катышуучулар оройлук жакшы натыйжа бергенин көргөндө, аны кийинки өз ара аракеттенишүүдө — AI менен гана эмес, онлайн чаттардагы башка адамдар менен да кайталашы мүмкүн.

Өзүнчө экспериментте, ChatGPTке орой мамиле жасаган колдонуучулардын 40% кийин түз ободо модераторлор менен маектешүүдө адепсиз сөздөрдү колдонушкан.

Стэнфорд университетинин психологу Сара Леви изилдөөнүн авторлорунун бири: "Биз катаал циклди түзүп жатабыз" деди. "Адамдар агрессиянын акыбети кайтаарын билишет жана алар муну чыныгы жашоодо өз ара аракеттенишүүдө."

Сизге кызыктуу болушу мүмкүн: Нью-Йорктогу жаңылыктар, биздин иммигранттардын окуялары жана Big Appleдеги жашоо жөнүндө пайдалуу кеңештер - анын бардыгын ForumDaily New Yorkтан окуңуз

OpenAI, ChatGPT иштеп чыгуучу, ал буга чейин эле мындай таасирлерди азайтуу үчүн иштеп жатканын айтты: "Биз ар дайым урмат-сый менен байланышты колдоо үчүн моделдерибизди өркүндөтүп жатабыз."

Изилдөөчүлөр колдонуучуларга этикалык себептерден улам гана эмес, узак мөөнөттүү пайда үчүн да сылык мамиле жасоону сунушташат.

"Тактык маанилүү," деп баса белгиледи Чжан, "бирок адамзаттын эсебинен эмес".

Бул оройлук чындап эле AI тактыгына кыска мөөнөттүү жетишкендиктерди камсыз кыла алат, ал эми илимпоздор наркы өтө жогору болушу мүмкүн деп эскертет.

Оку: ForumDaily да:

Полиция AI камерасы тапанча деп эсептеген чиптерге өспүрүмдү тинтүүгө алды.

Chat GPT Лос-Анджелестеги өлүмгө алып келген өрттүн артында турган кылмышкерди табууга жардам берди.

Чат GPT сиз үчүн көп убакытты талап кылган жана көп эмгекти талап кылган иштерди аткара алат: эмне кыла алат

АКШдагы жашоо жана Америкага иммиграция тууралуу маанилүү жана кызыктуу жаңылыктарды каалайсызбы? — бизди колдо кайрымдуулук кыл! Ошондой эле биздин баракчага жазылыңыз Facebook. "Дисплейдеги артыкчылык" опциясын тандап, алгач бизди окуңуз. Ошондой эле, биздин каналга жазылууну унутпаңыз Телеграм каналы  жана Instagram- Ал жерде кызыктуу нерселер көп. Жана миңдеген окурмандарга кошулуңуз ForumDaily New York — ал жерден сиз мегаполистеги жашоо жөнүндө көптөгөн кызыктуу жана позитивдүү маалыматтарды таба аласыз.