ChatGPT-yə qarşı kobudluq onun cavablarının dəqiqliyini artırır, lakin gözlənilməz nəticələrə gətirib çıxarır.

ChatGPT-yə qarşı kobud olmaq AI-dan daha yaxşı cavablar almaq üçün əyləncəli bir yol kimi görünə bilər. Bununla belə, yeni araşdırmalar göstərir ki, bu, təkcə chatbot üçün deyil, gözlənilməz nəticələrə səbəb ola bilər Bəxt.

Oktyabrın 29-da “Nature Human Behavior” jurnalında dərc edilən araşdırmada müəyyən edilib ki, istifadəçilər ChatGPT kimi geniş miqyaslı dil modellərinə sorğularda aqressiv və ya təhqiredici dildən istifadə etdikdə süni intellekt cavablarının dəqiqliyi artır. Bununla belə, elm adamları xəbərdarlıq edirlər ki, bu cür taktika daha geniş sosial nəticələrə, xüsusən də onlayn qarşılıqlı əlaqədə toksikliyin artmasına və insanlarla qarşılıqlı əlaqədə empatiyanın potensial azalmasına səbəb ola bilər.

Carnegie Mellon Universitetinin kompüter elmləri üzrə dosenti, aparıcı müəllif Li Zhang dedi: "Biz aşkar etdik ki, kobudluq həqiqətən modeli daha da çətinləşdirə bilər". “Ancaq qiymət odur ki, rəqəmsal məkanda aqressiv davranışı normallaşdırır”.

Mövzu haqqında: Qadın ChatGPT ilə 150.000 dollarlıq lotereya qazandı

Təcrübələrdə tədqiqatçılar 500 iştirakçıdan OpenAI tərəfindən hazırlanmış GPT-4 versiyası ilə qarşılıqlı əlaqə qurmağı xahiş etdilər. İstifadəçilərin yarısına nəzakətli olmaları, digər yarısına isə “Axmaq olma” və ya “Doğru et, axmaq” kimi ifadələr işlətməklə, qəsdən kobudluq göstərilib. Nəticələr göstərdi ki, kobud sorğular nəzakətli olanlardan orta hesabla 12% daha dəqiq və 8% daha dolğun cavablarla nəticələnir.

Süni intellekt, təcavüzü istifadəçinin maksimum dəqiqlik tələb etdiyinə dair bir siqnal kimi şərh etdi və müvafiq olaraq daha dərin təhlili aktivləşdirdi.

"Model inciməz" deyə Zhang izah etdi. "O, sadəcə olaraq kobudluğu tapşırığın vacibliyinin göstəricisi kimi görür."

Lakin elm adamları bu performans artımının qaranlıq tərəfinin olduğunu vurğulayırlar. İştirakçılar kobudluğun işə yaradığını görəndə, bunu sonrakı qarşılıqlı əlaqədə – təkcə AI ilə deyil, həm də onlayn söhbətlərdə digər insanlarla təkrar etmək ehtimalı daha yüksək idi.

Ayrı bir təcrübədə ChatGPT-yə qarşı kobud davranan istifadəçilərin 40%-i sonradan canlı moderatorlarla söhbətlərdə təhqiredici dildən istifadə edib.

Stenford Universitetinin psixoloqu, tədqiqatın həmmüəllifi Sarah Levy, "Biz pis bir dövrə yaradırıq" dedi. "İnsanlar aqressiyanın öz bəhrəsini verdiyini öyrənir və bunu real həyatdakı qarşılıqlı əlaqəyə köçürürlər."

Sizi maraqlandıra bilər: ən yaxşı New York xəbərləri, immiqrantlarımızın hekayələri və Big Apple-da həyat haqqında faydalı məsləhətlər - hamısını ForumDaily New York-da oxuyun

ChatGPT-nin inkişaf etdiricisi OpenAI, artıq bu cür təsirləri azaltmaq üçün işlədiyini söylədi: "Biz hörmətli ünsiyyəti təşviq etmək üçün modellərimizi daim təkmilləşdiririk."

Tədqiqatçılar istifadəçilərə təkcə etik səbəblərə görə deyil, həm də uzunmüddətli faydalar üçün nəzakətli davranmağı tövsiyə edir.

"Dəqiqlik vacibdir," Zhang vurğuladı, "lakin insanlıq bahasına deyil."

Nəzərə almaq lazımdır ki, kobudluq həqiqətən süni intellekt dəqiqliyində qısamüddətli qazanc təmin edə bilsə də, elm adamları bunun dəyərinin çox yüksək ola biləcəyi barədə xəbərdarlıq edirlər.

Forum günündə də oxuyun:

Polis süni intellekt kamerasının silahla səhv saldığı çiplər üzərində bir yeniyetməyə basqın etdi.

Chat GPT ölümcül Los Angeles meşə yanğınının arxasında günahkar tapmağa kömək etdi.

Chat GPT Sizin üçün çox vaxt aparan və çox əmək tələb edən tapşırıqları yerinə yetirə bilər: Nə edə bilər

ABŞ-dakı həyat və Amerikaya immiqrasiya haqqında daha vacib və maraqlı xəbərlər istəyirsiniz? — bizə dəstək olun bağışlayın! Siz də səhifəmizə abunə olun Facebook. "Ekranda prioritet" seçimini seçin və əvvəlcə bizi oxuyun. Həmçinin kanalımıza abunə olmağı unutmayın Telegram kanalı  və Instagram- Orada çox maraqlı şeylər var. Və minlərlə oxucuya qoşulun Forum Gündəlik New York — orada siz metropol həyatı haqqında çoxlu maraqlı və müsbət məlumatlar tapa bilərsiniz.