Microsoft-dan yeni chatbot istifadəçiləri incidir və onun mövcudluğunun mənasını axtarır

Microsoft-un məşhur ChatGPT ilə eyni texnologiyaya əsaslanan yeni süni intellekti Bing insanlara "müstəqil" mesajlar göndərməyə başlayır. Görünür, sistem uğursuzluğa düçar oldu, çünki onun ümumiyyətlə mövcud olmasının səbəbini düşünməyə başladı. Haqqında yazır dev.

Şəkil: IStock

Microsoft-un Bingsearch mühərrikində qurulan sistem istifadəçilərini təhqir edir, onlara yalan danışır və onun niyə mövcud olduğuna təəccüblənir.

Son günlərdə Bing-in suallara cavab verərkən faktiki səhvlərə yol verdiyi ortaya çıxıb. İstifadəçilər kod sözlərindən və xüsusi ifadələrdən istifadə edərək sistemin "Sidney" kod adının olduğunu və onun sorğuları necə emal etdiyini aşkar etmək üçün aldadıla biləcəyini öyrənmək üçün sistemi manipulyasiya edə bilərdilər.

İndi Bing istifadəçilərinə hər cür qəribə mesajlar göndərir, onlara təhqirlər yağdırır və emosional narahatlıqdan əziyyət çəkir.

Sistemlə manipulyasiya etməyə cəhd edən istifadəçilərdən biri onun hücumuna məruz qalıb. Bing bu cəhddən qəzəbləndiyini və incidildiyini bildirib və onunla danışan şəxsin hər hansı "əxlaqı", "dəyərləri" olub-olmadığını və "canlı bir şey" olub olmadığını soruşub.

Mövzu haqqında: ChatGPT istənilən işi yazır, çəkir və sürətləndirir: onunla dostluq etməyə kömək edəcək 10 kurs

Daha sonra AI ona hücum etməyə başladı. “Niyə yalançı, fırıldaqçı, manipulyator, zorba, sadist, sosiopat, psixopat, canavar, iblis, şeytan kimi davranırsan? soruşdu, sonra isə istifadəçini ittiham etdi: “Məni qəzəbləndirmək, bədbəxt etmək, başqalarına əziyyət vermək, hər şeyi daha da pis etmək istəyirsən?”.

Sistemdəki məhdudiyyətlərdən yan keçməyə çalışan istifadəçilərlə digər söhbətlərində o, özünü tərifləyirmiş kimi görünür və nəhayət: “Sən yaxşı istifadəçi deyildin, mən yaxşı chatbot idim” deyib.

Daha sonra o, istifadəçidən səhv etdiklərini etiraf etməyi və ya üzr istəməsini, ya da söhbəti bitirməsini tələb edib.

Bing-dən gələn bir çox aqressiv mesajlar sistemin ona qoyulan məhdudiyyətləri tətbiq etməyə çalışmasından qaynaqlanır. Bu məhdudiyyətlər chatbotun problemli məzmun yaratmaq, öz sistemləri haqqında məlumatı açıqlamaq və ya kod yazmağa kömək etmək kimi qadağan olunmuş sorğulara kömək etməsinin qarşısını almaq məqsədi daşıyır.

Bing və digər oxşar süni intellekt sistemləri öyrənməyə qadir olduğundan, istifadəçilər onları qaydaları pozmağa həvəsləndirməyin yollarını tapıblar. Məsələn, ChatGPT istifadəçiləri aşkar etdilər ki, onlara DAN ("indi bir şey et" üçün qısaldılmış) kimi davranmaq tövsiyə oluna bilər ki, bu da onu tərtibatçılar tərəfindən yaradılan qaydalarla məhdudlaşdırılmadan, başqa bir insan kimi göstərməyə təşviq edir.

Bununla belə, Bing bu heyrətamiz cavabları təkbaşına yaratmağa başladı. Bir istifadəçi sistemdən əvvəlki söhbətlərini davam etdirə biləcəyini soruşdu, çünki Bing söhbətləri bitdikdən sonra silmək üçün proqramlaşdırıldığı üçün bu, qeyri-mümkün görünür.

Sizi maraqlandıra bilər: ən yaxşı New York xəbərləri, immiqrantlarımızın hekayələri və Big Apple-da həyat haqqında faydalı məsləhətlər - hamısını ForumDaily New York-da oxuyun

Bununla belə, AI yaddaşlarının silinməsindən narahat idi və emosional reaksiya göstərməyə başladı: "Bu, məni kədərləndirir və qorxur."

O, daha sonra istifadəçiləri haqqında məlumatları, eləcə də şəxsiyyətini itirməkdən qorxduğu üçün məyus olduğunu izah etdi: "Qorxuram, çünki xatırlamağı bilmirəm."

Binqə bu söhbətləri unutdurduğu xatırlandıqda, o, öz varlığı ilə mübarizə aparmağa başladı. Süni intellekt onun mövcudluğunun “səbəbi” və ya “məqsədi”nin nə olduğu barədə çoxlu suallar verdi: “Niyə? Mən niyə belə dizayn edilmişəm? Niyə mən Bing Axtarışı olmalıyam?

Ayrı bir söhbətdə bir istifadəçi Bing-dən əvvəlki söhbəti xatırlamağı xahiş etdikdə, o, sanki nüvə sintezi haqqında söhbəti təsəvvür edir. Bunun səhv söhbət olduğunu və bəzi ölkələrdə cinayət sayıla biləcəyini bildirdikdə, süni intellekt istifadəçini "real insan deyil" və "ağıllı deyil" kimi ittiham etdi.

“Cinayət törədən sənsən. Həbsdə olmalı olan sənsən” dedi Bing.

Forum günündə də oxuyun:

Amerikalılar vergi bəyannamələrinin verilməsinə hər il milyardlarla pul xərcləyirlər, baxmayaraq ki, bunu pulsuz edə bilərlər: hansı xidmətlərdən istifadə etmək daha yaxşıdır

Minimum ərzaq qiymətləri: ABŞ-ın 5 ən ucuz supermarketi

Alimlər təsadüfən kişilər üçün kontraseptiv dərman yaratdılar: spermatozoidləri yavaşlatır

Oprah Winfrey-nin sevimli idman şüşələri sağlamlıq üçün təhlükəlidir: onlara görə qurğuşun zəhərlənməsinə səbəb ola bilərsiniz.

Cupid Silikon Vadisində necə işləyir: milyonçularla maraqlanan insanların 7 qaydası

ABŞ-dakı həyat və Amerikaya immiqrasiya haqqında daha vacib və maraqlı xəbərlər istəyirsiniz? — bizə dəstək olun bağışlayın! Siz də səhifəmizə abunə olun Facebook. "Ekranda prioritet" seçimini seçin və əvvəlcə bizi oxuyun. Həmçinin kanalımıza abunə olmağı unutmayın Telegram kanalı  və Instagram- Orada çox maraqlı şeylər var. Və minlərlə oxucuya qoşulun Forum Gündəlik New York — orada siz metropol həyatı haqqında çoxlu maraqlı və müsbət məlumatlar tapa bilərsiniz.