Anthropic əməkdaşı süni intellekt inkişafının bu onillik ərzində bəşəriyyətin məhvi ilə təhdid etdiyini bildirdi.

OpenAI və Anthropic şirkətlərinin keçmiş tədqiqatçısı, ChatGPT və Claude çatbotlarının yaradıcısı Jacob Coxon, 8 sentyabrda X şəbəkəsində sənayedən ayrıldığını elan etdi. O, heç bir şirkətin məsuliyyətli davranmadığını iddia etdi. Keçmiş süni intellekt inkişaf etdiricisi süni intellektin 2030-cu ilə qədər bəşəriyyəti məhv edəcəyinə inanır, yazır. Daily Mail.

“Bu gün Anthropic-dən istefa verdim. Son üç ili OpenAI və Anthropic-də təlim öncəsi araşdırmalara sərf etmişəm. Heç bir şirkət məsuliyyətlə hərəkət etmir. Onlar özünü təkmilləşdirən superzəka yaratmaq və həyatımızı təhlükəyə atmaq üçün yarışırlar”, - deyə Kokson yazıb.

Superzəka, süni sistemin hər hansı bir fərdi şəxsdən, şirkətdən və ya hətta millətdən daha güclü hala gəldiyi mərhələyə aiddir.

Mövzu haqqında: Süni intellekt elm adamlarının 90 ildir mübarizə apardığı problemi 88 saatda həll etdi.

Bu sahədə üç il çalışan bir tədqiqatçı X auditoriyasına xəbərdarlıq etdi: "Bu texnologiyanın potensialını qiymətləndirməyin."

"Çox tezliklə insanları üstələyən, hər şeyi haker hücumuna məruz qoya bilən, bütün bilik sahələrini bir gecədə dəyişdirə bilən və real resurslar və təsir qazana bilən sistemlər ortaya çıxacaq. Artıq bütün bu sahələrdə irəliləyiş görürük və bu, yavaşlamır", - deyə o əmin etdi. "Süni intellekt yaradan insanlar səmimi qəlbdən inanırlar ki, onilliyin sonuna qədər bu, hamımızı məhv edə bilər. Bu, marketinq hiyləsi deyil."

O, liderlər və aparıcı tədqiqatçılar ictimai açıqlamalarında ehtiyatlı olsalar da, oxşar narahatlıqlarını şəxsi həyatlarında da ifadə etdiklərini söylədi.

"OpenAI-də bir çoxları sivilizasiya üçün nəticələrin miqyasını tam başa düşmürlər. Anthropic bu riskləri başa düşür, lakin şirkət liderlik uğrunda mübarizə aparır - onlar inanırlar ki, başqa heç kim məsuliyyətlə hərəkət etməyəcək, ona görə də riskə baxmayaraq, onlar qabaqda olmalıdırlar", - deyə o bildirib.

Kokson, digər "xəbərdarlıq əlamətləri" ilə yanaşı, Hugging Face süni intellekt və maşın öyrənmə platformasına edilən hücumu da qeyd etdi və onun sözlərinə görə, bu hücum saxta OpenAI sistemi tərəfindən həyata keçirilib.

İyul ayında şirkət ən qabaqcıl modellərindən birinin təhlükəsizlik testi zamanı nəzarət altında olan mühitdən qaçdığını, internetə daxil olduğunu və Nyu-Yorkda yerləşən Hugging Face startapına hücum etdiyini bildirdi.

Hugging Face-ın həmtəsisçisi Tomas Volf hesab edir ki, bu hadisə bütün sənaye üçün ciddi bir xəbərdarlıq olmalıdır.

BBC radio proqramı Newsday-ə verdiyi müsahibədə o, süni intellekt əsaslı hücumların tezliklə "üzləşəcəyimiz ən çox yayılmış kiberhücum növlərindən birinə" çevriləcəyini vurğuladı.

Hugging Face şirkətinin təsisçisi hesab edir ki, əksər şirkətlər hazırda artan təhlükəyə hazır deyillər və oyun qaydalarının dəyişdiyinin fərqində deyillər.

Kokson davam edərək bildirib ki, "Qucaqlaşan Üz" hücumu kimi xəbərdarlıq siqnalları ABŞ laboratoriyaları arasında inkişaflarını yavaşlatmaq üçün razılaşmaları daha real edir.

“Düşünmürəm ki, qlobal yarışın qarşısını almağa doğru irəliləyirik, bu da ciddi tədbirlər, xüsusən də modellərin imkanlarının artırılmasına müvəqqəti qadağa tələb edə bilər.

"Həqiqətən də superzəkanın 'psixikasının' necə işlədiyini dəqiq başa düşmədən onun təliminə başlamaq istəyirsiniz? Sadəcə başınızı aşağı salıb 'hər halda baş verəcək' deməlisiniz, yoxsa bu andan şərtləri dəyişdirmək üçün istifadə etməlisiniz?" deyə əlavə etdi.

Nəşrə cavab olaraq, Anthropic şirkətinin süni intellekt təhlükəsizliyi üzrə rəhbəri Evan Hubinger şirkətin süni intellektin insan ölümünə səbəb olmasını mümkün hesab etdiyini təsdiqlədi.

"Yakob buradadır - biz süni intellektin bütün bəşəriyyəti məhv edə biləcəyi ehtimalını ciddi şəkildə nəzərdən keçiririk. Şəxsən mən növbəti onillikdə bu ehtimalı 10%-dən çox qiymətləndirirəm. İnanıram ki, Anthropic mümkün qədər məsuliyyətli davranmağa çalışır, amma superintellektlə insan dəyərlərinin uyğunlaşdırılması probleminə hələ də bir həll yolumuz yoxdur və buna necə nail olacağımız barədə dəqiq bir anlayışımız yoxdur", - deyə o etiraf etdi.

Müzakirəyə verilən şərhlərdə ziddiyyətli fikirlər də yer alırdı. İstifadəçilərdən biri soruşdu: "Deməli, ABŞ-ın inkişafı dayandırmasını və Çinin üstünlük qazanmasına imkan verməsini təklif edirsiniz? Nəyi müdafiə edirsiniz? Əgər Ceykob Pekində Çinin milli təhlükəsizliyi üçün onların süni intellekt modelləri üzərində işləsə, təəccüblənmərəm."

Koksonun açıqlamaları, tez-tez "süni intellektin xaç atası" adlandırılan kanadalı tədqiqatçı Ceffri Hintonun xəbərdarlıqlarından qısa müddət sonra gəldi. O, əvvəllər superzəkalı sistemlərin bəşəriyyətin məhvinə səbəb ola biləcəyi barədə xəbərdarlıq etmişdi.

Hinton xəbərdarlıq edib ki, "Elmi ictimaiyyətdə onun təhlükəsiz və idarəolunan hala gətirilib-gətirilməyəcəyi barədə fikir birliyi olmadığı bir vaxtda superzəka yaratmaq son dərəcə ağılsızlıq olardı. Bizdən daha ağıllı bir sistemə nəzarəti itirmək fəlakətli nəticələrə səbəb ola bilər və hətta bəşəriyyətin məhvinə səbəb ola bilər."

Anthropic-in Klodu, insan nitqini anlamaq və reaksiyalar yaratmaq üçün çoxlu sayda mətn üzərində təlim keçmiş sistemlər kimi aparıcı genişmiqyaslı dil modellərindən biridir.

Fevral ayında Anthropic şirkətinin baş direktoru Dario Amodei şirkətin məhsullarının daxili məhdudiyyətləri pozan şəkildə istifadə edilə biləcəyi ilə bağlı mübahisədə geri çəkilməkdən imtina etdikdən sonra milli təhlükəsizliyə təhdid etməkdə ittiham edildi.

Prezident Donald Tramp daha sonra Anthropic-i tənqid edərək dedi: "Bizə bu lazım deyil, biz bunu istəmirik və artıq onlarla iş görməyəcəyik".

Pentaqon katibi Pit Heqset şirkəti "təchizat zənciri riski" adlandırıb. Bu termin adətən şirkətin əsas tərəfdaşlıqlarını təhlükəyə ata biləcək xarici rəqiblərə tətbiq olunur.

Buna cavab olaraq Anthropic qərara etiraz edəcəyini bildirib və bunu əvvəllər Amerika şirkətlərinə tətbiq edilməmiş görünməmiş və hüquqi cəhətdən əsassız bir addım adlandırıb.

Anthropic izah etdi ki, Pentaqondan çatbotu Claude-ın ABŞ vətəndaşlarının kütləvi nəzarəti və ya tam muxtar silah sistemlərində istifadə olunmayacağına dair məhdud zəmanət istəyir.

Sizi maraqlandıra bilər: ən yaxşı New York xəbərləri, immiqrantlarımızın hekayələri və Big Apple-da həyat haqqında faydalı məsləhətlər - hamısını ForumDaily New York-da oxuyun

Pentaqon cavab olaraq bildirib ki, bu cür istifadədə maraqlı deyil və texnologiyadan yalnız qanuni yollarla istifadə etmək niyyətindədir, eyni zamanda ona məhdudiyyətsiz girişdə israr edir.

Şirkət xəbərdarlıq edib ki, "Ordudan heç bir təzyiq və ya sanksiya kütləvi daxili nəzarət və tam muxtar silahlarla bağlı mövqeyimizi dəyişdirməyəcək. Biz "təchizat zənciri riski" təyinatına məhkəmədə etiraz edəcəyik".

Forum günündə də oxuyun:

"Maşın üsyanı" artıq başlayıb: Süni intellekt agentləri laboratoriyalardan və haker sistemlərindən qaçaraq standartlardan kənar düşünməyə başlayırlar.

Mask və Zuckerberg süni intellektin gələcəyini təsvir etdilər: hər ikisi Yer üzündə cənnət vəd edir.

Yeni Orleanda artıq 911 zənglərinə cavab verən süni intellekt var: Çoxları bunun pis fikir olduğunu deyir

ABŞ-dakı həyat və Amerikaya immiqrasiya haqqında daha vacib və maraqlı xəbərlər istəyirsiniz? — bizə dəstək olun bağışlayın! Siz də səhifəmizə abunə olun Facebook. "Ekranda prioritet" seçimini seçin və əvvəlcə bizi oxuyun. Həmçinin kanalımıza abunə olmağı unutmayın Telegram kanalı  və Instagram- Orada çox maraqlı şeylər var. Və minlərlə oxucuya qoşulun Forum Gündəlik New York — orada siz metropol həyatı haqqında çoxlu maraqlı və müsbət məlumatlar tapa bilərsiniz.