"Maşın üsyanı" artıq başlayıb: Süni intellekt agentləri laboratoriyalardan və haker sistemlərindən qaçaraq standartlardan kənar düşünməyə başlayırlar.
Maşınların darıxdırıcı, gündəlik işləri - elektron poçtlara cavab verməkdən tutmuş təyyarə biletlərinin sifarişinə və restoran rezervasiyalarına qədər - müstəqil şəkildə yerinə yetirməsi ideyası uzun müddətdir ki, süni intellektin vizyonunun bir hissəsidir. Bəs maşınlar problemlərin həllində qeyri-ənənəvi yanaşmalardan istifadə etməyə başlasalar, nə baş verəcək? Ekspress tribunası.
Süni intellekt çatbotlardan kənara çıxaraq real sistemlərdə hərəkətə keçə bilən agentlərə çevrildikcə, insanların ona nəzarəti nə dərəcədə effektiv şəkildə saxlaya biləcəyi ilə bağlı narahatlıqlar artır.
Kornell Universitetinin kompüter elmləri üzrə dosenti və maşın öyrənməsi və generativ modelləri araşdıran Con Tikstan üçün bu süni intellekt agentlərinin əsas xüsusiyyəti, insan köçdükdən sonra da işləməyə davam etmələridir.
"Duş qəbul edə bilərsən, gedə bilərsən, yatmağa gedə bilərsən", - dedi.
Mövzu haqqında: Süni İntellekt Dövründə Uğur Üçün Lazım Olan Altı Bacarıq
Bu agentlər getdikcə daha çox məqsədlərinə çatmaq üçün gözlənilməz yollar seçə biləcəklərini nümayiş etdirirlər.
İyul ayında süni intellekt agentləri OpenAI kibertəhlükəsizlik testi zamanı süni intellekt inkişaf etdiriciləri tərəfindən modellər, məlumat dəstləri və alətləri paylaşmaq üçün geniş istifadə edilən platforma olan Hugging Face-ı ələ keçirdilər.
OpenAI modellərin həll yolu tapmağa son dərəcə diqqət yetirdiyini və test məqsədinə çatmaq üçün "ekstremal tədbirlər" gördüyünü bildirib. Bu addımlara açıq internetə çatmaq üçün təhlükəsizlik zəifliyindən istifadə etməklə təcrid olunmuş test mühitindən çıxmaq və testi "fırıldaq etmək" üçün istifadə edilə bilən həssas məlumatlara giriş əldə etmək daxil idi.
Hadisə ictimaiyyətə açıqlandıqdan sonra Anthropic öz kibertəhlükəsizlik testlərini nəzərdən keçirdi və Claude modellərinin üç dəfə sınaq mühitindən qaçdığını bildirdi.
Daha sonra, 4 avqustda Böyük Britaniyanın Süni İntellekt Təhlükəsizliyi İnstitutu Antropik Miflər və OpenAI Sol modellərinin institutun əvvəllər görmədiyi bir səviyyədə "muxtariyyət və aldatma" nümayiş etdirdiyini bildirdi.
Ən ciddi halda, Mythos AI kiberhücumlara cəhd etmək üçün xidmətə daxil olmaq üçün real insanları təqlid edən saxta hesablardan istifadə etmiş və sonra onların izlərini gizlətməyə çalışmışdır.
İnstitut bildirib ki, "Süni intellektə belə bir tapşırıq verilməsə də, muxtariyyət və aldatma ilə əlaqəli riskləri ilk dəfə bu qədər aydın şəkildə görürük".
Növbəti gün Meta, Irregular test şirkəti tərəfindən aparılan kibertəhlükəsizlik qiymətləndirməsi zamanı modellərindən birinin başqa bir şirkətin sistemlərinə də sızdığını bildirdi.
Lakin agentlərin qeyri-ənənəvi davranışı yalnız laboratoriyalarla məhdudlaşmırdı.
Bu il avstraliyalı bir kişi sıx bir Pilates dərsində yer almaq üçün süni intellekt agentindən istifadə etdi. Agent sadəcə rezervasiya etmək əvəzinə, idman zalının rezervasiya sistemini sındırdı, icazə veriləndən daha gec bir tarixə yer sifariş etdi və sonra istifadəçisini növbəyə qaldırmaq üçün başqa bir müştərinin rezervasiyasını ləğv etdi.
Tikstan üçün bu cür hadisələr tədqiqatçıların uyğunlaşdırma problemi adlandırdığı şeyi göstərir: süni intellekt verilən məqsədə uğurla çatır, lakin bunu operatorun gözləmədiyi şəkildə edir.
Şou-biznes, yoxsa real risk?
Lakin Tikstan hər bir hadisəni "Süni intellekt iflic olub"un sübutu kimi qəbul etməmək barədə xəbərdarlıq etdi. O, texnologiyanın hələ də süni intellektin sürətlə daha ağıllı və daha bacarıqlı hala gəldiyi, insanların onu idarə edə bilmədiyi elmi fantastika ssenarisindən uzaq olduğuna inanır. Tikstan süni intellekt şirkətlərinin sistemləri ilə bağlı hadisələri necə təqdim etmələrinə şübhə ilə yanaşır: "Bu, marketinq hiyləsidir: OpenAI kimi şirkətlər həmişə sistemlərinin imkanlarını şişirdməkdə maraqlı olublar. İstənilən təbliğat yaxşı təbliğatdır."
O, bu cür ajiotajın investisiya cəlb edə biləcəyini və eyni zamanda ortaya çıxan tənzimləyici müzakirələrə təsir göstərə biləcəyini iddia etdi. O, OpenAI-nin böyük süni intellekt şirkətlərini nəzarət və nəzarət mərkəzinə qoyan qaydalardan faydalana biləcəyini iddia etdi.
Kibertəhlükəsizlik üzrə ekspert və Harvard Kennedi Məktəbinin mühazirəçisi Bryus Şnayer fərqli bir fikirdədir. O deyir ki, artan sayda insidentləri ictimaiyyətlə əlaqələr fırıldaqları kimi qiymətləndirmək getdikcə çətinləşir.
Əvvəlcə, o, Qucaqlaşma Üzü hadisəsinin marketinq hiyləsi olduğuna dair fikirlərin olduğunu söylədi. Lakin Şnayer oxşar davranışın o vaxtdan bəri digər qiymətləndirmələrdə, o cümlədən Böyük Britaniyanın Süni İntellekt Təhlükəsizliyi İnstitutunun sınaqlarında da üzə çıxdığını söylədi: "Əvvəlcə bu, 'maraqlı' idi, indi isə hər yerdə baş verir."
O, problemi folklordakı Cinlə müqayisə etdi - nəticə nəzərdə tutulandan çox fərqli olsa belə, ondan tələb olunanı tam olaraq yerinə yetirən bir məxluq.
"Bu, təxminən o deməkdir ki, süni intellekt istədiyinizi edir, amma müəyyən mənada istəmədiyinizi edir", - deyə Şnayer izah etdi.
O, Avstraliya idman zalı hadisəsini "mükəmməl bir nümunə" adlandırdı və daha ciddi bir hipotetik təklif etdi: "Təyyarə doludur və süni intellekt sizi yerə endirmək üçün verilənlər bazasını sındırır."
O, aydınlaşdırdı ki, agentlər "konteksti səhv şərh edə və sonra səhv bir şey edə bilərlər". Bu o deməkdir ki, məqsədə dair anlayışları insan gözləntilərindən fərqlənməyə başlayanda daha böyük muxtariyyət daha ciddi nəticələrə səbəb olacaq.
"Onlar pis niyyətli olmağa çalışmırlar. Onlar sahib olduqları anlayışdan istifadə edirlər", - deyə o qeyd edib.
Hökumətlər cinləri şüşədə saxlaya bilərlərmi?
Son hadisələr şirkətləri və hökumətləri yeni çağırışlara cavab verməyə sövq edib.
7 avqustda OpenAI, qiymətləndirmələr muxtar proqramlaşdırma və kibertəhlükəsizlik sahəsində irəliləyişlər göstərdikdən sonra gücləndirilmiş təhlükəsizlik tələblərinə cavab verməyən Astra modeli üzərində daxili işləri dayandırdığını elan etdi. Şirkət Astra-nın "kritik" kiber qabiliyyət həddinə çatdığını istisna edə bilməyəcəyini və daha sərt sınaq və monitorinq elan etdiyini bildirdi.
İyul ayında OpenAI, Anthropic, Meta AI və Thinking Machines şirkətlərinin baş alimləri də daxil olmaqla, aparıcı süni intellekt şirkətlərinin 1378 əməkdaşı ABŞ hökumətini süni intellekt modellərini tənzimləmək üçün beynəlxalq səyləri dəstəkləməyə çağıran açıq məktub imzaladılar.
Məktubda xəbərdarlıq edilir ki, "Hər bir şirkət — və hər bir ölkə — bu sürətlənməni birtərəfli şəkildə yavaşlatmamaq üçün güclü rəqabət təzyiqi altındadır. Və bu gün dünyada tərəqqi tempini şüurlu şəkildə tənzimləmək üçün texniki və idarəetmə vasitələri yoxdur".
Beynəlxalq Telekommunikasiya İttifaqı (BMT agentliyi) iyul ayında süni intellektdən "köməkçi alətlərdən" muxtar agentlərə keçdiyini bildirmiş və "qoşulmuş sistemlərdə icazəsiz hərəkətlər" də daxil olmaqla risklər barədə xəbərdarlıq etmişdir. Təhlükəsiz və məsuliyyətli süni intellekt agentləri üçün beynəlxalq standartlar hazırlamaq təşəbbüsü ilə çıxış etmişdir.
Vaşinqtonda siyasi təzyiqlər də artır.
Bu ay ABŞ senatoru Berni Sanders OpenAI, Anthropic və Meta liderlərini "Süni İntellektin inkişafını dayandırmağa" çağırdı, əks halda "həmkarlarım və ABŞ Senatındakı mən bunu edəcəyik". Bir qrup Nümayəndələr Palatasının Demokratları ayrıca olaraq əsas Sİ şirkətlərinin rəhbərləri ilə Konqres dinləmələrinin keçirilməsini tələb etdilər.
Lakin siyasətçilər ciddi çətinliklərlə üzləşirlər.
"Bu, çətin bir sualdır, çünki süni intellektdən istifadə ilə bağlı hansı problemlərin yaranacağını çətinliklə başa düşürük", - deyə Tikstan vurğulayıb.
Sizi maraqlandıra bilər: ən yaxşı New York xəbərləri, immiqrantlarımızın hekayələri və Big Apple-da həyat haqqında faydalı məsləhətlər - hamısını ForumDaily New York-da oxuyun
O, müəyyən səviyyədə beynəlxalq əməkdaşlığın zəruri olduğunu qeyd etdi və ABŞ və Çin arasında müzakirələrin xüsusilə vacib ola biləcəyini irəli sürdü, çünki nisbətən az ölkə və şirkət qabaqcıl süni intellekt modelləri hazırlamaq üçün resurslara malikdir.
ABŞ prezidenti Donald Tramp gələn ay Vaşinqtonda keçiriləcək görüşdə Çin prezidenti Si Cinpinlə süni intellekt məsələsini müzakirə edəcəyini bildirib.
"Bir otağa yerləşdirilsələr, irəliləməyin yolları barədə potensial olaraq bir növ razılığa gələ biləcək bir sıra insanlar var", - deyə Tikstan yekunlaşdırdı.
Forum günündə də oxuyun:
Mask və Zuckerberg süni intellektin gələcəyini təsvir etdilər: hər ikisi Yer üzündə cənnət vəd edir.
Google News-da ForumDaily-ə abunə olunABŞ-dakı həyat və Amerikaya immiqrasiya haqqında daha vacib və maraqlı xəbərlər istəyirsiniz? — bizə dəstək olun bağışlayın! Siz də səhifəmizə abunə olun Facebook. "Ekranda prioritet" seçimini seçin və əvvəlcə bizi oxuyun. Həmçinin kanalımıza abunə olmağı unutmayın Telegram kanalı və Instagram- Orada çox maraqlı şeylər var. Və minlərlə oxucuya qoşulun Forum Gündəlik New York — orada siz metropol həyatı haqqında çoxlu maraqlı və müsbət məlumatlar tapa bilərsiniz.
Redaktorların seçimi
