«Шӯриши мошинӣ» аллакай оғоз ёфтааст: агентҳои зеҳни сунъӣ берун аз қуттӣ фикр карданро сар мекунанд, аз лабораторияҳо ва системаҳои ҳакерӣ фирор мекунанд.

Идеяи он ки мошинҳо вазифаҳои дилгиркунанда ва ҳаррӯзаро мустақилона иҷро мекунанд — аз посух додан ба почтаи электронӣ то фармоиши чиптаҳои ҳавопаймо ва фармоиши тарабхонаҳо — муддати тӯлонӣ қисми биниши зеҳни сунъӣ буд. Аммо агар мошинҳо аз равишҳои ғайримуқаррарӣ барои ҳалли мушкилот истифода баранд, чӣ мешавад? Трибунаи экспресс.

Ҳангоме ки зеҳни сунъӣ аз чатботҳо фаротар рафта, ба агентҳое табдил меёбад, ки қодиранд дар системаҳои воқеӣ амал кунанд, нигарониҳо дар бораи он ки одамон чӣ гуна метавонанд онро самаранок назорат кунанд, афзоиш меёбанд.

Барои Ҷон Тикстан, дотсенти илмҳои компютерӣ дар Донишгоҳи Корнелл, ки омӯзиши мошинӣ ва моделҳои тавлидиро меомӯзад, хусусияти муайянкунандаи ин агентҳои зеҳни сунъӣ дар он аст, ки онҳо пас аз кӯчидан аз инсон ба кор идома медиҳанд.

«Шумо метавонед душ гиред, метавонед равед ва ба хоб равед», - гуфт ӯ.

Ба мавзӯи: Шаш малакаи зарурӣ барои муваффақият дар асри зеҳни сунъӣ

Ин агентҳо рӯз аз рӯз бештар нишон медиҳанд, ки онҳо метавонанд роҳҳои ғайричашмдоштро барои ноил шудан ба ҳадафҳои худ интихоб кунанд.

Дар моҳи июл, агентҳои зеҳни сунъӣ ҳангоми санҷиши амнияти киберии OpenAI платформаи Hugging Face-ро, ки аз ҷониби таҳиягарони зеҳни сунъӣ барои мубодилаи моделҳо, маҷмӯи додаҳо ва абзорҳо васеъ истифода мешавад, вайрон карданд.

OpenAI изҳор дошт, ки моделҳо ба ёфтани роҳи ҳал диққати ҷиддӣ додаанд ва барои ноил шудан ба ҳадафи озмоиш "чораҳои шадид" андешидаанд. Ин қадамҳо иборатанд аз баромадан аз муҳити озмоишии ҷудогона бо истифода аз осебпазирии амниятӣ барои дастрасӣ ба интернети кушод ва дастрасӣ ба маълумоти ҳассос, ки метавонад барои "қаллобӣ"-и озмоиш истифода шавад.

Пас аз он ки ин ҳодиса оммавӣ шуд, ширкати Anthropic озмоиши амнияти киберии худро аз назар гузаронд ва гузориш дод, ки моделҳои Claude-и он се маротиба аз муҳитҳои озмоишӣ фирор кардаанд.

Сипас, 4 август, Институти бехатарии зеҳни сунъии Британияи Кабир гуфт, ки моделҳои Anthropic Mythos ва OpenAI Sol сатҳи "мухторият ва фиреб"-ро нишон медиҳанд, ки қаблан ин институт надида буд.

Дар ҳолати ҷиддитарин, Mythos AI барои дастрасӣ ба хидмат барои кӯшиши ҳамлаҳои киберӣ аз ҳисобҳои қалбакӣ истифода бурда, худро шахсони воқеӣ муаррифӣ кардааст ва сипас кӯшиш кардааст, ки пайи онҳоро пинҳон кунад.

"Ин бори аввал аст, ки мо хатарҳои марбут ба мустақилият ва фиребро ин қадар возеҳ мебинем, ҳарчанд ба зеҳни сунъӣ чунин вазифа супурда нашуда буд", - гуфт институт.

Рӯзи дигар, ширкати Meta хабар дод, ки яке аз моделҳои он ҳангоми арзёбии амнияти киберӣ, ки аз ҷониби ширкати озмоишии Irregular гузаронида шудааст, ба системаҳои ширкати дигар низ ворид шудааст.

Аммо, рафтори ғайриоддии агентҳо танҳо ба лабораторияҳо маҳдуд набуд.

Имсол, як марди австралиягӣ барои ба даст овардани ҷой дар дарси серкори Пилатес аз агенти зеҳни сунъӣ истифода бурд. Ба ҷои он ки танҳо фармоиш диҳед, агент системаи фармоиши толори варзиширо вайрон кард, ҷойро барои санаи дертар аз мӯҳлати муқарраршуда фармоиш дод ва сипас фармоиши муштарии дигарро бекор кард, то корбари худро дар навбат боло бардорад.

Барои Тикстан, чунин ҳодисаҳо он чизеро нишон медиҳанд, ки муҳаққиқон мушкили ҳамоҳангсозӣ меноманд: зеҳни сунъӣ ҳадафи додашударо бомуваффақият пайгирӣ мекунад, аммо ин корро ба тарзе анҷом медиҳад, ки оператор интизораш набуд.

Таблиғ ё хатари воқеӣ?

Бо вуҷуди ин, Тикстан ҳушдор дод, ки ҳар як чунин ҳодисаро ҳамчун далели "бемаънии зеҳни сунъӣ" бубинанд. Ӯ бовар дорад, ки технология ҳанӯз аз сенарияи илмӣ-тахайюлӣ, ки дар он зеҳни сунъӣ зуд донотар ва қобилиятноктар мешавад, то он даме, ки одамон дигар онро идора карда наметавонанд, дур аст. Тикстан ба он ки чӣ гуна ширкатҳои зеҳни сунъӣ ҳодисаҳоро бо системаҳои худ муаррифӣ мекунанд, шубҳа дорад: "Ин як найранги маркетингӣ аст: ширкатҳо ба монанди OpenAI ҳамеша ба афзоиши имконоти системаҳои худ манфиатдор буданд. Ҳар гуна таблиғ таблиғоти хуб аст."

Ӯ изҳор дошт, ки чунин таблиғот метавонад сармоягузориро ҷалб кунад ва ҳамзамон ба баҳси танзимкунандаи нав таъсир расонад. Ба гуфтаи ӯ, OpenAI метавонад аз қоидаҳое, ки ширкатҳои бузурги зеҳни сунъиро дар маркази назорат ва назорат қарор медиҳанд, баҳра барад.

Брюс Шнайер, коршиноси амнияти киберӣ ва лектор дар Мактаби Кеннедии Ҳарвард, назари дигаре дорад. Ӯ мегӯяд, ки шумораи афзояндаи ҳодисаҳоро ҳамчун ҳилаҳои таблиғотии ҷомеа нодида гирифтан торафт душвортар мешавад.

Ӯ гуфт, ки дар аввал пешниҳодҳо буданд, ки ҳодисаи "Чеҳраи оғӯш" як найранги маркетингӣ буд. Аммо Шнайер гуфт, ки рафтори монанд аз он вақт инҷониб дар дигар арзёбӣҳо, аз ҷумла санҷишҳои Институти бехатарии зеҳни сунъии Британияи Кабир, зоҳир шудааст: "Дар аввал ин "хеле ҷолиб" буд ва ҳоло ин дар ҳама ҷо рух медиҳад."

Ӯ мушкилотро бо Ҷин аз фолклор муқоиса кард - махлуқе, ки маҳз ҳамон чизеро, ки аз ӯ талаб карда мешавад, иҷро мекунад, ҳатто агар натиҷа аз он чизе, ки дар назар дошта шуда буд, хеле фарқ кунад.

"Ин тақрибан маънои онро дорад, ки зеҳни сунъӣ кореро, ки шумо мехоҳед, иҷро мекунад, аммо ба тарзе, ки шумо намехоҳед", - шарҳ дод Шнайер.

Ӯ ҳодисаи толори варзишии Австралияро "намунаи комил" номид ва як фарзияи ҷиддитарро пешниҳод кард: "Ҳавопаймо пур аст ва зеҳни сунъӣ пойгоҳи додаҳоро барои фуруд овардани шумо ҳакерӣ мекунад."

Ӯ шарҳ дод, ки агентҳо метавонанд "контекстро нодуруст тафсир кунанд ва сипас кори нодуруст кунанд." Ин маънои онро дорад, ки вақте фаҳмиши онҳо аз ҳадаф аз интизориҳои инсонӣ фарқ мекунад, мустақилияти бештар оқибатҳои ҷиддитар хоҳад дошт.

«Онҳо кӯшиш намекунанд, ки бадхоҳ бошанд. Онҳо аз фаҳмиши худ истифода мебаранд», - қайд кард ӯ.

Оё ҳукуматҳо метавонанд ҷинро дар шиша нигоҳ доранд?

Рӯйдодҳои ахир ширкатҳо ва ҳукуматҳоро водор карданд, ки ба чолишҳои нав посух диҳанд.

Рӯзи 7 август, OpenAI эълон кард, ки корҳои дохилиро дар модели Astra-и худ, ки пас аз он ки арзёбиҳо пешрафтро дар барномасозии мустақил ва амнияти киберӣ нишон доданд, ба талаботи беҳтаршудаи амниятӣ ҷавобгӯ набуд, бозмедорад. Ширкат изҳор дошт, ки наметавонад истисно кунад, ки Astra ба ҳадди "муҳим"-и қобилияти киберӣ расидааст ва озмоиш ва мониторинги сахттарро эълон кард.

Дар моҳи июл, 1378 корманди ширкатҳои пешбари соҳаи зеҳни сунъӣ, аз ҷумла олимони асосии OpenAI, Anthropic, Meta AI ва Thinking Machines, номаи кушодаеро имзо карданд, ки дар он аз ҳукумати ИМА даъват карда шуд, ки талошҳои байналмилалиро барои танзими моделҳои зеҳни сунъӣ дастгирӣ кунад.

Дар нома ҳушдор дода мешавад, ки "ҳар як ширкат ва ҳар як кишвар зери фишори шадиди рақобат қарор дорад, то ин суръатро якҷониба суст накунад. Ва имрӯз ҷаҳон воситаҳои техникӣ ва идоракуниро барои танзими бошууронаи суръати пешрафт надорад".

Иттиҳодияи Байналмилалии Телекоммуникатсия (як ниҳоди СММ) дар моҳи июл изҳор дошт, ки зеҳни сунъӣ "аз абзорҳои ёрирасон" ба агентҳои мустақил мегузарад ва аз хатарҳо, аз ҷумла "амалҳои беиҷозат дар системаҳои пайвастшуда" ҳушдор дод. Он ташаббусеро барои таҳияи стандартҳои байналмилалӣ барои агентҳои бехатар ва масъули зеҳни сунъӣ оғоз кард.

Фишори сиёсӣ дар Вашингтон низ афзоиш меёбад.

Дар ин моҳ, сенатори ИМА Берни Сандерс аз роҳбарони OpenAI, Anthropic ва Meta даъват кард, ки "рушди зеҳни сунъиро қатъ кунанд", вагарна "ман ва ҳамкорони ман дар Сенати ИМА ин корро хоҳем кард." Як гурӯҳ демократҳои Маҷлиси Намояндагон алоҳида талаб карданд, ки муҳокимаҳои конгресс бо роҳбарони ширкатҳои бузурги зеҳни сунъӣ баргузор шаванд.

Аммо, сиёсатмадорон бо мушкилоти ҷиддӣ рӯбарӯ ҳастанд.

Тикстан таъкид кард: "Ин як саволи душвор аст, зеро мо базӯр дарк мекунем, ки бо истифода аз зеҳни сунъӣ чӣ мушкилот ба миён меоянд."

Шояд шумо ба инҳо таваҷҷӯҳ дошта бошед: хабарҳои асосии Ню-Йорк, ҳикояҳои муҳоҷирони мо ва маслиҳатҳои муфид дар бораи ҳаёт дар Big Apple - ҳамаашро дар ForumDaily New York хонед

Ӯ қайд кард, ки сатҳи муайяни ҳамкории байналмилалӣ зарур аст ва пешниҳод кард, ки музокирот байни ИМА ва Чин метавонанд махсусан муҳим бошанд, зеро кишварҳо ва ширкатҳо нисбатан кам захираҳо барои таҳияи моделҳои пешрафтаи зеҳни сунъӣ доранд.

Доналд Трамп, президенти ИМА, гуфт, ки дар мулоқоти ба нақша гирифташуда дар моҳи оянда дар Вашингтон бо Си Ҷинпин, раиси ҷумҳури Чин, масъалаи зеҳни сунъиро баррасӣ хоҳад кард.

Тикстан хулоса кард: "Як қатор одамоне ҳастанд, ки агар онҳоро дар як ҳуҷра ҷойгир кунанд, метавонанд дар бораи чӣ гуна пеш рафтан ба ягон навъ созиш бирасанд."

Инчунин онро дар рӯзҳои Forum бихонед:

Маск ва Зукерберг ояндаи зеҳни сунъиро тавсиф карданд: ҳарду биҳиштро дар рӯи Замин ваъда медиҳанд.

Дар Ню Орлеан акнун сунъи сунъӣ ба зангҳои 911 посух медиҳад: бисёриҳо мегӯянд, ки ин фикри бад аст

Як марди Флорида пас аз он ки маслиҳати тиббии ChatGPT ӯро қариб ки аз байн бурд, алайҳи OpenAI даъво пешниҳод кард.

Оё шумо мехоҳед хабарҳои муҳимтар ва ҷолибтар дар бораи зиндагӣ дар ИМА ва муҳоҷират ба Амрико? — моро дастгири кунед хайрия! Ба саҳифаи мо низ обуна шавед Facebook. Опсияи "Афзалият дар намоиш" -ро интихоб кунед ва аввал моро хонед. Инчунин ба мо обуна шуданро фаромӯш накунед Канали телеграмма  ва дар Instagram- Дар он ҷо бисёр чизҳои ҷолиб вуҷуд дорад. Ва ба ҳазорон хонандагон ҳамроҳ шавед ForumDaily Ню Йорк — дар он чо шумо дар бораи хаёти метрополия бисьёр маълумотхои шавковар ва мусбат пайдо мекунед.