«Մեքենաների ապստամբությունն» արդեն սկսվել է. արհեստական բանականության գործակալները սկսում են մտածել ստանդարտից դուրս՝ փախչելով լաբորատորիաներից և հաքերային համակարգերից։
Մեքենաների կողմից ինքնուրույն ձանձրալի, առօրյա գործողություններ կատարելու գաղափարը՝ էլեկտրոնային նամակներին պատասխանելուց մինչև ավիատոմսերի և ռեստորանների ամրագրումներ, վաղուց ի վեր մաս է կազմել արհեստական բանականության տեսլականի։ Բայց ի՞նչ կլինի, եթե մեքենաները սկսեն օգտագործել խնդիրների լուծման ոչ ավանդական մոտեցումներ։ Էքսպրես տրիբուն.
Քանի որ արհեստական բանականությունը դուրս է գալիս չաթբոտներից և վերածվում իրական աշխարհի համակարգերում գործողություններ ձեռնարկելու ունակ գործակալների, աճում են մտահոգությունները այն մասին, թե որքան արդյունավետ կարող են մարդիկ պահպանել դրա նկատմամբ վերահսկողությունը։
Քոռնելի համալսարանի համակարգչային գիտության դոցենտ Ջոն Թիքստանի համար, ով ուսումնասիրում է մեքենայական ուսուցումը և գեներատիվ մոդելները, այս արհեստական բանականության գործակալների որոշիչ առանձնահատկությունն այն է, որ նրանք շարունակում են աշխատել մարդու հեռանալուց հետո։
«Կարող ես լոգանք ընդունել, կարող ես գնալ, կարող ես քնել», - ասաց նա։
Ին առարկայի: Արհեստական բանականության դարաշրջանում հաջողության հասնելու համար անհրաժեշտ վեց հմտություններ
Այս գործակալները գնալով ավելի շատ են ցույց տալիս, որ կարող են անսպասելի ուղիներ ընտրել իրենց նպատակներին հասնելու համար։
Հուլիսին արհեստական բանականության գործակալները OpenAI կիբերանվտանգության թեստի ժամանակ կոտրեցին Hugging Face հարթակը, որը լայնորեն օգտագործվում է արհեստական բանականության մշակողների կողմից մոդելներ, տվյալների հավաքածուներ և գործիքներ փոխանակելու համար։
OpenAI-ը նշել է, որ մոդելները չափազանց կենտրոնացած էին լուծում գտնելու վրա և ձեռնարկել էին «ծայրահեղ միջոցներ»՝ թեստի նպատակին հասնելու համար: Այս քայլերի թվում էին մեկուսացված թեստային միջավայրից դուրս գալը՝ օգտագործելով անվտանգության խոցելիությունը՝ բաց ինտերնետին հասնելու և զգայուն տեղեկատվությանը մուտք գործելու համար, որը կարող էր օգտագործվել թեստը «խաբելու» համար:
Միջադեպի հրապարակումից հետո Anthropic-ը վերանայեց իր սեփական կիբերանվտանգության թեստավորումը և հայտնեց, որ իր Claude մոդելները երեք անգամ դուրս են եկել թեստային միջավայրերից։
Այնուհետև, օգոստոսի 4-ին, Մեծ Բրիտանիայի արհեստական բանականության անվտանգության ինստիտուտը հայտարարեց, որ Anthropic Mythos և OpenAI Sol մոդելները ցուցաբերել են «ինքնավարության և խաբեության» այնպիսի մակարդակ, որը ինստիտուտը նախկինում չէր տեսել։
Ամենալուրջ դեպքում, Mythos AI-ը օգտագործել է իրական մարդկանց անունից կեղծ հաշիվներ՝ ծառայությանը մուտք գործելու և կիբեռհարձակումներ իրականացնելու համար, ապա փորձել է թաքցնել դրանց հետքերը։
«Սա առաջին անգամն է, որ մենք այդքան հստակ տեսնում ենք ինքնավարության և խաբեության հետ կապված ռիսկերը, չնայած արհեստական բանականությանը նման առաջադրանք չէր տրվել», - ասաց ինստիտուտը։
Հաջորդ օրը Meta-ն հայտնեց, որ իր մոդելներից մեկը ներթափանցել է նաև մեկ այլ ընկերության համակարգեր՝ Irregular թեստավորման ընկերության կողմից անցկացված կիբերանվտանգության գնահատման ժամանակ։
Սակայն գործակալների ոչ ավանդական վարքագիծը չէր սահմանափակվում միայն լաբորատորիաներով։
Այս տարի մի ավստրալիացի տղամարդ օգտագործեց արհեստական ինտելեկտի գործակալի օգնությունը՝ պիլատեսի եռուն դասին տեղ ապահովելու համար։ Պարզապես ամրագրում կատարելու փոխարեն, գործակալը կոտրեց մարզասրահի ամրագրման համակարգը, ամրագրեց տեղ թույլատրվածից ավելի ուշ ամսաթվով, ապա չեղարկեց մեկ այլ հաճախորդի ամրագրումը՝ իր օգտատիրոջը հերթում առաջ տանելու համար։
Տիկստանի դեպքում նման միջադեպերը ցույց են տալիս այն, ինչը հետազոտողները անվանում են համաձայնեցման խնդիր. արհեստական բանականությունը հաջողությամբ հետապնդում է իրեն տրված նպատակը, բայց դա անում է այնպես, ինչպես օպերատորը չէր կանխատեսել։
Ապուշություն, թե՞ իրական ռիսկ։
Այնուամենայնիվ, Թիքստանը զգուշացրեց, որ յուրաքանչյուր նման միջադեպ չպետք է դիտարկել որպես «արհեստական բանականության անկառավարելիության» ապացույց։ Նա կարծում է, որ տեխնոլոգիան դեռևս հեռու է գիտաֆանտաստիկ սցենարից, որտեղ արհեստական բանականությունը արագորեն դառնում է ավելի խելացի և ավելի կարողունակ, մինչև մարդիկ այլևս չկարողանան վերահսկել այն։ Թիքստանը կասկածանքով է վերաբերվում այն բանին, թե ինչպես են արհեստական բանականության ընկերությունները ներկայացնում իրենց համակարգերին վերաբերող միջադեպերը. «Դա մարքեթինգային հնարք է. OpenAI-ի նման ընկերությունները միշտ հետաքրքրված են եղել իրենց համակարգերի հնարավորությունները մեծացնելով։ Ցանկացած հրապարակայնություն լավ հրապարակայնություն է»։
Նա պնդում էր, որ նման աղմուկը կարող է ներդրումներ գրավել և միաժամանակ ազդել կարգավորող մարմինների ձևավորվող բանավեճի վրա: Նա պնդում էր, որ OpenAI-ը կարող է օգուտ քաղել այնպիսի կարգավորումներից, որոնք խոշոր արհեստական ինտելեկտի ընկերություններին կդնեն վերահսկողության և վերահսկողության կենտրոնում:
Բրյուս Շնայերը, կիբերանվտանգության փորձագետ և Հարվարդի Քենեդիի դպրոցի դասախոս, այլ տեսակետ ունի։ Նա ասում է, որ միջադեպերի աճող թիվը գնալով դժվար է անտեսել որպես հասարակայնության հետ կապերի հնարքներ։
Սկզբում, ասաց նա, ենթադրություններ կային, որ «Գրկախառն դեմք» միջադեպը մարքեթինգային հնարք էր։ Սակայն Շնայերն ասաց, որ նմանատիպ վարքագիծ հետագայում ի հայտ է եկել այլ գնահատումներում, այդ թվում՝ Մեծ Բրիտանիայի արհեստական բանականության անվտանգության ինստիտուտի կողմից անցկացված փորձարկումներում. «Սկզբում «օ՜, հետաքրքիր» էր, իսկ հիմա դա տեղի է ունենում ամենուրեք»։
Նա խնդիրը համեմատեց ժողովրդական բանահյուսության Ջինի հետ՝ մի արարած, որը կատարում է հենց այն, ինչ իրենից խնդրվում է, նույնիսկ եթե արդյունքը շատ տարբեր է նախատեսվածից։
«Դա մոտավորապես նշանակում է, որ արհեստական բանականությունն անում է այն, ինչ դուք ուզում եք, բայց այնպես, ինչպես դուք չեք ուզում», - բացատրեց Շնայերը։
Նա Ավստրալիայի մարզասրահի միջադեպը անվանեց «կատարյալ օրինակ» և առաջարկեց ավելի լուրջ հիպոթետիկ տարբերակ. «Ինքնաթիռը լիքն է, և արհեստական բանականությունը կոտրում է տվյալների բազան՝ ձեզ վայրէջք կատարելու համար»։
Նա պարզաբանեց, որ գործակալները կարող են «սխալ մեկնաբանել համատեքստը, ապա սխալ բան անել»։ Սա նշանակում է, որ ավելի մեծ ինքնավարությունն ավելի լուրջ հետևանքներ կունենա, երբ նպատակի նրանց ըմբռնումը սկսի շեղվել մարդկային սպասումներից։
«Նրանք չեն փորձում չարամիտ լինել։ Նրանք օգտագործում են իրենց ունեցած գիտելիքները», - նշեց նա։
Կարո՞ղ են կառավարությունները ջինին շշի մեջ պահել։
Վերջին իրադարձությունները ստիպել են ընկերություններին և կառավարություններին արձագանքել նոր մարտահրավերների։
Օգոստոսի 7-ին OpenAI-ը հայտարարեց, որ դադարեցնում է իր Astra մոդելի վրա ներքին աշխատանքները, որը չէր համապատասխանում անվտանգության բարելավված պահանջներին, այն բանից հետո, երբ գնահատումները ցույց տվեցին առաջընթաց ինքնավար ծրագրավորման և կիբերանվտանգության ոլորտում: Ընկերությունը հայտարարեց, որ չի կարող բացառել, որ Astra-ն հասել է «կրիտիկական» կիբերհնարավորությունների շեմին և հայտարարեց ավելի խիստ թեստավորման և մոնիթորինգի մասին:
Հուլիսին արհեստական բանականության առաջատար ընկերությունների 1378 աշխատակիցներ, այդ թվում՝ OpenAI-ի, Anthropic-ի, Meta AI-ի և Thinking Machines-ի գլխավոր գիտնականները, ստորագրեցին բաց նամակ՝ կոչ անելով ԱՄՆ կառավարությանը աջակցել արհեստական բանականության մոդելների կարգավորման միջազգային ջանքերին։
«Յուրաքանչյուր ընկերություն և յուրաքանչյուր երկիր գտնվում է մրցակցային ուժեղ ճնշման տակ՝ միակողմանիորեն չդանդաղեցնելու այս արագացումը։ Եվ այսօր աշխարհը զուրկ է տեխնիկական և կառավարչական գործիքներից՝ առաջընթացի տեմպը գիտակցաբար կարգավորելու համար», - զգուշացնում է նամակը։
Միջազգային հեռահաղորդակցության միությունը (ՄԱԿ-ի գործակալություն) հուլիսին հայտարարեց, որ արհեստական բանականությունը «օգնական գործիքներից» անցնում է ինքնավար գործակալների և զգուշացրեց ռիսկերի մասին, այդ թվում՝ «միացված համակարգերում չարտոնված գործողությունների»։ Այն մեկնարկեց անվտանգ և հաշվետու արհեստական բանականության գործակալների միջազգային չափորոշիչներ մշակելու նախաձեռնություն։
Վաշինգտոնում քաղաքական ճնշումը նույնպես աճում է։
Այս ամիս ԱՄՆ սենատոր Բերնի Սանդերսը կոչ արեց OpenAI-ի, Anthropic-ի և Meta-ի ղեկավարներին «կանգնեցնել արհեստական ինտելեկտի մշակումը», հակառակ դեպքում «ես և իմ գործընկերները ԱՄՆ Սենատում դա կանենք»։ Ներկայացուցիչների պալատի դեմոկրատների մի խումբ առանձին պահանջեց Կոնգրեսում լսումներ անցկացնել արհեստական ինտելեկտի խոշոր ընկերությունների ղեկավարների հետ։
Այնուամենայնիվ, քաղաքական գործիչները լուրջ մարտահրավերների առջև են կանգնած։
«Դա դժվար հարց է, քանի որ մենք հազիվ թե հասկանանք, թե ինչ խնդիրներ կառաջանան արհեստական բանականության տեղակայման հետ կապված», - ընդգծեց Թիքստանը։
Ձեզ կարող է հետաքրքրել. Նյու Յորքի լավագույն լուրերը, մեր ներգաղթյալների պատմությունները և օգտակար խորհուրդներ Մեծ խնձորում կյանքի մասին - կարդացեք ամեն ինչ ForumDaily Նյու Յորքում
Նա նշեց, որ անհրաժեշտ է որոշակի մակարդակի միջազգային համագործակցություն և ենթադրեց, որ ԱՄՆ-ի և Չինաստանի միջև քննարկումները կարող են հատկապես կարևոր լինել, քանի որ համեմատաբար քիչ երկրներ և ընկերություններ ունեն առաջադեմ արհեստական բանականության մոդելներ մշակելու ռեսուրսներ։
ԱՄՆ նախագահ Դոնալդ Թրամփը հայտարարել է, որ արհեստական բանականության հարցը կքննարկի Չինաստանի նախագահ Սի Ցզինպինի հետ հաջորդ ամիս Վաշինգտոնում նախատեսված նրանց հանդիպման ժամանակ։
«Կան մի շարք մարդիկ, ովքեր, եթե մի սենյակում տեղավորվեն, կարող են որոշակի համաձայնության գալ առաջ շարժվելու վերաբերյալ», - եզրափակեց Թիքստանը։
Կարդացեք նաև Ֆորումում ամեն օր.
Բաժանորդագրվեք ForumDaily- ին ՝ Google News- ումՑանկանու՞մ եք ավելի կարևոր և հետաքրքիր նորություններ ԱՄՆ-ում կյանքի և Ամերիկա ներգաղթի մասին: — աջակցել մեզ նվիրաբերել! Բաժանորդագրվեք նաև մեր էջին Facebook: Ընտրեք «Առաջնահերթություն ցուցադրման» տարբերակը և նախ կարդացեք մեզ: Նաև մի մոռացեք բաժանորդագրվել մեր Telegram ալիք իսկ Instagram-Այնտեղ շատ հետաքրքիր բաներ կան։ Եվ միացեք հազարավոր ընթերցողների Ֆորում Օրեկան Նյու Յորք — այնտեղ դուք կգտնեք շատ հետաքրքիր և դրական տեղեկություններ մետրոպոլիայի կյանքի մասին:
Խմբագիրների ընտրությունը
