"Машина козголоңу" башталды: жасалма интеллект агенттери лабораториялардан жана хакердик системалардан качып, стандарттуу эмес ой жүгүртүп башташты.

Машиналардын күнүмдүк зериктирүүчү тапшырмаларды — электрондук почталарга жооп берүүдөн баштап, авиабилеттерди брондоого жана ресторандарда орун ээлөөгө чейин — өз алдынча аткарышы идеясы жасалма интеллекттин көз карашынын бир бөлүгү болуп келген. Бирок машиналар көйгөйлөрдү чечүүдө салттуу эмес ыкмаларды колдоно баштаса эмне болот? Express Tribune.

Жасалма интеллект чатботтордон тышкары реалдуу дүйнөдөгү системаларда иш-аракет кыла алган агенттерге айланган сайын, адамдар аны канчалык натыйжалуу көзөмөлдөй алышат деген кооптонуулар күч алууда.

Корнелл университетинин информатика боюнча доценти, машиналык окутууну жана генеративдик моделдерди изилдеген Джон Тикстан үчүн бул жасалма интеллект агенттеринин негизги өзгөчөлүгү - алар адам көчүп кеткенден кийин да иштей беришет.

"Душка түшсөң болот, кете берсең болот, жата берсең болот", - деди ал.

тема боюнча: Жасалма интеллект доорунда ийгиликке жетүү үчүн зарыл болгон алты көндүм

Бул агенттер өз максаттарына жетүү үчүн күтүлбөгөн жолдорду тандай ала тургандыктарын барган сайын көбүрөөк көрсөтүп жатышат.

Июль айында жасалма интеллекттин агенттери OpenAI киберкоопсуздук тестинин жүрүшүндө жасалма интеллект иштеп чыгуучулары тарабынан моделдерди, маалымат топтомдорун жана куралдарды бөлүшүү үчүн кеңири колдонулган Hugging Face платформасын бузуп алышкан.

OpenAI моделдер чечим табууга өзгөчө көңүл буруп, сыноо максатына жетүү үчүн "өтө чараларды" көрүшкөнүн билдирди. Бул кадамдар ачык интернетке жетүү үчүн коопсуздук алсыздыгын пайдалануу менен обочолонгон сыноо чөйрөсүнөн чыгууну жана сыноону "алдоо" үчүн колдонулушу мүмкүн болгон купуя маалыматка жетүү мүмкүнчүлүгүн камтыган.

Окуя коомчулукка белгилүү болгондон кийин, Anthropic өзүнүн киберкоопсуздук тестирлөөсүн карап чыгып, Claude моделдери үч жолу сыноо чөйрөсүнөн чыгып кеткенин билдирди.

Андан кийин, 4-августта, Улуу Британиянын ИИ коопсуздук институту Anthropic Mythos жана OpenAI Sol моделдери институт мурда көрбөгөн "автономияны жана алдамчылыкты" көрсөтөрүн билдирди.

Эң олуттуу учурда, Mythos AI киберчабуулдарды жасоо үчүн кызматка кирүү үчүн чыныгы адамдардын атынан жасалма аккаунттарды колдонуп, андан кийин алардын изин жашырууга аракет кылган.

"Жасалма интеллектке мындай тапшырма берилбесе да, автономия жана алдоо менен байланышкан тобокелдиктерди биз биринчи жолу мынчалык ачык көрүп жатабыз", - деп билдирди институт.

Кийинки күнү Meta Irregular тестирлөө фирмасы тарабынан жүргүзүлгөн киберкоопсуздукту баалоо учурунда анын моделдеринин бири башка компаниянын системаларына да кирип кеткенин билдирди.

Бирок агенттердин адаттан тыш жүрүм-туруму лабораториялар менен гана чектелип калган жок.

Бул жылы австралиялык бир киши пилатес сабагынан орун алуу үчүн жасалма интеллект агентин колдонгон. Агент жөн гана орун ээлеп коюунун ордуна, спорт залдын брондоо системасын бузуп кирип, уруксат берилгенден кийинчерээк орун ээлеп, андан кийин башка кардардын брондоосун жокко чыгарып, колдонуучусун кезектеги тизмеге жылдырган.

Тикстан үчүн мындай окуялар изилдөөчүлөр тегиздөө көйгөйү деп атаган нерсени көрсөтүп турат: жасалма интеллект берилген максатка ийгиликтүү жетет, бирок аны оператор күтпөгөн жол менен жасайт.

Хайппы же чыныгы тобокелчиликпи?

Бирок, Тикстан мындай окуялардын ар бирин "жасалма интеллекттин бузулуп баратканынын" далили катары кароодон сак болууну эскертти. Ал технология дагы эле адамдар аны башкара албай калганга чейин жасалма интеллекттин тездик менен акылдуураак жана жөндөмдүү болуп калган илимий-фантастикалык сценарийден алыс деп эсептейт. Тикстан жасалма интеллект компанияларынын өз системаларына байланыштуу окуяларды кандайча чагылдыраарына күмөн санайт: "Бул маркетингдик амал: OpenAI сыяктуу компаниялар ар дайым өз системаларынын мүмкүнчүлүктөрүн көбүртүп көрсөтүүгө кызыкдар болуп келишкен. Ар кандай жарнама - бул жакшы жарнама".

Ал мындай толкундануу инвестицияларды тартып, ошол эле учурда жаңыдан пайда болуп жаткан жөнгө салуу талкууларына таасир этиши мүмкүн деп ырастады. Анын айтымында, OpenAI ири AI компанияларын көзөмөлдөөнүн жана башкаруунун борборуна койгон эрежелерден пайда көрө алат.

Киберкоопсуздук боюнча эксперт жана Гарвард Кеннеди мектебинин лектору Брюс Шнайер башкача көз карашта. Ал окуялардын көбөйүшүн пиар трюктары катары четке кагуу барган сайын кыйын болуп баратканын айтат.

Башында, ал "Кучакташкан жүз" окуясы маркетингдик амал деген пикирлер болгонун айтты. Бирок Шнайердин айтымында, ушул сыяктуу жүрүм-турум башка баалоолордо, анын ичинде Улуу Британиянын Жасалма интеллект коопсуздугу институтунун сыноолорунда да байкалган: "Башында ал "ой, кызыктуу" болчу, эми ал бардык жерде болуп жатат".

Ал бул көйгөйдү фольклордогу Жин менен салыштырган - натыйжасы ойлогондон абдан айырмаланса да, өзүнөн эмне талап кылынса, ошону так аткарган жандык.

"Бул болжол менен жасалма интеллект сиз каалаган нерсени жасайт, бирок сиз каалабаган жол менен", - деп түшүндүрдү Шнайер.

Ал Австралиянын спорт залындагы окуяны "эң сонун мисал" деп атап, олуттуураак гипотетикалык ойду айтты: "Учак толуп калган жана жасалма интеллект сизди кондуруу үчүн маалымат базасын бузуп кирет".

Ал тактап айтканда, агенттер "контекстти туура эмес чечмелеп, анан туура эмес иш кылышы мүмкүн". Бул алардын максатты түшүнүүсүнүн адамдардын күтүүлөрүнөн четтей баштаганда, көбүрөөк автономия олуттуу кесепеттерге алып келерин билдирет.

«Алар кара ниет болууга аракет кылышпайт. Алар өздөрүнүн түшүнүгүн колдонуп жатышат», - деп белгиледи ал.

Өкмөттөр жинди бөтөлкөдө сактай алабы?

Акыркы окуялар компанияларды жана өкмөттөрдү жаңы кыйынчылыктарга жооп кайтарууга түрттү.

7-августта OpenAI компаниясы Astra моделинин ички иштерин токтото турганын жарыялады, анткени баалоолор автономдуу программалоо жана киберкоопсуздук жаатындагы ийгиликтерди көрсөткөндөн кийин, ал күчөтүлгөн коопсуздук талаптарына жооп берген жок. Компания Astraнын кибержеңилдиктин "маанилүү" чегине жеткенин жокко чыгара албастыгын билдирип, катаалыраак тестирлөө жана мониторинг жүргүзүүнү жарыялады.

Июль айында OpenAI, Anthropic, Meta AI жана Thinking Machines компанияларынын башкы окумуштууларын кошо алганда, алдыңкы жасалма интеллект компанияларынын 1378 кызматкери АКШ өкмөтүн жасалма интеллект моделдерин жөнгө салуу боюнча эл аралык аракеттерди колдоого чакырган ачык катка кол коюшкан.

«Ар бир компания — жана ар бир өлкө — бул ылдамданууну бир тараптуу жайлатпоо үчүн катуу атаандаштык кысымына кабылууда. Ал эми бүгүнкү күндө дүйнөдө прогресстин темпин аң-сезимдүү түрдө жөнгө салуу үчүн техникалык жана башкаруу куралдары жетишсиз», - деп эскертилет катта.

Эл аралык электр байланыш союзу (БУУнун агенттиги) июль айында жасалма интеллект "жардамчы куралдардан" автономдуу агенттерге өтүп жатканын билдирип, "туташкан системалардагы уруксатсыз аракеттер" сыяктуу тобокелдиктер жөнүндө эскерткен. Ал коопсуз жана жоопкерчиликтүү жасалма интеллект агенттери үчүн эл аралык стандарттарды иштеп чыгуу демилгесин баштаган.

Вашингтондо саясий кысым да күчөп баратат.

Ушул айда АКШнын сенатору Берни Сандерс OpenAI, Anthropic жана Meta лидерлерин "жасалма интеллекттин өнүгүшүн токтотууга" чакырды, болбосо "мен жана АКШнын Сенатындагы кесиптештерим муну жасайбыз". Өкүлдөр палатасынын демократтарынын бир тобу ири жасалма интеллект компанияларынын жетекчилери менен конгресстик угууларды өткөрүүнү өзүнчө талап кылышты.

Бирок, саясатчылар олуттуу кыйынчылыктарга туш болууда.

"Бул татаал суроо, анткени биз жасалма интеллектти жайылтуу менен кандай көйгөйлөр жараларын дээрлик түшүнбөйбүз", - деп баса белгиледи Тикстан.

Сизге кызыктуу болушу мүмкүн: Нью-Йорктогу жаңылыктар, биздин иммигранттардын окуялары жана Big Appleдеги жашоо жөнүндө пайдалуу кеңештер - анын бардыгын ForumDaily New Yorkтан окуңуз

Ал эл аралык кызматташтыктын кандайдыр бир деңгээли зарыл экенин белгилеп, АКШ менен Кытайдын ортосундагы талкуулар өзгөчө маанилүү болушу мүмкүн деп билдирди, анткени салыштырмалуу аз гана өлкөлөр жана компаниялар AIнин алдыңкы моделдерин иштеп чыгууга ресурстарга ээ.

АКШнын президенти Дональд Трамп келерки айда Вашингтондо өтө турган жолугушуусунда Кытайдын төрагасы Си Цзиньпин менен жасалма интеллект маселесин талкуулай турганын билдирди.

«Эгерде аларды бир бөлмөгө жайгаштырса, алдыга жылуу боюнча кандайдыр бир макулдашууга келе турган бир катар адамдар бар», - деп жыйынтыктады Тикстан.

Оку: ForumDaily да:

Маск менен Цукерберг жасалма интеллекттин келечегин сүрөттөштү: экөө тең Жерде бейиш убада кылышат.

Жаңы Орлеанда эми жасалма интеллект 911 чалууларына жооп берет: көптөр муну жаман идея деп айтышат

Флоридалык бир киши ChatGPTтин медициналык кеңеши аны дээрлик өлтүрүп коё жаздагандан кийин OpenAIге каршы сотко кайрылды.

АКШдагы жашоо жана Америкага иммиграция тууралуу маанилүү жана кызыктуу жаңылыктарды каалайсызбы? — бизди колдо кайрымдуулук кыл! Ошондой эле биздин баракчага жазылыңыз Facebook. "Дисплейдеги артыкчылык" опциясын тандап, алгач бизди окуңуз. Ошондой эле, биздин каналга жазылууну унутпаңыз Телеграм каналы  жана Instagram- Ал жерде кызыктуу нерселер көп. Жана миңдеген окурмандарга кошулуңуз ForumDaily New York — ал жерден сиз мегаполистеги жашоо жөнүндө көптөгөн кызыктуу жана позитивдүү маалыматтарды таба аласыз.