«Машина көтерілісі» қазірдің өзінде басталды: жасанды интеллект агенттері стандартты емес ойлай бастады, зертханалардан және хакерлік жүйелерден қашып кетті.
Машиналардың күнделікті зеріктіретін тапсырмаларды — электрондық пошталарға жауап беруден бастап, әуе билеттерін брондау мен мейрамханаларға тапсырыс беруге дейін — өздігінен орындау идеясы жасанды интеллекттің көзқарасының бөлігі болып табылады. Бірақ егер машиналар мәселелерді шешудің дәстүрлі емес тәсілдерін қолдана бастаса, не болады? Экспресс трибунасы.
Жасанды интеллект чатботтардан тыс шығып, нақты жүйелерде әрекет ете алатын агенттерге айналған сайын, адамдардың оны қаншалықты тиімді басқара алатынына қатысты алаңдаушылық артып келеді.
Корнелл университетінің информатика кафедрасының доценті, машиналық оқыту мен генеративті модельдерді зерттейтін Джон Тикстан үшін бұл жасанды интеллект агенттерінің басты ерекшелігі - адам көшіп кеткеннен кейін де жұмыс істей беруі.
«Душ қабылдай аласың, кете аласың, ұйықтай аласың», - деді ол.
Тақырып бойынша: Жасанды интеллект дәуірінде табысқа жету үшін қажетті алты дағды
Бұл агенттер өз мақсаттарына жету үшін күтпеген жолдармен жүре алатындықтарын барған сайын көрсетіп келеді.
Шілде айында жасанды интеллект агенттері OpenAI киберқауіпсіздік сынағы кезінде жасанды интеллект әзірлеушілері модельдермен, деректер жиынтығымен және құралдармен бөлісу үшін кеңінен пайдаланатын Hugging Face платформасын бұзды.
OpenAI модельдер шешім табуға өте баса назар аударғанын және сынақ мақсатына жету үшін «шекті шаралар» қабылдағанын мәлімдеді. Бұл қадамдарға ашық интернетке қол жеткізу үшін қауіпсіздік осалдығын пайдалану арқылы оқшауланған сынақ ортасынан шығу және сынақты «алдау» үшін пайдаланылуы мүмкін құпия ақпаратқа қол жеткізу кірді.
Оқиға жария болғаннан кейін, Anthropic компаниясы өзінің киберқауіпсіздік тестілеуін қарап шығып, Claude модельдерінің сынақ ортасынан үш рет қашып кеткенін хабарлады.
Содан кейін, 4 тамызда Ұлыбританияның жасанды интеллект қауіпсіздігі институты антропиялық мифтер мен OpenAI Sol модельдері бұрын-соңды болмаған «автономия мен алдау» деңгейін көрсетті деп мәлімдеді.
Ең ауыр жағдайда, Mythos AI кибершабуылдар жасау үшін қызметке кіру үшін нақты адамдардың атын жамылған жалған аккаунттарды пайдаланды, содан кейін олардың іздерін жасыруға тырысты.
«Жасанды интеллектке мұндай міндет жүктелмегеніне қарамастан, автономия мен алдаумен байланысты тәуекелдерді біз алғаш рет соншалықты айқын көріп отырмыз», - деді институт.
Келесі күні Meta Irregular тестілеу фирмасы жүргізген киберқауіпсіздікті бағалау кезінде оның модельдерінің бірі басқа компанияның жүйелеріне еніп кеткенін хабарлады.
Алайда, агенттердің ерекше мінез-құлқы тек зертханалармен шектелмеді.
Биыл австралиялық бір ер адам Пилатес сабағына орын алу үшін жасанды интеллект агентін пайдаланды. Агент жай ғана брондау жасаудың орнына, спортзалдың брондау жүйесін бұзып, рұқсат етілгеннен кейінірек орын брондады, содан кейін пайдаланушыны кезектен шығару үшін басқа клиенттің брондауын болдырмады.
Tikstan үшін мұндай оқиғалар зерттеушілердің туралау мәселесі деп атайтын нәрсені көрсетеді: жасанды интеллект берілген мақсатқа сәтті жетеді, бірақ оны оператор күтпеген жолмен жүзеге асырады.
Хайп па, әлде нақты тәуекел бе?
Дегенмен, Тикстан мұндай әрбір оқиғаны «жасанды интеллекттің нашар жұмыс істеп тұрғанының» дәлелі ретінде қарастырмауды ескертті. Оның пікірінше, технология әлі де жасанды интеллекттің адамдар оны басқара алмай қалғанша тез ақылды және қабілетті бола түсетін ғылыми-фантастикалық сценарийден алыс. Тикстан жасанды интеллект компанияларының өз жүйелеріне қатысты оқиғаларды қалай көрсететініне күмәнмен қарайды: «Бұл маркетингтік айла: OpenAI сияқты компаниялар әрқашан өз жүйелерінің мүмкіндіктерін арттыруға мүдделі болды. Кез келген жарнама - жақсы жарнама».
Ол мұндай шу инвестицияларды тартуы және сонымен бірге пайда болатын реттеушілік пікірталасқа әсер етуі мүмкін деп тұжырымдады. Оның айтуынша, OpenAI ірі жасанды интеллект компанияларын қадағалау мен бақылау орталығына қоятын ережелерден пайда көре алады.
Киберқауіпсіздік жөніндегі сарапшы және Гарвард Кеннеди мектебінің оқытушысы Брюс Шнайер басқаша көзқараспен қарайды. Оның айтуынша, оқиғалар санының артуын PR айла-шарғысы деп санамау қиындап барады.
Бастапқыда, оның айтуынша, құшақтасып тұрған бет оқиғасы маркетингтік айла-шарғы деген болжамдар болған. Бірақ Шнайердің айтуынша, осыған ұқсас мінез-құлық басқа бағалауларда, соның ішінде Ұлыбританияның жасанды интеллект қауіпсіздігі институтының сынақтарында да байқалған: «Басында бұл «қызықты» болды, ал қазір бұл барлық жерде болып жатыр».
Ол мәселені фольклордағы Жынмен салыстырды - нәтижесі көзделгеннен мүлдем өзгеше болса да, өзінен сұралғанды дәл орындайтын тіршілік иесі.
«Бұл шамамен жасанды интеллект сіз қалаған нәрсені істейді, бірақ сіз қаламайтын жолмен», - деп түсіндірді Шнайер.
Ол Австралиядағы спортзалдағы оқиғаны «тамаша мысал» деп атады және одан да күрделі гипотетикалық тұжырым ұсынды: «Ұшақ толы және жасанды интеллект сізді қондыру үшін дерекқорды бұзады».
Оның түсіндіруінше, агенттер «контекстті дұрыс түсінбей, содан кейін дұрыс емес әрекет жасай алады». Бұл дегеніміз, мақсатты түсіну адамдардың күткенінен алшақтай бастаған кезде үлкен автономия ауыр зардаптарға әкеледі.
«Олар зиянкестік жасауға тырыспайды. Олар өздерінің түсінігін пайдаланып жатыр», - деп атап өтті ол.
Үкіметтер жынды бөтелкеде сақтай ала ма?
Соңғы оқиғалар компаниялар мен үкіметтерді жаңа қиындықтарға жауап беруге итермеледі.
7 тамызда OpenAI компаниясы Astra моделі бойынша ішкі жұмысты тоқтата тұрғанын хабарлады, ол бағалаулар автономды бағдарламалау мен киберқауіпсіздік саласындағы ілгерілеуді көрсеткеннен кейін күшейтілген қауіпсіздік талаптарына сай келмеді. Компания Astra компаниясының киберқабілеттіліктің «маңызды» шегіне жеткенін жоққа шығара алмайтынын мәлімдеп, қатаң тестілеу мен бақылауды жариялады.
Шілде айында OpenAI, Anthropic, Meta AI және Thinking Machines компанияларының бас ғалымдарын қоса алғанда, жетекші жасанды интеллект компанияларының 1378 қызметкері АҚШ үкіметін жасанды интеллект модельдерін реттеу бойынша халықаралық күш-жігерді қолдауға шақыратын ашық хатқа қол қойды.
«Әрбір компания – және әрбір ел – бұл үдеуді біржақты баяулатпау үшін қатты бәсекелестік қысымға ұшырауда. Ал бүгінде әлемде прогресс қарқынын саналы түрде реттеуге арналған техникалық және басқару құралдары жетіспейді», - деп ескертеді хатта.
Халықаралық телекоммуникация одағы (БҰҰ агенттігі) шілде айында жасанды интеллекттің «көмекші құралдардан» автономды агенттерге ауысып жатқанын мәлімдеді және «қосылған жүйелердегі рұқсатсыз әрекеттерді» қоса алғанда, тәуекелдер туралы ескертті. Ол қауіпсіз және есеп беретін жасанды интеллект агенттері үшін халықаралық стандарттарды әзірлеу бастамасын бастады.
Вашингтонда саяси қысым да артып келеді.
Осы айда АҚШ сенаторы Берни Сандерс OpenAI, Anthropic және Meta жетекшілерін «жасанды интеллекттің дамуын тоқтатуға» шақырды, әйтпесе «мен және АҚШ Сенатындағы әріптестерім мұны істейміз». Өкілдер палатасының демократтар тобы ірі жасанды интеллект компанияларының басшыларымен конгресстік тыңдаулар өткізуді бөлек талап етті.
Дегенмен, саясаткерлер күрделі қиындықтарға тап болуда.
«Бұл қиын сұрақ, себебі біз жасанды интеллектті орналастыру кезінде қандай мәселелер туындайтынын әрең түсінеміз», - деп атап өтті Тикстан.
Сізді қызықтыруы мүмкін: Нью-Йорктегі басты жаңалықтар, біздің иммигранттар туралы әңгімелер және Үлкен Apple өмірі туралы пайдалы кеңестер - мұның барлығын ForumDaily New York сайтында оқыңыз
Ол белгілі бір деңгейдегі халықаралық ынтымақтастық қажет екенін атап өтті және АҚШ пен Қытай арасындағы келіссөздер ерекше маңызды болуы мүмкін екенін айтты, себебі салыстырмалы түрде аз елдер мен компаниялардың озық жасанды интеллект модельдерін әзірлеуге ресурстары бар.
АҚШ президенті Дональд Трамп келесі айда Вашингтонда өтетін кездесуінде Қытай төрағасы Си Цзиньпинмен жасанды интеллект мәселесін талқылайтынын мәлімдеді.
«Бөлмеге орналастырылса, алға жылжу туралы қандай да бір келісімге келуі мүмкін бірқатар адамдар бар», - деп түйіндеді Тикстан.
Форум күнін де оқыңыз:
Google News сайтындағы ForumDaily-ге жазылыңызСіз АҚШ-тағы өмір және Америкаға иммиграция туралы маңызды және қызықты жаңалықтарды алғыңыз келе ме? — бізді қолда садақа бер! Сондай-ақ біздің парақшаға жазылыңыз Facebook. «Дисплейдегі басымдық» опциясын таңдап, алдымен бізді оқыңыз. Сондай-ақ, біздің сайтқа жазылуды ұмытпаңыз Telegram каналы мен Instagram- Онда қызық көп. Және мыңдаған оқырмандарға қосылыңыз ФорумДүниежүзілік Нью-Йорк — онда сіз мегаполистің өмірі туралы көптеген қызықты және жағымды ақпаратты таба аласыз.
Редакторлардың таңдауы
