Anthropic қызметкері жасанды интеллекттің дамуы осы онжылдықта адамзаттың жойылуына қауіп төндіретінін мәлімдеді.

OpenAI және Anthropic компанияларының бұрынғы зерттеушісі, ChatGPT және Claude чатботтарының жасаушысы Джейкоб Коксон 8 қыркүйекте X желісінде саладан кететінін жариялады. Ол екі компания да жауапкершілікпен әрекет етпейді деп мәлімдеді. Жасанды интеллекттің бұрынғы әзірлеушісі жасанды интеллект 2030 жылға қарай адамзатты жойып жібереді деп санайды, деп жазады. Daily Mail.

«Мен бүгін Anthropic компаниясынан кеттім. Соңғы үш жылды OpenAI және Anthropic компанияларында алдын ала дайындықты зерттеуге жұмсадым. Екі компания да жауапкершілікпен әрекет етпейді. Олар өзін-өзі жетілдіретін суперинтеллект жасауға және біздің өмірімізді қатерге тігуге тырысуда», - деп жазды Коксон.

Суперинтеллект дегеніміз жасанды жүйенің кез келген жеке адамнан, компаниядан немесе тіпті ұлттан күштірек болатын кезеңін білдіреді.

Тақырып бойынша: Жасанды интеллект ғалымдар 90 жыл бойы күресіп келген мәселені 88 сағатта шешті.

Осы салада үш жыл жұмыс істеген зерттеуші X аудиториясына ескерту жасады: «Бұл технологияның әлеуетін бағаламаңыздар».

«Жақын арада адамдардан асып түсетін, кез келген нәрсені бұзуға, білімнің тұтас салаларын бір түнде өзгертуге және нақты ресурстар мен ықпалға ие болуға қабілетті жүйелер пайда болады. Біз осы салалардың барлығында ілгерілеушілікті көріп отырмыз және ол баяуламайды», - деп сендірді ол. «Жасанды интеллектті жасайтын адамдар онжылдықтың соңына қарай ол біздің бәрімізді жойып жіберуі мүмкін деп шын жүректен сенеді. Бұл маркетингтік айла-шарғы емес».

Оның айтуынша, көшбасшылар мен жетекші зерттеушілер өздерінің жария мәлімдемелерінде сақ болғанымен, олар жеке өмірлерінде осындай алаңдаушылықтарын білдіреді.

«OpenAI-дегі көптеген адамдар өркениет үшін салдардың ауқымын толық түсінбейді. Anthropic бұл тәуекелдерді түсінеді, бірақ компания көшбасшылық үшін жарысқа түсіп қалды — олар басқа ешкім жауапкершілікпен әрекет етпейді деп санайды, сондықтан тәуекелге қарамастан, олар топтан озып кетуі керек», - деді ол.

Коксон басқа «ескерту белгілерімен» қатар, Hugging Face жасанды интеллект және машиналық оқыту платформасына жасалған шабуылды да атап өтті, оның айтуынша, бұл шабуыл OpenAI жүйесі арқылы жасалған.

Шілде айында компания өзінің ең озық үлгілерінің бірі қауіпсіздік сынағы кезінде бақыланатын ортадан шығып, интернетке кіріп, Нью-Йоркте орналасқан Hugging Face стартапына шабуыл жасағанын хабарлады.

Hugging Face компаниясының негізін қалаушы Томас Вольф бұл оқиға бүкіл сала үшін маңызды ескерту болуы керек деп санайды.

BBC радиосының Newsday бағдарламасына берген сұхбатында ол жасанды интеллектке негізделген шабуылдар жақын арада «біз кездесетін кибершабуылдардың ең көп таралған түрлерінің біріне» айналатынын атап өтті.

Hugging Face компаниясының негізін қалаушы компаниялардың көпшілігі қазіргі уақытта өсіп келе жатқан қауіпке дайын емес және ойын ережелерінің өзгергенін түсінбейді деп санайды.

«Құшақтасып тұрған бет» шабуылы сияқты ескерту сигналдары АҚШ зертханалары арасындағы олардың дамуын баяулату туралы келісімдерді шынайы етеді», - деп жалғастырды Коксон.

«Менің ойымша, біз жаһандық жарыстың алдын алуға қарай жылжып бара жатқан жоқпыз, бұл елеулі шараларды, атап айтқанда модельдердің мүмкіндіктерін арттыруға уақытша тыйым салуды қажет етуі мүмкін.»

«Сіз шынымен де суперинтеллекттің «психикасының» қалай жұмыс істейтінін анық түсінбей, оны оқытуды бастағыңыз келе ме? «Бәрібір болады» деп басыңызды салбыратуыңыз керек пе, әлде осы сәтті пайдаланып, жағдайды өзгертуіңіз керек пе?», - деп қосты ол.

Anthropic компаниясының жасанды интеллект қауіпсіздігі жөніндегі басшысы Эван Хубингер компанияның жасанды интеллекттің адам өліміне әкелуі мүмкін деп санайтынын растады.

«Джейкобтың айтқаны рас — біз жасанды интеллекттің бүкіл адамзатты жойып жіберуі мүмкін екенін байыпты қарастырып жатырмыз. Жеке өзім бұл ықтималдықты алдағы онжылдықта 10%-дан астам деп бағалаймын. Менің ойымша, Anthropic мүмкіндігінше жауапкершілікпен әрекет етуге тырысады, бірақ бізде әлі де суперинтеллектті адами құндылықтармен үйлестіру мәселесінің шешімі жоқ және бізде бұған қалай жетуге болатыны туралы нақты түсінік жоқ», - деп мойындады ол.

Талқылауға берілген пікірлерде қарама-қайшы пікірлер де болды. Бір пайдаланушы: «Сонымен, сіз АҚШ-тың дамуын тоқтатып, Қытайдың артықшылыққа ие болуын ұсынып тұрсыз ба? Сіз нені жақтап отырсыз? Джейкоб Бейжіңде Қытайдың ұлттық қауіпсіздігі үшін олардың жасанды интеллект модельдерінде жұмыс істесе, мен таң қалмас едім», - деп сұрады.

Коксонның мәлімдемелері көбінесе «жасанды интеллекттің өкіл атасы» деп аталатын канадалық зерттеуші Джеффри Хинтонның ескертулерінен кейін көп ұзамай жасалды. Ол бұған дейін аса ақылды жүйелер адамзаттың жойылуына әкелуі мүмкін деп ескерткен болатын.

«Қазір ғылыми қоғамдастықта оны қауіпсіз және басқарылатын етуге бола ма деген мәселеде консенсус жоқ кезде суперинтеллект құру өте ақылсыздық болар еді», - деп ескертті Хинтон. «Бізден ақылды жүйені басқаруды жоғалту апатты салдарға әкелуі мүмкін, тіпті адамзаттың жойылуына әкелуі мүмкін».

Anthropic-тің Клоды жетекші ірі көлемді тіл модельдерінің бірі болып табылады — адам сөзін түсіну және жауаптар тудыру үшін үлкен көлемдегі мәтінге үйретілген жүйелер.

Ақпан айында Anthropic компаниясының бас директоры Дарио Амодей компания өнімдері кіріктірілген шектеулерді бұзатын жолдармен пайдаланылуы мүмкін деген дауда бас тартудан бас тартқаннан кейін ұлттық қауіпсіздікке қатер төндірді деп айыпталды.

Содан кейін президент Дональд Трамп Anthropic-ті сынға алып: «Бізге ол қажет емес, біз оны қаламаймыз және біз енді олармен бизнес жасамаймыз», - деді.

Пентагон хатшысы Пит Хегсет компанияны «жеткізу тізбегіндегі тәуекел» деп атады, бұл термин әдетте компанияның негізгі серіктестіктеріне қауіп төндіруі мүмкін шетелдік қарсыластарға қолданылады.

Жауап ретінде Anthropic бұл шешімге қарсы шығатынын мәлімдеп, оны бұрын-соңды американдық компанияларға қолданылмаған және заңдық тұрғыдан негізсіз қадам деп атады.

Anthropic компаниясы Пентагоннан өзінің чатботы Клодтың АҚШ азаматтарын жаппай бақылау үшін немесе толығымен автономды қару жүйелерінде пайдаланылмайтынына шектеулі кепілдік сұрағанын түсіндірді.

Сізді қызықтыруы мүмкін: Нью-Йорктегі басты жаңалықтар, біздің иммигранттар туралы әңгімелер және Үлкен Apple өмірі туралы пайдалы кеңестер - мұның барлығын ForumDaily New York сайтында оқыңыз

Пентагон мұндай пайдалануға қызығушылық танытпайтынын және технологияны тек заңды жолдармен пайдалануды көздейтінін, бірақ сонымен бірге оған шектеусіз қол жеткізуді талап ететінін айтты.

«Әскерилердің ешқандай қысымы немесе санкциялары біздің жаппай ішкі бақылау және толықтай автономды қару-жараққа қатысты ұстанымымызды өзгертпейді. Біз «жеткізу тізбегінің тәуекелі» деген атауға сотта шағымданамыз», - деп ескертті компания.

Форум күнін де оқыңыз:

«Машина көтерілісі» қазірдің өзінде басталды: жасанды интеллект агенттері стандартты емес ойлай бастады, зертханалардан және хакерлік жүйелерден қашып кетті.

Маск пен Цукерберг жасанды интеллекттің болашағын сипаттады: екеуі де Жерде жұмақ орнайтынын уәде етті.

Жаңа Орлеанда енді 911 қоңырауларына жауап беретін жасанды интеллект бар: көпшілік бұл жаман идея дейді

Сіз АҚШ-тағы өмір және Америкаға иммиграция туралы маңызды және қызықты жаңалықтарды алғыңыз келе ме? — бізді қолда садақа бер! Сондай-ақ біздің парақшаға жазылыңыз Facebook. «Дисплейдегі басымдық» опциясын таңдап, алдымен бізді оқыңыз. Сондай-ақ, біздің сайтқа жазылуды ұмытпаңыз Telegram каналы  мен Instagram- Онда қызық көп. Және мыңдаған оқырмандарға қосылыңыз ФорумДүниежүзілік Нью-Йорк — онда сіз мегаполистің өмірі туралы көптеген қызықты және жағымды ақпаратты таба аласыз.