Як корманди Anthropic изҳор дошт, ки рушди зеҳни сунъӣ дар ин даҳсола нобудии башариятро таҳдид мекунад.

Ҷейкоб Коксон, муҳаққиқи собиқи OpenAI ва Anthropic, офарандагони чатботҳои ChatGPT ва Claude, рӯзи 8 сентябр дар шабакаи X эълон кард, ки ин соҳаро тарк кардааст. Ӯ иддао кард, ки ҳеҷ яке аз ширкатҳо масъулиятшиносона амал намекунанд. Таҳиягари собиқи зеҳни сунъӣ бовар дорад, ки зеҳни сунъӣ то соли 2030 инсониятро нобуд хоҳад кард, менависад. Mail Daily.

Коксон навишт: "Ман имрӯз аз Anthropic истеъфо додам. Ман се соли охирро барои омӯзиши пешакӣ дар OpenAI ва Anthropic сарф кардам. Ҳеҷ яке аз ширкатҳо бомасъулият амал намекунанд. Онҳо барои эҷоди суперинтеллекти худтакмилдиҳанда ва ҳаёти мо дар хатар мегузоранд."

Суперинтеллект ба марҳилае ишора мекунад, ки дар он як системаи сунъӣ аз ҳар як шахси алоҳида, ширкат ё ҳатто миллат пурқувваттар мешавад.

Ба мавзӯи: Ақли сунъӣ мушкилотеро, ки олимон 90 сол боз бо он мубориза мебурданд, дар 88 соат ҳал кард.

Як муҳаққиқ, ки се сол дар ин соҳа кор кардааст, ба шунавандагони X ҳушдор дод: "Потенсиали ин технологияро нодида нагиред."

«Ба зудӣ системаҳое пайдо мешаванд, ки аз одамон пеш гузашта, қодиранд ҳама чизро ҳакерӣ кунанд, тамоми соҳаҳои донишро якбора тағйир диҳанд ва захираҳо ва нуфузи воқеиро ба даст оранд. Мо аллакай дар ҳамаи ин соҳаҳо пешрафтро мебинем ва он суст намешавад», - итминон дод ӯ. «Одамоне, ки зеҳни сунъиро эҷод мекунанд, самимона боварӣ доранд, ки то охири даҳсола он метавонад ҳамаи моро нобуд кунад. Ин найранги маркетингӣ нест».

Ӯ гуфт, ки дар ҳоле ки роҳбарон ва муҳаққиқони пешсаф дар изҳороти оммавии худ эҳтиёткоранд, онҳо нигарониҳои шабеҳро дар сӯҳбатҳои хусусӣ баён мекунанд.

"Бисёриҳо дар OpenAI миқёси оқибатҳои онро барои тамаддун пурра дарк намекунанд. Anthropic ин хатарҳоро дарк мекунад, аммо ширкат дар мусобиқа барои роҳбарӣ қарор дорад - онҳо бовар доранд, ки каси дигар масъулиятнок амал намекунад, аз ин рӯ, сарфи назар аз хатар, онҳо бояд аз дигарон пеш гузаранд", - гуфт ӯ.

Коксон, дар баробари дигар "аломатҳои огоҳкунанда", ҳамла ба платформаи зеҳни сунъӣ ва омӯзиши мошинии Hugging Face-ро зикр кард, ки ба гуфтаи ӯ, аз ҷониби системаи қаллобии OpenAI анҷом дода шудааст.

Дар моҳи июл, ширкат хабар дод, ки яке аз пешрафтатарин моделҳои он ҳангоми санҷиши амниятӣ аз муҳити назоратшаванда фирор карда, ба интернет дастрасӣ пайдо карда, ба ширкати стартапи Hugging Face, ки дар Ню Йорк воқеъ аст, ҳамла кардааст.

Томас Вулф, ҳаммуассиси Hugging Face, бар ин назар аст, ки ин ҳодиса бояд барои тамоми соҳа як огоҳии ҷиддӣ бошад.

Дар мусоҳиба бо барномаи радиоии BBC Newsday, ӯ таъкид кард, ки ҳамлаҳои асосёфта ба зеҳни сунъӣ ба зудӣ "яке аз маъмултарин намудҳои ҳамлаҳои киберӣ, ки мо бо онҳо рӯбарӯ хоҳем шуд" хоҳанд шуд.

Муассиси Hugging Face бар он ақида аст, ки аксари ширкатҳо айни замон барои таҳдиди афзоянда омода нестанд ва намедонанд, ки қоидаҳои бозӣ тағйир ёфтаанд.

Коксон идома дод: "Сигналҳои огоҳкунанда ба монанди ҳамлаи "Чеҳраи оғӯш" созишномаҳоро байни озмоишгоҳҳои ИМА барои суст кардани рушди онҳо воқеӣтар мегардонанд."

«Ман фикр намекунам, ки мо ба сӯи пешгирии мусобиқаи ҷаҳонӣ ҳаракат карда истодаем, ки метавонад чораҳои ҷиддӣ, бахусус манъи муваққатии афзоиши имконоти моделҳоро талаб кунад.»

«Оё шумо воқеан мехоҳед омӯзиши як суперзеҳнро бидуни дарки возеҳи тарзи кори «психика»-и он оғоз кунед? Оё шумо бояд танҳо саратонро хам кунед, зеро «ин ба ҳар ҳол рӯй медиҳад» ё аз ин лаҳза барои тағир додани шароит истифода баред?», илова кард ӯ.

Дар посух ба нашри он, Эван Ҳубингер, роҳбари бехатарии зеҳни сунъӣ дар Anthropic, тасдиқ кард, ки ширкат имкони зеҳни сунъиро барои марги одамон имконпазир медонад.

«Ҷейкоб дар ин ҷост — мо эҳтимолияти онро, ки зеҳни сунъӣ метавонад тамоми башариятро нобуд кунад, ҷиддӣ баррасӣ мекунем. Ман шахсан эҳтимолияти онро дар даҳсолаи оянда беш аз 10% арзёбӣ мекунам. Ман боварӣ дорам, ки Anthropic кӯшиш мекунад, ки то ҳадди имкон бомасъулият амал кунад, аммо мо то ҳол роҳи ҳалли мушкилоти мутобиқ кардани суперзеҳн бо арзишҳои инсонӣ надорем ва мо дарки возеҳе дар бораи чӣ гуна ба даст овардани ин надорем», — иқрор шуд ӯ.

Дар шарҳҳо дар бораи баҳс инчунин андешаҳои мухолиф мавҷуданд. Як корбар пурсид: "Пас, шумо пешниҳод мекунед, ки ИМА рушдро қатъ кунад ва ба Чин имкон диҳад, ки бартарӣ ба даст орад? Шумо барои чӣ ҷонибдорӣ мекунед? Ман ҳайрон намешавам, агар Ҷейкоб дар Пекин барои амнияти миллии Чин бо истифода аз моделҳои зеҳни сунъии онҳо кор кунад."

Изҳороти Коксон каме пас аз ҳушдорҳои муҳаққиқи канадагӣ Ҷеффри Ҳинтон, ки аксар вақт "падари таъмидии зеҳни сунъӣ" номида мешавад, садо дод. Ӯ қаблан ҳушдор дода буд, ки системаҳои фавқулода метавонанд ба нобудии инсоният оварда расонанд.

"Ҳоло эҷоди як суперинтеллект хеле бехирадона хоҳад буд, вақте ки дар ҷомеаи илмӣ дар бораи он ки оё онро бехатар ва идорашаванда кардан мумкин аст, ягон иттифоқи назар вуҷуд надорад", - ҳушдор дод Хинтон. "Аз даст додани назорати системае, ки аз мо донотар аст, метавонад оқибатҳои фоҷиабор дошта бошад ва ҳатто боиси нобудии инсоният гардад."

Клоди Антропикӣ яке аз моделҳои пешбари забони калонҳаҷм аст - системаҳое, ки барои фаҳмидани нутқи инсон ва тавлиди посухҳо ба миқдори зиёди матн омӯзонида шудаанд.

Дар моҳи феврал, Anthropic ба таҳдиди амнияти миллӣ айбдор карда шуд, пас аз он ки директори генералии он Дарио Амодей дар баҳсе, ки маҳсулоти ширкат метавонад ба тарзе истифода шавад, ки маҳдудиятҳои дарунсохтро вайрон кунад, аз даст кашидан худдорӣ кард.

Сипас президент Доналд Трамп Anthropic-ро танқид карда гуфт: "Мо ба он ниёз надорем, мо онро намехоҳем ва дигар бо онҳо тиҷорат нахоҳем кард."

Котиби Пентагон Пит Хегсет ширкатро "хатари занҷираи таъминот" номид, ки ин истилоҳ одатан ба рақибони хориҷӣ истифода мешавад ва метавонад шарикиҳои калидии ширкатро зери хатар гузорад.

Дар посух, Anthropic изҳор дошт, ки ин қарорро ба чолиш мекашад ва онро як иқдоми бесобиқа ва аз ҷиҳати ҳуқуқӣ беасос номид, ки қаблан ҳеҷ гоҳ ба ширкатҳои амрикоӣ татбиқ нашуда буд.

Anthropic шарҳ дод, ки аз Пентагон кафолати маҳдуд талаб кардааст, ки чатботи он, Клод, барои назорати оммавии шаҳрвандони ИМА ё дар системаҳои пурра мустақили силоҳ истифода нахоҳад шуд.

Шояд шумо ба инҳо таваҷҷӯҳ дошта бошед: хабарҳои асосии Ню-Йорк, ҳикояҳои муҳоҷирони мо ва маслиҳатҳои муфид дар бораи ҳаёт дар Big Apple - ҳамаашро дар ForumDaily New York хонед

Пентагон посух дод, ки ба чунин истифода манфиатдор нест ва қасд дорад, ки ин технологияро танҳо бо роҳҳои қонунӣ истифода барад, аммо дар айни замон ба дастрасии номаҳдуд ба он исрор мекунад.

Ширкат ҳушдор дод, ки "ҳеҷ фишор ё таҳрим аз ҷониби артиш мавқеи моро дар мавриди назорати оммавии дохилӣ ва силоҳҳои пурра худкор тағйир намедиҳад. Мо ба таъйиноти "хатари занҷираи таъминот" дар додгоҳ эътироз хоҳем кард."

Инчунин онро дар рӯзҳои Forum бихонед:

«Шӯриши мошинӣ» аллакай оғоз ёфтааст: агентҳои зеҳни сунъӣ берун аз қуттӣ фикр карданро сар мекунанд, аз лабораторияҳо ва системаҳои ҳакерӣ фирор мекунанд.

Маск ва Зукерберг ояндаи зеҳни сунъиро тавсиф карданд: ҳарду биҳиштро дар рӯи Замин ваъда медиҳанд.

Дар Ню Орлеан акнун сунъи сунъӣ ба зангҳои 911 посух медиҳад: бисёриҳо мегӯянд, ки ин фикри бад аст

Оё шумо мехоҳед хабарҳои муҳимтар ва ҷолибтар дар бораи зиндагӣ дар ИМА ва муҳоҷират ба Амрико? — моро дастгири кунед хайрия! Ба саҳифаи мо низ обуна шавед Facebook. Опсияи "Афзалият дар намоиш" -ро интихоб кунед ва аввал моро хонед. Инчунин ба мо обуна шуданро фаромӯш накунед Канали телеграмма  ва дар Instagram- Дар он ҷо бисёр чизҳои ҷолиб вуҷуд дорад. Ва ба ҳазорон хонандагон ҳамроҳ шавед ForumDaily Ню Йорк — дар он чо шумо дар бораи хаёти метрополия бисьёр маълумотхои шавковар ва мусбат пайдо мекунед.