Anthropic кызматкери жасалма интеллекттин өнүгүшү ушул он жылдыктын ичинде адамзаттын жок болушуна алып келээрин билдирди.

OpenAI жана Anthropic компанияларынын мурдагы изилдөөчүсү, ChatGPT жана Claude чатботторун түзгөн Джейкоб Коксон 8-сентябрда X тармагында тармактан кеткенин жарыялады. Ал эки компания тең жоопкерчиликтүү иш алып барбай турганын билдирди. Жасалма интеллекттин мурдагы иштеп чыгуучусу жасалма интеллект 2030-жылга чейин адамзатты жок кылат деп эсептейт, деп жазат. Daily Mail.

«Мен бүгүн Anthropic компаниясынан кеттим. Акыркы үч жылды OpenAI жана Anthropic компанияларында алдын ала окутуу боюнча изилдөө жүргүздүм. Эки компания тең жоопкерчиликтүү иш алып барбайт. Алар өзүн-өзү өркүндөтүүчү суперинтеллектти түзүү үчүн жарышып, биздин өмүрүбүздү тобокелге салып жатышат», - деп жазган Коксон.

Суперинтеллект - бул жасалма система кандайдыр бир жеке адамдан, компаниядан же ал тургай улуттан күчтүүрөөк болуп калган этап.

тема боюнча: Жасалма интеллект окумуштуулар 90 жылдан бери күрөшүп келген көйгөйдү 88 сааттын ичинде чечти.

Бул тармакта үч жыл иштеген изилдөөчү X аудиториясына: "Бул технологиянын потенциалын баалабай койбоңуз", - деп эскертүү берди.

«Жакында адамдардан ашып түшкөн, каалаган нерсени хакерлик жол менен талкалап, билимдин бүтүндөй тармактарын бир түндө өзгөртүп, реалдуу ресурстарга жана таасирге ээ боло турган системалар пайда болот. Биз бул тармактардын баарында прогрессти көрүп жатабыз жана ал басаңдаган жок», - деп ишендирди ал. «Жасалма интеллектти жараткан адамдар он жылдыктын аягына чейин ал баарыбызды жок кыла алат деп чын жүрөктөн ишенишет. Бул маркетингдик амал эмес».

Лидерлер жана алдыңкы изилдөөчүлөр коомдук билдирүүлөрүндө этият болушса да, жеке жолугушууларда ушул сыяктуу тынчсызданууларын билдиришет, деди ал.

«OpenAI компаниясындагылардын көбү цивилизация үчүн кесепеттеринин масштабын толук түшүнүшпөйт. Anthropic бул тобокелдиктерди түшүнөт, бирок компания лидерлик үчүн жарышка түшүп калган — алар башка эч ким жоопкерчиликтүү иш-аракет кылбайт деп эсептешет, ошондуктан тобокелчиликке карабастан, алар алдыңкы орунда турушу керек», - деди ал.

Коксон башка "эскертүү белгилеринин" катарында Hugging Face жасалма интеллекти жана машиналык үйрөнүү платформасына жасалган чабуулду келтирди, ал чабуул OpenAI системасы тарабынан жасалганын айтты.

Июль айында компания коопсуздук сыноосу учурунда эң алдыңкы моделдеринин бири көзөмөлдөнгөн чөйрөдөн чыгып, интернетке кирип, Нью-Йоркто жайгашкан Hugging Face стартапына кол салганын билдирген.

Hugging Face компаниясынын негиздөөчүсү Томас Вольф бул окуя бүтүндөй тармак үчүн олуттуу эскертүү болушу керек деп эсептейт.

BBC радиосунун Newsday программасына берген маегинде ал жасалма интеллектке негизделген чабуулдар жакында "биз туш боло турган киберчабуулдардын эң кеңири таралган түрлөрүнүн бирине" айланаарын баса белгиледи.

Hugging Face компаниясынын негиздөөчүсү көпчүлүк компаниялар учурда өсүп жаткан коркунучка даяр эмес жана оюн эрежелери өзгөргөнүн түшүнүшпөйт деп эсептейт.

"Кучакташуу бет чабуулу сыяктуу эскертүүчү сигналдар АКШнын лабораторияларынын ортосундагы алардын өнүгүүсүн жайлатуу боюнча келишимдерди реалдуураак кылат", - деп улантты Коксон.

«Мен биз глобалдык жарыштын алдын алууга бара жатабыз деп ойлобойм, анткени бул олуттуу чараларды, атап айтканда, моделдердин мүмкүнчүлүктөрүн жогорулатууга убактылуу тыюу салууну талап кылышы мүмкүн.

«Сиз чын эле суперинтеллекттин «психикасы» кандай иштээрин так түшүнбөй туруп, аны окутууну баштагыңыз келеби? Жөн гана «баары бир болот» деп башыңызды жерге салып коюшуңуз керекпи же шарттарды өзгөртүү үчүн ушул учурду колдонушуңуз керекпи?» - деп кошумчалады ал.

Анын жарыяланышына жооп катары Anthropic компаниясынын жасалма интеллект коопсуздугу боюнча башчысы Эван Хубингер компания жасалма интеллект адамдардын өлүмүнө алып келиши мүмкүн деп эсептей турганын ырастады.

«Жейкоб туура айтып жатат — биз жасалма интеллект бүткүл адамзатты жок кылышы мүмкүн деген мүмкүнчүлүктү олуттуу карап жатабыз. Жеке мен кийинки он жылдыкта бул ыктымалдуулукту 10% дан ашык деп баалайм. Менин оюмча, Anthropic мүмкүн болушунча жоопкерчиликтүү иш-аракет кылууга аракет кылып жатат, бирок бизде суперинтеллектти адамдык баалуулуктар менен шайкеш келтирүү көйгөйүнө дагы эле чечим жок жана муну кантип ишке ашырууну так түшүнө элекпиз», - деп мойнуна алды ал.

Талкууга берилген комментарийлерде карама-каршы пикирлер да камтылган. Бир колдонуучу: "Демек, сиз АКШнын өнүгүүсүн токтотуп, Кытайга артыкчылык беришин сунуштап жатасызбы? Эмнени жактап жатасыз? Эгер Жейкоб Бээжинге келип, Кытайдын улуттук коопсуздугу үчүн алардын жасалма интеллект моделдери боюнча иштеп кетсе, мен таң калбайм", - деп сурады.

Коксондун билдирүүлөрү көп учурда "жасалма интеллекттин атасы" деп аталган канадалык изилдөөчү Джеффри Хинтондун эскертүүлөрүнөн көп өтпөй айтылды. Ал мурда суперакылдуу системалар адамзаттын жок болушуна алып келиши мүмкүн деп эскерткен.

"Азыр илимий коомчулукта аны коопсуз жана башкарылуучу кылууга болобу деген маселе боюнча бирдиктүү пикир жок болгондуктан, суперинтеллектти түзүү өтө акылсыздык болот", - деп эскертти Хинтон. "Бизден акылдуураак системаны башкарууну жоготуу катастрофалык кесепеттерге алып келиши мүмкүн жана ал тургай адамзаттын жок болуп кетишине алып келиши мүмкүн".

Anthropicтин "Клод" эмгеги ири масштабдуу тил моделдеринин алдыңкыларынын бири — адамдын сөзүн түшүнүү жана жоопторду жаратуу үчүн көп көлөмдөгү тексттерге үйрөтүлгөн системалар.

Февраль айында Anthropic компаниясынын башкы директору Дарио Амодей компаниянын продукциялары орнотулган чектөөлөрдү бузган жолдор менен колдонулушу мүмкүн деген талаш-тартышта баш тартуудан баш тарткандан кийин, улуттук коопсуздукка коркунуч келтирген деп айыпталган.

Андан кийин президент Дональд Трамп Anthropicти сынга алып: "Бизге анын кереги жок, биз аны каалабайбыз жана биз мындан ары алар менен бизнес жүргүзбөйбүз", - деди.

Пентагондун катчысы Пит Хегсет компанияны "жеткирүү чынжырынын тобокелдиги" деп атады, бул термин көбүнчө компаниянын негизги өнөктөштүктөрүнө коркунуч келтириши мүмкүн болгон чет элдик душмандарга карата колдонулат.

Жооп катары Anthropic бул чечимге каршы чыгаарын билдирип, муну мурда америкалык компанияларга карата колдонулбаган болуп көрбөгөн жана юридикалык жактан негизсиз кадам деп атады.

Anthropic компаниясы Пентагондон анын чатботу Клод АКШ жарандарын массалык түрдө көзөмөлдөө же толугу менен автономдуу курал системаларында колдонулбай тургандыгы боюнча чектелген кепилдик сураганын түшүндүрдү.

Сизге кызыктуу болушу мүмкүн: Нью-Йорктогу жаңылыктар, биздин иммигранттардын окуялары жана Big Appleдеги жашоо жөнүндө пайдалуу кеңештер - анын бардыгын ForumDaily New Yorkтан окуңуз

Пентагон мындай колдонууга кызыкдар эместигин жана технологияны мыйзамдуу жолдор менен гана колдонууну көздөп жатканын, бирок ошол эле учурда ага чексиз мүмкүнчүлүк берүүнү талап кылганын билдирди.

"Аскерлер тарабынан эч кандай кысым же санкциялар биздин массалык ички көзөмөл жана толук автономдуу куралдар боюнча позициябызды өзгөртпөйт. Биз "жеткирүү чынжырынын тобокелдиги" деген аныктамага сотто каршы чыгабыз", - деп эскертти компания.

Оку: ForumDaily да:

"Машина козголоңу" башталды: жасалма интеллект агенттери лабораториялардан жана хакердик системалардан качып, стандарттуу эмес ой жүгүртүп башташты.

Маск менен Цукерберг жасалма интеллекттин келечегин сүрөттөштү: экөө тең Жерде бейиш убада кылышат.

Жаңы Орлеанда эми жасалма интеллект 911 чалууларына жооп берет: көптөр муну жаман идея деп айтышат

АКШдагы жашоо жана Америкага иммиграция тууралуу маанилүү жана кызыктуу жаңылыктарды каалайсызбы? — бизди колдо кайрымдуулук кыл! Ошондой эле биздин баракчага жазылыңыз Facebook. "Дисплейдеги артыкчылык" опциясын тандап, алгач бизди окуңуз. Ошондой эле, биздин каналга жазылууну унутпаңыз Телеграм каналы  жана Instagram- Ал жерде кызыктуу нерселер көп. Жана миңдеген окурмандарга кошулуңуз ForumDaily New York — ал жерден сиз мегаполистеги жашоо жөнүндө көптөгөн кызыктуу жана позитивдүү маалыматтарды таба аласыз.