Маск, Возняк жана Харари жасалма интеллект боюнча изилдөөлөрдү жана окутууну токтотууну суранышат: бул өтө чоң коркунуч туудурат

Белгилүү ишкерлер, изилдөөчүлөр, саясатчылар жана жазуучулар жасалма интеллект (AI) эксперименттерин токтотууну суранган ачык катка кол коюшту. Кайрылуу коммерциялык эмес уюм тарабынан жарыяланган Жашоонун келечеги институту.

Сүрөт: IStock

Миңден ашуун кол койгондор бардык AI лабораторияларын жок дегенде 4 айга GPT-6ке караганда күчтүү AI системалары боюнча изилдөөлөрдү жана окутууларды токтоосуз токтотууга чакырышууда.

Окумуштуулар адам менен атаандаштык интеллекти бар жасалма интеллект системалары "коом жана адамзат үчүн олуттуу коркунуч туудурушу мүмкүн" дешет.

Ачык катта AI пландаштырылган жана шайкеш кам көрүү жана ресурстар менен башкаруу керек деп айтылат. Тилекке каршы, кол койгондор белгилегендей, пландаштыруунун жана башкаруунун мындай деңгээли азыр жок. Акыркы айларда AI лабораториялары "эч ким, атүгүл алардын жаратуучулары дагы - түшүнө, алдын ала же ишенимдүү башкара албаган, барган сайын күчтүү санарип системаларды иштеп чыгуу жана жайылтуу үчүн башкарылгыс жарышка тыгылып калышты".

тема боюнча: адамдарга караганда жакшы: кесип жакында роботторду үйрөнүшөт болот

Ачык катка кол койгон AI изилдөөчүлөрү биз машиналардын маалымат каналдарыбызды пропаганда жана жалгандык менен каптап кетишине жол беришибиз керекпи, биз адамдык эмес акыл-эсти өрчүтүшүбүз керекпи, алар бара-бара сандан ашып, бизди жеңип, алмаштырышыбыз керекпи деп сурап жатышат.

Катта биздин цивилизациябызга контролдукту жоготуп алуу мумкунчулугун моюнга алат. Кол койгондор AI өнүктүрүү боюнча чечимдер шайланбаган лидерлерге берилбеши керек деп ырасташат. Алар күчтүү жасалма интеллект системалары адамдар олуттуу коркунучтарсыз өз натыйжалуулугуна ишенгенде гана иштелип чыгышы керек деп ырасташат. Бул ишеним жакшы негизделиши жана изилдөө тарабынан колдоого алынышы керек.

Жасалма жалпы интеллектке байланыштуу OpenAIдин жакында жасаган билдирүүсүндө "келечектеги системаларды окутуудан мурун көз карандысыз баалоо маанилүү болушу мүмкүн" деп айтылат. Ачык каттын авторлору мындай учур эбак эле келди деп эсептешет.

OpenAIди негиздеген, бирок 2018-жылы кеткен жана андан бери уюмду сынга алган Маск да катка кол койгон.

Массачусетс технологиялык институтунда сүйлөгөн сөзүндө Маск мунун адамзат үчүн эң олуттуу коркунуч болушу мүмкүн экенин айтты: «Жасалма интеллект менен биз жинди чакырып жатабыз. Пентаграмма жана ыйык суу менен жигит жөнүндө бардык окуяларда, бул жигит жинди башкара аларына ишенет. Ал чыккан жок”.

"Бул текебердик жана ачык ката", - деди Маск AI күчүн баалабаганы жөнүндө.

Ошондуктан, кол койгондор бардык AI лабораторияларын жок дегенде 6 айга GPT-4ке караганда күчтүү AI системалары боюнча окутууну токтоосуз токтотууга чакырышат. Бул тыныгуу универсалдуу жана текшерилүүчү болушу керек жана бардык негизги оюнчуларды тартууга тийиш. Эгерде мындай тыныгууну тез арада киргизүү мүмкүн болбосо, анда өкмөттөр кийлигишип, катта сунушталгандай мораторий киргизиши керек.

Кол коюучулардын ырасташынча, тыныгуу AI лабораториялары жана көз карандысыз эксперттер үчүн AIнын өркүндөтүлгөн дизайны жана иштеп чыгуусу үчүн жалпы коопсуздук протоколдорун иштеп чыгуу жана ишке ашыруу, алар кылдаттык менен карап чыгып, көз карандысыз тышкы эксперттер тарабынан көзөмөлдөнөт. Бул протоколдор аларга карманган системалардын эч кандай шектенүүсүз коопсуз болушун камсыз кылуу болуп саналат.

Макала жактыбы? Колдоо Forumday!?

Кол коюучулар бул жалпысынан AI өнүктүрүүдөгү тыныгуу эмес, жөн гана "болжолдонбогон чоң кара куту моделдерине карай кооптуу жарыштан" артка кадам таштоо экенин баса белгилешти. Алар өкмөттөр жана атайын органдар тарабынан AI системаларын көзөмөлдөөнү, көзөмөлдөөнү, текшерүүнү жакташат.

Бул тыныгуу көнүү мүмкүнчүлүгүн, кийинчерээк "AI жайынан" толук ырахат алуу мүмкүнчүлүгүн берет.

«Коом коом үчүн катастрофалык кесепеттери бар башка технологияларды колдонууну токтотту. - деп айтылат катта. - Биз бул жерде кыла алабыз. Күзгө даярдыксыз шашылбай, жасалма интеллект менен узак жайдан ырахат алалы."

Катка ким кол койгон

AI менен иштеген жана кайрылууга кол койгон көрүнүктүү акылдардын арасында биз төмөнкүлөрдү бөлүп көрсөк болот:

• Илон Маск, SpaceX жана Tesla компанияларынын негиздөөчүсү;
• тарыхчы жана футуролог Ювал Ноа Харари;
• Apple компаниясынын негиздөөчүсү Стив Возняк;
• Skype'тын негиздөөчүсү Яан Таллин;
• технологияны колдогон саясат, Эндрю Янг.

Кол койгондордун арасында Amazon, DeepMind, Google, Meta жана Microsoft компанияларынын инженерлери, ошондой эле атактуу когнитивдүү илимпоз Гари Маркус сыяктуу академиктер бар.

Сизди кызыктырышы мүмкүн: Нью-Йорктун негизги жаңылыктары, иммигранттарыбыздын окуялары жана Big Appleдеги жашоо жөнүндө пайдалуу кеңештер - баарын оку Forumday жаңы йорк.

Биргелешип авторлор арасында Apple, Pinterest жана Skype компанияларынын тең негиздөөчүлөрү, ошондой эле AI стартаптарынын Stability AI жана Character.ai негиздөөчүлөрү бар.

Харари AI жакынкы келечектин эң маанилүү чакырыктарынын бири деп эсептейт, ал климаттын өзгөрүшү жана өзөктүк коркунуч менен бирдей.

Тарыхчы: "Жапайы Батыш дүйнөсүнүн апокалиптикалык сценарийинен эмес, AI себеп болгон социалдык жана экономикалык кризистен коркуш керек" дейт тарыхчы.

«Эртеби-кечпи, биздин жашообузду жеңилдетүү үчүн иштелип чыккан ой жүгүртүү аппараттары алардын жакшыраак экенин түшүнө баштайт. Андан кийин компанияларды ким башкарат - жай адамбы же машинабы? дейт Стив Возняк.

Анан, анын ою боюнча, адам жасалма интеллектке «кумурскага окшош нерсеге» кайрыла алат.

Оку: ForumDaily да:

"Күч сени менен болсун": "Жылдыздар согушунун" актеру Украинанын аба чабуулдарын эскертүүчү колдонмосун айтты

Үйдө билим берүү: Көптөгөн америкалыктар балдарын мектептен алып чыгып, саякаттап жүргөндө "дөңгөлөктө" окутуп жатышат

АКШдагы жашоо жана Америкага иммиграция тууралуу маанилүү жана кызыктуу жаңылыктарды каалайсызбы? — бизди колдо кайрымдуулук кыл! Ошондой эле биздин баракчага жазылыңыз Facebook. "Дисплейдеги артыкчылык" опциясын тандап, алгач бизди окуңуз. Ошондой эле, биздин каналга жазылууну унутпаңыз Телеграм каналы  жана Instagram- Ал жерде кызыктуу нерселер көп. Жана миңдеген окурмандарга кошулуңуз ForumDaily New York — ал жерден сиз мегаполистеги жашоо жөнүндө көптөгөн кызыктуу жана позитивдүү маалыматтарды таба аласыз.