Маск, Возняк және Харари жасанды интеллект бойынша зерттеулер мен оқытуды тоқтатуды сұрайды: бұл тым үлкен қауіп төндіреді

Танымал кәсіпкерлер, зерттеушілер, саясаткерлер мен жазушылар жасанды интеллект (AI) эксперименттерін тоқтатуды сұрап ашық хатқа қол қойды. Коммерциялық емес ұйым жариялаған үндеу Өмір болашағы институты.

Фото: IStock

Мыңнан астам қол қоюшылар барлық AI зертханаларын кем дегенде 4 айға GPT-6-тен күшті AI жүйелері бойынша зерттеулер мен оқытуды дереу тоқтатуға шақырады.

Ғалымдар адамның бәсекеге қабілетті интеллектісі бар жасанды интеллект жүйелері «қоғам мен адамзатқа үлкен қауіп төндіруі мүмкін» дейді.

Ашық хатта AI-ны тиісті күтім мен ресурстармен жоспарлау және басқару керектігі айтылған. Өкінішке орай, қол қойған тараптар жоспарлау мен басқарудың мұндай деңгейі қазіргі уақытта жоқ екенін атап өтті. Соңғы айларда AI зертханалары «ешкім, тіпті олардың жасаушылары да — түсініп, болжай алмайтын немесе сенімді түрде басқара алмайтын барған сайын қуатты цифрлық жүйелерді әзірлеу және енгізу үшін бақыланбайтын жарыста қалды».

Тақырып бойынша: Адамдарға қарағанда: жақында роботтар қандай кәсіптерді игеретін болады

Ашық хатқа қол қойған AI зерттеушілері машиналарға ақпараттық арналарымызды үгіт-насихат пен жалғандықпен толтыруға рұқсат беруіміз керек пе, біз ақырында санынан асып түсетін, бізді басып алатын және алмастыратын адам емес ақыл-ойды дамытуымыз керек пе деп сұрайды.

Хатта біздің өркениетті бақылауды жоғалту мүмкіндігін мойындайды. Қол қоюшылар AI әзірлеу шешімдерін сайланбаған көшбасшыларға беруге болмайды деп санайды. Олар күшті жасанды интеллект жүйелерін адамдар елеулі қауіп-қатерсіз өз тиімділігіне сенімді болған кезде ғана дамыту керек деп сендіреді. Бұл сенім жақсы негізделуі және зерттеулермен расталуы керек.

OpenAI-дің жасанды жалпы интеллектке қатысты жуырдағы мәлімдемесінде «болашақ жүйелерді оқытуға кіріспес бұрын белгілі бір сәтте тәуелсіз бағалау алу маңызды болуы мүмкін» делінген. Ашық хат авторлары мұндай сәт әлдеқашан келіп жетті деп есептейді.

OpenAI негізін қалаған, бірақ 2018 жылы кеткен және содан бері ұйымды сынай бастаған Маск хатқа қол қойды.

Массачусетс технологиялық институтында сөйлеген сөзінде Маск бұл адамзат үшін ең маңызды қауіп болуы мүмкін екенін айтты: «Жасанды интеллект арқылы біз жын шақырамыз. Пентаграмма мен қасиетті суы бар жігіт туралы барлық әңгімелерде бұл жігіт жынды басқара алатынына сенімді. Ол шықпады».

«Бұл мақтаныш және айқын қателік», - деді Маск AI күшін бағаламау туралы.

Сондықтан, қол қоюшылар барлық AI зертханаларын кем дегенде 6 айға GPT-4-тен күшті AI жүйелері бойынша оқытуды дереу тоқтатуға шақырады. Бұл үзіліс әмбебап және тексерілетін болуы керек және барлық негізгі ойыншыларды қамтуы керек. Егер мұндай үзіліс тез арада енгізілмесе, үкіметтер араласып, хатта ұсынылғандай мораторий енгізуі керек.

Қол қоюшылардың пайымдауынша, кідіріс жасанды интеллект зертханалары мен тәуелсіз сарапшыларға тәуелсіз сыртқы сарапшылар мұқият тексеретін және бақылайтын озық AI дизайны мен әзірлеуіне арналған жалпы қауіпсіздік хаттамаларын әзірлеу және енгізу болып табылады. Бұл хаттамалар оларға сәйкес келетін жүйелердің күмән тудырмайтын қауіпсіз болуын қамтамасыз етеді.

Мақала ұнады ма? Қолдау Форум күні!?

Қол қоюшылар бұл жалпы AI дамуындағы үзіліс дегенді білдірмейтінін, бірақ «қауіпті жарыстан барған сайын болжанбайтын қара жәшік модельдеріне» кері қадам екенін атап өтті. Олар үкіметтер мен арнайы органдардың AI жүйелерін қадағалауды, бақылауды, тексеруді жақтайды.

Бұл үзіліс бейімделуге мүмкіндік береді, кейінірек «AI жазынан» толық ләззат алу мүмкіндігін береді.

«Қоғам қоғам үшін апатты салдары болуы мүмкін басқа технологияларды пайдалануды тоқтатты. – делінген хатта. - Біз мұны осында жасай аламыз. Күзге дайындықсыз асықпай, ұзақ жазды жасанды интеллектпен өткізейік».

Хатқа кім қол қойды

AI-мен жұмыс істейтін және үндеуге қол қойған көрнекті ақыл-ойлардың арасында біз мыналарды бөліп көрсетуге болады:

• Илон Маск, SpaceX және Tesla негізін қалаушы;
• тарихшы және футуролог Ювал Ноа Харари;
• Apple негізін қалаушы Стив Возняк;
• Skype негізін қалаушы Яан Таллин;
• технологияны қолдайтын саясат, Эндрю Ян.

Қол қойғандар арасында Amazon, DeepMind, Google, Meta және Microsoft инженерлері, сондай-ақ атақты когнитивті ғалым Гэри Маркус сияқты академиктер бар.

Сізді қызықтыруы мүмкін: Нью-Йорктегі басты жаңалықтар, біздің иммигранттар туралы әңгімелер және Үлкен Алма өмірі туралы пайдалы кеңестер - бәрін оқы Форум күні жаңа Йорк.

Бірлескен авторлар арасында Apple, Pinterest және Skype құрылтайшылары, сондай-ақ AI стартаптары Stability AI және Character.ai негізін қалаушылар бар.

Харари AI-ны климаттың өзгеруімен және ядролық қауіппен қатар тұрған жақын болашақтың маңызды міндеттерінің бірі деп санайды.

«Жабайы Батыс әлемінің апокалиптикалық сценарийлерінен емес, АИ тудырған әлеуметтік және экономикалық дағдарыстан қорқу керек», - дейді тарихшы.

«Ерте ме, кеш пе, біздің өмірімізді жеңілдетуге арналған ойлау құрылғылары олардың жақсырақ екенін түсіне бастайды. Содан кейін компанияларды кім басқарады - баяу адам немесе машина? дейді Стив Возняк.

Содан кейін, оның пікірінше, адам жасанды интеллектке «құмырсқа тәрізді нәрсеге» айналуы мүмкін.

Форум күнін де оқыңыз:

«Күш сенімен бірге болсын»: «Жұлдызды соғыстар» актері әуе шабуылдары туралы ескертуге арналған украиндық қолданбаны айтты

Үйде оқыту: Көптеген американдықтар балаларын мектептен алып шығып, саяхаттау кезінде «дөңгелекте» оқытады

Сіз АҚШ-тағы өмір және Америкаға иммиграция туралы маңызды және қызықты жаңалықтарды алғыңыз келе ме? — бізді қолда садақа бер! Сондай-ақ біздің парақшаға жазылыңыз Facebook. «Дисплейдегі басымдық» опциясын таңдап, алдымен бізді оқыңыз. Сондай-ақ, біздің сайтқа жазылуды ұмытпаңыз Telegram каналы  мен Instagram- Онда қызық көп. Және мыңдаған оқырмандарға қосылыңыз ФорумДүниежүзілік Нью-Йорк — онда сіз мегаполистің өмірі туралы көптеген қызықты және жағымды ақпаратты таба аласыз.