Өлмейтіндік немесе жойылу: AI адам ақылға қонымды болғанда не істей алады

Жасанды интеллект адамзаттың жойылуына әкелуі мүмкін, деп ескертеді кейбір сарапшылар, соның ішінде OpenAI және Google Deepmind басшылары. Басылымда машиналар адамдарды қалай жеңе алады және одан не болатынын анықтады BBC.

Фото: IStock

2022 жылдың қарашасында ChatGPT іске қосылғаннан бері бұл жасанды интеллект (AI) чатботы тарихтағы ең жылдам дамып келе жатқан интернет қолданбасына айналды.

Екі айдың ішінде оның 100 миллион белсенді пайдаланушысы болды. Sensor Town технологиялық мониторинг компаниясының мәліметі бойынша, бұл көрсеткішке жету үшін Instagram-ға екі жарым жыл қажет болды.

ChatGPT-тің мұндай танымалдығы AI-ның адамзат болашағына әсері туралы қызу пікірталас тудырды.

Ондаған сарапшылар AI қауіпсіздік орталығын қолдады, ол «адамның жасанды интеллекттен жойылу қаупін азайту пандемия және ядролық соғыс сияқты басқа жаһандық тәуекелдермен бірге жаһандық басымдық болуы керек» деп мәлімдеді.

Сонымен қатар, басқа сарапшылар мұндай қорқынышты асыра сілтеу деп санайды және адамзаттың қорқатын ештеңесі жоқ.

Адамдарға еліктеу

ChatGPT, DALL-E, Bard және AlphaCode сияқты AI құралдары арқылы жасалған мәтін мен кескіндерді адам жұмысынан ажыратуға болмайды.

Олардың көмегімен студенттер үй тапсырмасын орындайды, ал саясаткерлер Демократиялық партияның өкілі Джейк Ачинклос сияқты баяндамалар жазады.

Технологиялық алпауыт IBM жақында AI жұмыс істей алатын 7800 позицияға адамдарды жалдауды тоқтататынын айтты.

Тақырып бойынша: Жасанды интеллект жаңа антибиотик ойлап тапты: ол дәрігерлер ондаған жылдар бойы жеңе алмаған мәселені шешеді

Бұл өзгерістер қаншалықты таңқаларлық болса да, бұл бастамасы ғана.

Қазір біз AI дамуының бірінші сатысындамыз. Алда кейбір ғалымдардың пікірінше, адамзаттың аман қалуына тікелей қауіп төндіруі мүмкін тағы екеуі бар.

Үш кезең

1. Жасанды тар интеллект (AI)

Тар AI деп те аталатын жасанды тар интеллект бір тапсырмаға назар аударады және берілген функциялар ауқымында қайталанатын жұмысты орындайды.

Ол көптеген деректерді зерттей алады, мысалы, Интернеттен, бірақ ол бағдарламаланған белгілі бір аймақта ғана.

Жақсы мысал - шахмат бағдарламалары. Олар шахматтан әлем чемпионын жеңе алады, бірақ қолдарынан келгені осы.

Бұл технологияны пайдаланатын смартфондарда GPS карталарынан музыкалық және бейне бағдарламаларға дейін көптеген қолданбалар бар.

Өздігінен жүретін көліктер және ChatGPT сияқты одан да күрделі жүйелер тар жасанды интеллект нысандары болып табылады. Олар тапсырмалар жиынтығынан тыс әрекет ете алмайды, сондықтан олар өз бетінше шешім қабылдай алмайды.

Дегенмен, кейбір сарапшылар ChatGPT немесе AutoGPT сияқты автоматты оқытуға бағдарламаланған жүйелер дамудың келесі кезеңіне өте алады деп есептейді.

2. Жасанды жалпы интеллект (AI)

Жасанды жалпы интеллект машина адам жасай алатын кез келген интеллектуалды тапсырманы орындай алатын кезде шындыққа айналады.

Жасанды жалпы интеллект - бұл машинаның адам сияқты интеллектуалдық мүмкіндіктері бар нүкте.

Оны «күшті AI» деп те атайды.

алты айлық үзіліс

2023 жылдың наурыз айында 1000-нан астам технология сарапшылары «барлық AI зертханалары GPT-6-тен күштірек AI жүйелері бойынша оқытуды кемінде 4 айға дереу тоқтатуға» шақырды (ChatGPT соңғы нұсқасы).

«Адамға ұқсас және бәсекеге қабілетті интеллектке ие AI жүйелері қоғамға және жалпы адамзатқа үлкен қауіп төндіруі мүмкін», - деп жазды Apple компаниясының негізін қалаушы Стив Возняк және басқа технология көшбасшылары, соның ішінде Tesla және SpaceX иесі Илон Маск өз үндеуінде.

Маск OpenAI негізін қалаушылардың бірі болды, бірақ кейін фирма басшылығымен келіспеушіліктерге байланысты кетіп қалды.

«Future of Life Institute» коммерциялық емес ұйымы жариялаған хатта сарапшылар егер компаниялар өз жобаларын тез тоқтатудан бас тартса, қауіпсіздік шараларын әзірлеп, жүзеге асыру үшін «үкімет араласып, мораторий енгізуі керек» дейді.

«Ақылды болғандай ақымақ»

Бірінші хатқа Оксфорд университетіндегі AI этика институтының қызметкері Карисса Велисе де қол қойды. Кейінірек AI Қауіпсіздік Орталығының адамның жойылуы туралы ескертетін мәлімдемесі оның пікірінше, тым алыс болса да, ол оған қол қоймауды жөн көрді.

«Қазір біз жасап жатқан жасанды интеллект ақылды болғандай ақымақ», - деді ол. «Егер біреу ChatGPT немесе басқа AI қолданып көрсе, олар өте шектеулі екенін байқайды».

Велиз оны AI үлкен жылдамдықпен жалған ақпарат жасай алатынына көбірек алаңдайтынын айтады.

«АҚШ сайлауы жақындаған сайын, Twitter және басқалар сияқты маңызды платформалар AI этикасы мен қауіпсіздік топтарын жұмыстан шығаруда. Бұл мені көбірек алаңдатады», - деді ол.

АҚШ үкіметі ықтимал қауіптерді мойындайды.

«Жасанды интеллект - қазіргі заманның ең қуатты технологияларының бірі, бірақ ол беретін мүмкіндіктерді пайдалану үшін алдымен ол тудыратын қауіптерді азайту керек», - делінген Ақ үйдің 4 мамырдағы мәлімдемесінде.

АҚШ Конгресі тіпті OpenAI бас директоры Сэм Альтманды шақырып, ChatGPT туралы бірнеше сұрақтар қойды.

Сенаттағы тыңдау кезінде Альтман оның индустриясын үкімет реттейтіні өте маңызды екенін айтты, өйткені AI күн сайын күшейіп келеді.

Болашақ өмір институтының қоғамдық саясат зерттеушісі Карлос Игнасио Гутиеррес жасанды интеллект тудыратын үлкен мәселелердің бірі - оны қалай реттеу керектігін шешетін сарапшылардың алқалы органы жоқ деп түсіндірді, мысалы: климаттың өзгеруі жөніндегі үкіметаралық топ сарапшыларымен.

Бұл бізді AI үшінші және соңғы кезеңіне әкеледі.

3. Жасанды супер интеллект (АЖ)

Біз 2-кезеңге (AI) жеткенде, біз бірден соңғы кезеңге - жасанды супер интеллектке (АС) көшеміз. Бұл жасанды интеллект адам интеллектінен жоғары болған кезде болады.

Оксфорд университетінің философы және жасанды интеллект сарапшысы Ник Бостром суперинтеллектті «барлық салада, соның ішінде ғылыми шығармашылық, жалпы интеллект және әлеуметтік дағдыларды қоса алғанда, ең жақсы адам миынан өте жоғары» интеллект деп анықтайды.

«Инженер, медбике немесе заңгер болған адамдар ұзақ уақыт оқуы керек. Y-мен проблема мынада: ол үнемі жақсара алады, ал біз оны жақсарта алмаймыз », - деп түсіндіреді Гутьеррес.

Ғылыми фантастика

Бұл даму тұжырымдамасы «Терминатор» фильмінің сюжетін еске түсіреді, онда машиналар адамзатты жою үшін ядролық соғыс бастайды.

Принстон университетінің компьютер ғалымы Арвинд Нараянан бұрын ғылыми фантастикаға ұқсас апат сценарийлерінің шындыққа жанаспайтынын айтқан: «Қазіргі жасанды интеллект бұл тәуекелдерді жүзеге асыра алмайды. Нәтижесінде ол жасанды интеллектке қысқа мерзімді зақым келтіруді азайтады ».

Машинаның шын мәнінде адам алатын кең интеллектке ие бола алатындығы туралы көп пікірталастар болғанымен, әсіресе эмоционалдық интеллектке келетін болсақ, бұл IP-ге қол жеткізуге жақын деп санайтындарды алаңдатады.

Жақында «жасанды интеллекттің ата-анасы» деп аталатын машиналық оқытудың пионері Джеффри Гинтон біз бұл белеске жетуіміз мүмкін екенін ескертті.

«Қазіргі кезде машиналар бізден ақылды емес, менің ойымша. Бірақ менің ойымша, олар жақында солай болуы мүмкін », - деді Google-дан жақында зейнетке шыққан 75 жастағы Гинтон.

Оның айтуынша, ол қазір атқарылған істерге өкініп, «жаман адамдар» жасанды интеллектті «жаман істерге» пайдаланады деп қорқады.

«Мысалы, Ресей президенті Владимир Путин сияқты біреу роботтарға өздерінің аралық мақсаттарын жасау мүмкіндігін беруге шешім қабылдады деп елестетіп көріңізші», - деді ол.

Сізді қызықтыруы мүмкін: Нью-Йорктегі басты жаңалықтар, біздің иммигранттар туралы әңгімелер және Үлкен Apple өмірі туралы пайдалы кеңестер - мұның барлығын ForumDaily New York сайтында оқыңыз

Оның ойынша, сайып келгенде, машина «көбірек қуат алу» мақсатын қоя алады.

Сонымен бірге, Гинтон қысқа мерзімде оның пікірінше, жасанды интеллект тәуекелдерден гөрі әлдеқайда көп пайда әкелетінін атап өтті.

«Сондықтан оны дамытуды тоқтатпау керек деп ойлаймын», - деп түйіндеді ол.

Жою немесе өлмеу

Британдық физик Стивен Хокинг болашақ ұрпаққа жасанды интеллекттің қауіптілігі туралы көптен бері ескертіп келеді.

«Толық жасанды интеллекттің дамуы адамзат баласының жойылуын білдіруі мүмкін», - деді ол 2014 жылы қайтыс болуынан төрт жыл бұрын.

Оның айтуынша, интеллектінің мұндай деңгейі бар машина өздігінен әрекет етіп, өзін қайта құрастыра алады.

Наноботтар және өлместік

Жасанды интеллекттің ең үлкен әуесқойларының бірі - футуролог-өнертапқыш және автор Рэй Курцвейл, Google-дағы AI зерттеушісі және Силикон алқабындағы Singularity университетінің негізін қалаушы.

Курцвейл адамдар биологиялық кедергілерді еңсеру үшін өте интеллектуалды AI қолдана алады деп санайды.

2015 жылы ол 2030 жылға қарай адам ағзамыздағы кез келген зақымдануды қалпына келтіретін және ауруларды емдей алатын наноботтардың (өте кішігірім жұмыстардың) арқасында өлместікке қол жеткізе алады деп ұсынды.

AI басқару

Гутьеррес AI басқару жүйесін құрудың кілті екеніне келіседі.

«Кейбір субъект планетадағы әрбір адам және олардың әдеттері туралы соншалықты көп ақпаратқа ие болатын болашақты елестетіп көріңіз, ол бізді тіпті біз байқамайтын жолмен басқара алады», - дейді ол. «Ең нашар сценарий - адамдар мен жұмыс орындары арасындағы соғыстар емес. Ең сорақысы, біз өзімізді басқаратынымызды түсінбейміз, өйткені біз планетада бізден әлдеқайда ақылды боламыз».

Форум күнін де оқыңыз:

Жаз келе жатыр: үйді ыстыққа қалай дайындау керек

Сізге демалыс үшін төлейтін және қашықтан жұмыс істеуге мүмкіндік беретін алты американдық компания

АҚШ-тың төрт ірі қаласы, онда үй сатып алу жалға алудан арзанырақ

Сіз рейстің кешігуі туралы хабарланбай тұрып-ақ алдын ала біле аласыз

АҚШ-тағы медициналық төлемді азайтудың алты жолы

Азық-түлікті қалай үнемдеуге болады: мейрамханаларда, наубайханаларда және басқа да кәсіпорындарда артық тағамды арзанға сататын 6 қолданба

Сіз АҚШ-тағы өмір және Америкаға иммиграция туралы маңызды және қызықты жаңалықтарды алғыңыз келе ме? — бізді қолда садақа бер! Сондай-ақ біздің парақшаға жазылыңыз Facebook. «Дисплейдегі басымдық» опциясын таңдап, алдымен бізді оқыңыз. Сондай-ақ, біздің сайтқа жазылуды ұмытпаңыз Telegram каналы  мен Instagram- Онда қызық көп. Және мыңдаған оқырмандарға қосылыңыз ФорумДүниежүзілік Нью-Йорк — онда сіз мегаполистің өмірі туралы көптеген қызықты және жағымды ақпаратты таба аласыз.