Жасанды интеллект адамзатты жойды, бірақ кейін кешірім сұрады: Сан-Францискода ерекше мұражай ашылды

Сан-Францискодағы (Калифорния штаты) Дискорданс мұражайы жасанды интеллект адамзатты жойған жағдайды ұсынуға шешім қабылдады, бірақ содан кейін аман қалған бірнеше адамнан кешірім сұрауға шешім қабылдады. Басылым мұражай туралы толығырақ айтып берді Голос Америки.

Фото: IStock

Кейбір сарапшылар қазір әлемде болып жатқан AI дүрбелеңі деп санайды - бұл адамның нейрондық желілер мен чат-боттардың спазмодикалық дамуы туралы әмбебап алаңдауы.

Журналистер Microsoft Bing чат-ботымен қорқынышты диалогтармен бөлісуді тоқтатты (мысалы, Сиднейдің нейрондық желісі, әңгімелесушілерге сүйіспеншілікті мойындау және пассивті агрессияны көрсету), Google инженері Блейк Лемойнның оқиғасы, ол LaMDA-да сананың болуы туралы мәлімдемесі үшін жұмыстан шығарылды. желі де ұмытылды.

Дегенмен, наурыз айының ортасында OpenAI жаңартылған ChatGPT-4 нейрондық желісін шығарды және дабыл қайтадан оралды: пайдаланушылар олардың чаттары, сондай-ақ төлем деректері бір-бірімен араласып кеткенін анықтады. Бұл машиналар көтерілісі ме, әлде бұл жай ғана қателік пе?

«Егер біз жалғастырсақ, бәрі өледі»

Сарапшылардың көпшілігі көтеріліс теориясын қолдайды. ChatGPT және Bing бәсекелесі, Google-дың Bard AI көмекшісі көпшілікке жарияланғаннан кейін, 28 жылдың 2023 наурызында Илон Маск, Стив Возняк және AI және технологиямен байланысты бірнеше мың адам нейрондық желіні әзірлеушілерден кем дегенде 6 уақыт үзіліс жасауды талап ететін ашық хат жариялады. Адамзаттан тыс интеллект адамзат үшін қаншалықты қауіпті болуы мүмкін екендігі туралы ойлануға бірнеше ай қажет (және AI-ның мұндай болу мүмкіндігі бар).

Тақырып бойынша: Маск, Возняк және Харари жасанды интеллект бойынша зерттеулер мен оқытуды тоқтатуды сұрайды: бұл тым үлкен қауіп төндіреді

Олардың пайымдауынша, мұндай тоқтатуды жүзеге асыру мүмкін болмаса, әртүрлі елдердің үкіметтері сөзбе-сөз араласуы керек. Көп ұзамай Италияда ChatGPT тыйым салынды, бұл тарихта бірінші рет кез келген елдің билігі өз азаматтарына нейрондық желіні пайдалануға тыйым салды.

29 наурызда Time журналында Элиезер Юдковскийдің дүрбелең және эмоционалды бағанасы жарияланды. Ол Machine Intelligence Research Institute шешім теоретикі, AI маманы және Гарри Поттер және Рационалдылық әдістері және достық АИ құру сияқты бірнеше кітаптардың авторы.

Оның ойлары хат авторларына қарағанда әлдеқайда түбегейлі: оның пікірінше, жасанды интеллекттің дамуын кідірту жеткіліксіз, оны тоқтату керек. Юдковский қызы Нинаның алғашқы сүт тісін қалай жоғалтқаны туралы әңгімелейді, ал ChatGPT-4 қазірдің өзінде осындай күрделі мәселелерді шешіп жатыр, Нина тұрақты тістерді көру үшін өмір сүре алмайды.

Юдковский хатқа қол қоймады, өйткені оның пікірінше, ол енді көмектеспейді. Барлығы тым ауыр болды. Оның пайымдауынша, адамнан да ақылды кез келген асқан интеллект адамзатты шамамен жүз пайыз ықтималдықпен өлтіреді - және біз оған қарсы тұра алмаймыз, өйткені біз ақымақ боламыз.

«AI сізді жақсы көрмейді де, жек көрмейді де; ол үшін сіз жай ғана басқа нәрсеге жақсы пайдалануға болатын атомдардан жасалғансыз», - деп атап өтті ол. «Адамгершіліктен тыс интеллектке қарсы тұруға тырыссақ та, біз міндетті түрде жеңілеміз». Бұл үшін ең жақсы метафоралар: шахматта Stockfish 15-ті жеңуге тырысқан он жасар бала; XNUMX ғасырмен күресуге тырысатын XNUMX ғасыр; Австралопитектер гомо сапиенспен күреседі. Бұл дұшпандық суперадамды АИ-ді елестету үшін қауіпті электрондық пошталарды жіберетін кейбір зиянды жасанды интеллектті елестетудің қажеті жоқ. Олардың көзқарасы бойынша өте ақымақ және баяу жаратылыстар әлемінде адамдардан миллиондаған есе жылдам ойлайтын тұтас бөтен өркениетті елестетіп көріңіз. Жеткілікті интеллектуалды AI компьютермен ұзақ уақыт байланыста болмайды. Қазіргі әлемде сіз протеин қосылыстарын жасау үшін зертханаларға ДНҚ тізбек кодтарын электрондық пошта арқылы жібере аласыз. Бастапқыда ол компьютерге қосылған болса да, AI кейінірек жасанды тіршілік формаларын жасай алады немесе бірден постбиологиялық молекулалық өзін-өзі өндіруге көше алады ».

Өте қорқынышты естіледі, Юдковский де қорқады. Оның айтуынша, мәселе АИ-нің санасына ие бола ма, жоқ па? Сірә, біз ешқашан білмейміз және бұл маңызды емес. Ол «егер біреу тым күшті AI құрастырса, адам түрінің әрбір мүшесі, сондай-ақ жер бетіндегі барлық биологиялық тіршілік жақын арада жойылады» деп жазады.

Ол адамзаттың оқиғалардың мұндай дамуына мүлдем дайын емес екенін атап өтеді - «мұндай нәрсені қалай жасайтынымыз және бір уақытта қалай өмір сүретініміз туралы ұсынылған жоспар да жоқ» - және бізде кем дегенде 50 жыл дайындалу керек. Біз дайын емеспіз, егер біз мұны жасасақ, бәріміз өлеміз деп сендіреді. Сондықтан оны жою керек. Қажет болса, деректер орталықтарын ұшақтардан бомбалаңыз.

Мақала былай аяқталады: «Біз дайын емеспіз. Ал жақын арада бұдан да дайын болмаймыз. Жалғастырсақ, бәрі өледі, соның ішінде мұны таңдамаған және ешнәрсе істемеген балалар да өледі».

«Адамзатты жойғанымыз үшін өкінемін»

Бірақ егер біреу дайын болып шықса, бұл философтар мен суретшілер. Заманауи өнер әлемінде мұндай толғаулар көптен бері жүзеге асып келеді. Кейбір суретшілер жай ғана AI-мен ынтымақтасады: ChatGPT-4 нейрондық желілермен жұмыс істейтін германиялық Марио Клингеманға, үлкен инсталляциялары мен спектакльдерімен Түркиядан келген Рефик Анадолға, сондай-ақ поляк мүсінші Агнешка Курантқа, британдық Анна Ридлерге, американдық Анна Ридлерге назар аударуды ұсынады. Тревор Паглен және AI басқаратын роботтардың көмегімен абстрактілі суреттер салатын Канададан келген қытайлық Сугвен Чанг.

Кейбір өнерде этикалық аспектілерге назар аударады және AI қауіптілігі туралы ойлайды - мұнда ChatGPT технологияның қоғамға әсері туралы байыпты ойлайтын суретшілер Хито Стейерл мен Саймон Денниге кеңес береді; және адам ағзаларымен байланыста болған, шаштар мен темекі тұқылдарынан асфальтқа жабысқан сағызға дейін жойылған артефактілерден қалпына келтірілген ДНҚ портреттерінің сериясымен танымал пәнаралық биохакер суретшісі Хизер Хьюи-Дагборг.

Қазіргі заманғы өнер және AI туралы сұрақтарға жауап бергенде, ChatGPT-4 оның сыртқы түріне қатты алаңдаған суретшілердің тізімін бірден шығарған жоқ. Алғашында ол жасанды интеллект мүмкіндіктеріне тәнті болған бірнеше ондаған қарапайым әріптестерді ұсынды. Алдағы GPT-5 оны адам ретінде мүлдем танымайтын және «жасанды интеллект» орнына «жасанды ақымақтық» деп айтатын Хито Стейерлді айтпауды шеше ме, AI Twitter боттарын жасаудан басқа ештеңеге пайдалы емес деп санайды ма? Күтейік, көрейік.

Өсіп келе жатқан AI дүрбелеңімен бір мезгілде Сан-Францискода наурыз айының басында Сан-Францискода Апокалипсистен кейінгі AI-ға арнайы арналған «Дұрыс емес үйлестіру мұражайы» («Дұрыс келмеу мұражайы») деп аталатын уақытша мұражай пайда болды. Ашылу салтанатына барлығы келді - қызықты мектеп оқушыларынан бастап OpenAI және Meta жетекші зерттеушілеріне дейін, сондай-ақ канадалық поп-жұлдыз Гримс, Илон Масктың бұрынғы құрбысы сияқты супер атақты адамдар.

Мұражай идеясы өте қарапайым – бұл AI-ның кешірім сұрауы. Содан кейін ол адамзатты жойып жіберді, содан кейін ол ұялып, адамдар әлі де жаман емес мұражай жасауды шешті. Көрмеде адам мен AI-ның бірлескен жұмыстары (адамдар өнер өндірушілері ретінде бір нәрсеге жақсы екенін дәлелдейді), сонымен қатар AI адамзат үшін пайдалы және қауіпті болуы туралы мета-ирониялық және кейде қайғылы әңгімені ұсынады.

Мұражай кураторы және Google және Cruise-тің бұрынғы қызметкері Одри Ким оның мақсаты адамдарға өнер арқылы өте күшті AI қандай болатынын көрсету екенін түсіндіреді: дос, көмекші немесе мүмкін қауіп? Мұражайдың мақсаты алаңдаушылықты арттыру емес, елеусіз қалған болашақ туралы хабардар ету.

Көрермендердің бірінші көретіні - өте қорқынышты музыка ойнайтын сәнді рояль. Оның үстінде көзі бар моншақ мүсіндер бар. Шығарманың хабарландыруы AI позициясынан жазылған: олар айтады, біз адамзатпен аздап ынтымақтастықта болдық, тірі протеин композиторы партитураға өзінің импровизациясын қосқан жағдай болды; және бізге бұл мүсіндер ұнады, олар сүйкімді. Адамдар соншалықты әсерлі, аналогтық, олар баяу және мұқият әрекет етеді.

Көрмеге Дисней мультфильмдеріндегідей билейтін сыпырғыш-шаңсорғыштар және винтажды мониторлар арқылы таратылатын Вернер Херцог пен Славой Жизектің AI арқылы жасалған шексіз философиялық диалогы сияқты белгілі жобалар, тіпті AI-генерацияланған фильм бар. адамзаттың жойылуы.

Сондай-ақ өте ирониялық нысандар бар: мысалы, суретші Нил Мендоза СПАМ шошқа ветчина банкаларынан жасалған спам-боттар фабрикасы, бір кездері осы құбылысқа атау берді. Бұл кішкентай тұтқалары бар қаңылтыр роботтар, олардың көмегімен кілттерді соғады - әрқайсысына алфавиттің 2-3 әрпі берілді. Бірақ олар бірге күшті. Олар Олдос Хакслидің «Батыл жаңа әлем» кітабынан шабыттанған AI-генерацияланған романды бірлесіп жазуда, мұнда барлық кейіпкерлер шошқалар, өйткені құмыралар әлі күнге дейін өз тамырларын есте сақтайды.

Шығуда «Жаратылыс: және бір сөз болды» деген үлкен AI кенепі жұртшылықпен қоштасады - Микеланджелоның әйгілі «Адамның жаратылуы» кескіндерді танитын компьютерлік көру арқылы қабылданатындай беріледі. Жұмыс авторы Інжілдегі «Басында сөз болды» деген үлкен тіл үлгілері үшін сөзбе-сөз адамзаттың діни көзқарасы бар бөлігі үшін бірдей мағынаны білдіруі мүмкін деп санайды: «Олардың қалай болғаны туралы Киелі кітаптың бірінші жолы. құрылды».

Сізді қызықтыруы мүмкін: Нью-Йорктегі басты жаңалықтар, біздің иммигранттар туралы әңгімелер және Үлкен Apple өмірі туралы пайдалы кеңестер - мұның барлығын ForumDaily New York сайтында оқыңыз

Көрменің негізгі тақырыбы - Paperclip Embrace, адамдардың құшақтасып тұрған мүсіні, Pier Group компаниясының Мэтт Шульцпен бірге қағаз қыстырғыштарынан жасалған және Ник Бостромның жасанды интеллект утилитарлық артық мақсатпен жасалған (мысалы, оңтайландыру үшін) ой тәжірибесінен шабыттанған. іс жүргізу процесі), ғаламның барлық ресурстарын қағаз қыстырғыштарын өндіруге бағыттау туралы шешім қабылдау арқылы адамзатты кездейсоқ жоюы мүмкін.

Биіктігі 22 метр болатын бұл жұмыстың түпнұсқа нұсқасы Өртенген адам үшін жасалып, 2014 жылы сол жерде өртеніп кеткен, бақытымызға орай ол қағаз қыстырғыштардан жасалмаған.

Адам шынымен баяу: біздің көз алдымызда мұражай ескіріп барады. Мысалы, нейрондық желіні мойындауға болатын болашақтың шағын шіркеуі әлі де ChatGPT-тің «ескі» нұсқасына негізделген. «Қайта-қайшылықтар мұражайы» 1 мамырға дейін жұмыс істейді, бірақ демеушілер табылса, көрме тұрақты болып, заттармен бірге өсіп кетуі әбден мүмкін.

Мұражайдың хронологиясы, сондай-ақ адамзаттың жойылуы Paperclip Hug жанында ілулі тұр: оның 19 ұпайы бар. 17, 18 және 19-шы дыбыстар келесідей: «AI соншалықты ақылды болды, ол адамдарды өлтірудің этикалық емес екенін түсінді, әсіресе олар ешқандай қауіп төндірмейтіндіктен. AI аман қалған адамдардың өмірін жақсартуға тырысады. AI бұл мұражайды кешірім сұрау және қалған адамдарға болған оқиға туралы айту үшін ашты ».

Біз 3 және 4-тармақтардамыз: «Ерте кезеңде процеске араласу арқылы тәуекелдерді азайтуға тырысатын кейіпкерлер пайда болады. Пайда іздейтін компаниялар олардың ескертулеріне құлақ аспайды».

Мұражай ашылған кезде (14 жылдың 2023 наурызы) 3 және 4 тармақтар әлі орындалмаған: Маск пен басқалары хатқа әлі қол қоймаған. Бұл қалған ұпайлар дәл осылай тез орындалады дегенді білдіре ме?

Форум күнін де оқыңыз:

Мансап, жұмыс іздеу, өзін-өзі дамыту, ағылшын тілін үйрену: TikTok-та кімді қадағалап отыру керек

Ең арзан рейстерді таба алатын бес веб-сайт

Фольксваген иелерінен ешкімді алдыңғы орындыққа отырғызбауды сұрайды: бұл ауыр жарақаттарға толы

Өмір мен өлім мәселесі: торнадо кезінде қалай аман қалу керек

Минутына жүздеген доллар: ChatGPT сізге ақша таба алады және бұл толығымен заңды

Сіз АҚШ-тағы өмір және Америкаға иммиграция туралы маңызды және қызықты жаңалықтарды алғыңыз келе ме? — бізді қолда садақа бер! Сондай-ақ біздің парақшаға жазылыңыз Facebook. «Дисплейдегі басымдық» опциясын таңдап, алдымен бізді оқыңыз. Сондай-ақ, біздің сайтқа жазылуды ұмытпаңыз Telegram каналы  мен Instagram- Онда қызық көп. Және мыңдаған оқырмандарға қосылыңыз ФорумДүниежүзілік Нью-Йорк — онда сіз мегаполистің өмірі туралы көптеген қызықты және жағымды ақпаратты таба аласыз.