Жасалма интеллект адамзатты жок кылды, бирок андан кийин кечирим сурады: Сан-Францискодо адаттан тыш музей ачылды

Калифорниянын Сан-Франциско шаарындагы Дискорданс музейи жасалма интеллект адамзатты жок кылган кырдаалды көрсөтүүнү чечти, бирок андан кийин аман калган бир нече адамдардан кечирим суроону чечти. Басылма музей тууралуу кененирээк айтып берди Америка үнү.

Сүрөт: IStock

Кээ бир эксперттер азыр дүйнөдө болуп жаткан AI паникасы деп эсептешет - нейрондук тармактардын жана чатботтордун спазмодикалык өнүгүшүнө байланыштуу адамдын универсалдуу тынчсыздануусу.

Журналисттер Microsoft Bing чатботу менен коркунучтуу диалогдорду бөлүшүүнү токтотушту (мисалы, Сиднейдин нейрон тармагы, маектештерге сүйүүсүн мойнуна алуу жана пассивдүү агрессияны көрсөтүү), Google инженери Блейк Лемойндун окуясы, ал LaMDAда аң-сезимдин бар экендиги жөнүндө билдирүүлөрү үчүн иштен алынган. тармагы да унутулуп калган.

Бирок, марттын ортосунда, OpenAI жаңыртылган ChatGPT-4 нейрон тармагын чыгарды жана сигнал кайра кайтып келди: колдонуучулар алардын чаттары, ошондой эле төлөм маалыматтары бири-бири менен аралашып кеткенин байкашкан. Бул машиналардын көтөрүлүшүбү же дагы эле жаңылыштыкпы?

"Эгер уланта берсек, баары өлөт"

Көпчүлүк эксперттер көтөрүлүш теориясын колдошот. ChatGPT менен Bingдин атаандашы, Google'дун Bard AI жардамчысы ачыкка чыккандан кийин, 28-жылдын 2023-мартында Илон Маск, Стив Возняк жана AI жана технология менен байланышы бар бир нече миң башка адамдар нейрондук тармакты иштеп чыгуучулардан жок дегенде 6 тыныгууну талап кылган ачык кат чыгарышты. Адамзаттан тышкаркы интеллект адамзат үчүн канчалык кооптуу болушу мүмкүн экендиги жөнүндө ойлонууга бир нече ай керек (жана AI мындай болууга бардык мүмкүнчүлүктөрү бар).

тема боюнча: Маск, Возняк жана Харари жасалма интеллект боюнча изилдөөлөрдү жана окутууну токтотууну суранышат: бул өтө чоң коркунуч туудурат

Алар мындай токтотууну ишке ашыруу мүмкүн болбосо, ар кайсы өлкөлөрдүн өкмөттөрү түзмө-түз кийлигишүүсү керек деп эсептешет. Андан көп өтпөй, ChatGPT Италияда тыюу салынган, тарыхта биринчи жолу кайсы бир өлкөнүн бийликтери өз жарандарына нейрон тармагын колдонууга тыюу салган.

29-мартта Элиезер Юдковскийдин паникалуу жана эмоционалдуу колонкасы Time журналында жарыяланган. Ал Machine Intelligence изилдөө институтунун чечим теоретиги, AI адиси жана Гарри Поттер жана Рационалдуулуктун ыкмалары жана достук интеллектти куруу сыяктуу бир нече китептердин автору.

Анын ойлору каттын авторлорунун ойлорунан алда канча радикалдуу: анын ою боюнча, жасалма интеллекттин өнүгүшүн тындыруу аздык кылат, аны токтотуу керек. Юдковский кызы Нина биринчи сүт тишин кантип жоготкондугу жөнүндө айтып берет, ал эми ChatGPT-4 ушунчалык татаал маселелерди чечип жаткандыктан, Нина туруктуу тиштерин көрө албай калышы мүмкүн.

Юдковский катка кол койгон жок, анткени анын пикири боюнча ал мындан ары жардам бербейт. Баары өтө олуттуу болуп калды. Ал адамдан акылдуу болгон ар кандай суперинтеллект адамзатты дээрлик жүз пайыз ыктымалдык менен өлтүрөт деп эсептейт - жана биз ага каршы тура албайбыз, анткени биз акылсыз болобуз.

«AI сени сүйбөйт жана жек көрбөйт; анын көз карашында, сиз жөн гана башка бир нерсеге жакшы колдонула турган атомдордон жасалгансыз», - деп белгилейт ал. "Адамдан тышкаркы интеллектке туруштук берүүгө аракет кылсак дагы, биз сөзсүз утулат." Бул үчүн эң жакшы метафоралар: шахматта Стокфишти 15 утуп алууга аракет кылган он жаштагы бала; XNUMX-кылым менен күрөшүүгө аракет кылып жаткан XNUMX-кылым; Австралопитек хомо сапиенс менен күрөшөт. Жана бул кастык суперадам AI элестетүү үчүн, коркунучтуу электрондук каттарды жөнөтүүчү кандайдыр бир зыяндуу жасалма интеллектти элестетүүнүн кереги жок. Адамдардан миллиондогон эсе тезирээк ойлонгон бүтүндөй бир келгин цивилизацияны элестетиңиз, алардын көз карашы боюнча, абдан акылсыз жана жай жандыктар дүйнөсүндө. Жетиштүү интеллектуалдык AI көпкө компьютерлерге байланып калбайт. Заманбап дүйнөдө сиз протеин кошулмаларын жасоо үчүн лабораторияларга ДНК тилкелеринин коддорун электрондук почта аркылуу жөнөтө аласыз. Адегенде ал компьютерге байланганына карабастан, AI кийинчерээк жасалма жашоо формаларын түзө алат же дароо эле пост-биологиялык молекулярдык өзүн-өзү көбөйтүүгө өтө алат».

Аябай коркунучтуу угулат, Юдковский да коркот. Ал көйгөй AI аң-сезимге ээ болобу же жокпу деп жазат. Кыязы, биз эч качан биле албайбыз жана бул маанилүү эмес. Ал "эгер кимдир бирөө өтө күчтүү AI курса, адам түрүнүн ар бир мүчөсү, ошондой эле жер бетиндеги бардык биологиялык жашоо жакында жок болот" деп жазат.

Ал белгилегендей, адамзат окуялардын мындай өнүгүшүнө таптакыр даяр эмес – «биз мындай нерсени кантип жаратып, ошол эле учурда жашап кетебиз деген сунуш кылынган план да жок» - жана биз даярдаш үчүн кеминде 50 жыл убакыт бар. Биз даяр эмеспиз, ушуну жаратсак, баарыбыз өлөбүз деп ишендирди. Ошондуктан аны жок кылуу керек. Ал эми зарыл болсо, учактардан маалымат борборлорун бомбалоо.

Макала мындайча аяктайт: «Биз даяр эмеспиз. Ал эми жакынкы келечекте биз дагы даяр болбойбуз. Эгер улана берсек, баары өлөт, анын ичинде муну тандабаган жана эч кандай жаман иш кылбаган балдар да өлөт».

"Адамзатты жок кылганыбыз үчүн кечирим сурайм"

Бирок кимдир бирөө даяр болуп чыкса, бул философтор жана сүрөтчүлөр. Заманбап искусство дүйнөсүндө мындай ой жүгүртүүлөр көптөн бери ишке ашып келет. Кээ бир сүрөтчүлөр жөн гана AI менен кызматташат: ChatGPT-4 нейрондук тармактар ​​менен иштеген германиялык Марио Клингеманга, чоң инсталляциялары жана спектаклдери менен түркиялык Рефик Анадолго, ошондой эле поляк скульптору Агнешка Курантка, британиялык Анна Ридлерге, америкалыкка көңүл бурууну сунуштайт. Тревор Паглен жана AI башкарган роботтордун жардамы менен абстракттуу сүрөттөрдү тарткан канадалык кытайлык Сугвен Чанг.

Кээ бир искусстводо этикалык аспектилерге көңүл бурушат жана AIнын коркунучтары жөнүндө ой жүгүртүшөт - бул жерде ChatGPT технологиянын коомго тийгизген таасири жөнүндө олуттуу ойлонгон сүрөтчүлөр Хито Стейерл менен Саймон Денниге кеңеш берет; жана дисциплиналар аралык биохакер сүрөтчүсү Хизер Хьюи-Дагборг, адам организмдери менен байланышта болгон, чачтан жана тамекинин калдыктарынан асфальтка жабышкан сагызга чейин ташталган артефакттардан калыбына келтирилген ДНК портреттери менен белгилүү.

Заманбап искусство жана AI жөнүндө суроолорго жооп берип жатып, ChatGPT-4 анын сырткы көрүнүшү менен олуттуу тынчсызданган сүрөтчүлөрдүн тизмесин дароо чыгарган жок. Алгач, ал жасалма интеллекттин мүмкүнчүлүктөрүнө кызыгып, бир нече ондогон катардагы кызматкерлерди сунуштады. Алдыда боло турган GPT-5 аны такыр адам катары тааныбаган жана "жасалма интеллект" дегендин ордуна "жасалма келесоолук" деп айткан Хито Стейерлди эскербөөнү чечип, AI Twitter ботторун түзүүдөн башка эч нерсеге жакшы эмес деп эсептейби? Күтүп көрөлү.

Сан-Францискодо март айынын башында AI паникасынын күчөшү менен бир эле мезгилде, Сан-Францискодо AI пост-апокалипсисине арналган "Кайсылыштык музейи" деп аталган убактылуу музей пайда болду. Ачылууга бардыгы – толкунданган мектеп окуучуларынан баштап OpenAI жана Meta компанияларынын алдыңкы изилдөөчүлөрүнө, ошондой эле канадалык поп-жылдыз Граймс, Илон Масктын мурдагы сүйлөшкөн кызы сыяктуу супер атактууларга чейин келишти.

Музейдин идеясы абдан жөнөкөй - бул AIдан кечирим суроо. Ал дагы эле адамзатты жок кылгандан кийин, ал уялып, адамдар дагы деле жаман эмес, музей жасоону чечти. Көргөзмө адамдын жана AIнын биргелешкен эмгектерин камтыйт (адамдар көркөм продюсер катары бир нерсеге жакшы экенин далилдейт), ошондой эле AI кандайча пайдалуу жана адамзат үчүн кооптуу болоору жөнүндө мета-ирониялык жана кээде кайгылуу баяндарды тартуулайт.

Одри Ким, музейдин куратору жана Google жана Cruise компаниясынын мурдагы кызматкери, анын максаты адамдарга искусство аркылуу супер күчтүү AI кандай боло аларын көрсөтүү экенин түшүндүрөт: дос, жардамчы же коркунуч? Музейдин максаты - тынчсызданууну күчөтүү эмес, байкалбай калган келечек жөнүндө аң-сезимди түзүү.

Көрүүчүлөр эң биринчи көргөн нерсе - бул өтө коркунучтуу музыка ойногон люкс рояль. Анын үстүндө көздөрү бар мончоктон жасалган скульптуралар бар. Чыгарманын жарыясы АИнин позициясынан жазылган: биз адамзат менен бир аз кызматташканбыз, тирүү протеин композитору биздин партитурага өзүнүн импровизациясын кошуп койгон экен дешет; жана бул скульптуралар бизге жакты, алар сүйкүмдүү. Адамдар ушунчалык таасирдүү, окшош, алар жай жана тырышчаактык менен иштерди жасашат.

Көргөзмөгө Дисней мультфильмдериндегидей бийлеп жаткан шыпыргы-чаң соргучтар жана буга чейин белгилүү болгон долбоорлор, мисалы, Вернер Херцог менен Славой Зизектин AI аркылуу жаралган чексиз философиялык диалогу, винтаждык мониторлор аркылуу көрсөтүлөт, ал тургай, AI тарабынан жасалган тасма. адамзаттын жок болушу.

Ошондой эле абдан ирониялык объектилер бар: мисалы, сүрөтчү Нил Мендоза SPAM чочконун ветчина банкаларынан жасаган спам-боттордун фабрикасы, бир кезде бул көрүнүшкө ат берген. Бул кичинекей туткалары бар калай роботтор, алар менен ачкычтарга балка чабышат - ар бирине алфавиттин 2-3 тамгасы берилген. Бирок алар чогуу күчтүү. Алар биргелешип Олдос Хакслинин "Эр жүрөк жаңы дүйнө" китебинен шыктанган AI тарабынан жаратылган романды жазып жатышат, мында бардык каармандар чочко болуп саналат, анткени банкалар дагы эле алардын тамырын эстейт.

Чыгууда "Башталыш: жана бир сөз бар болчу" деген чоң AI полотносу коомчулук менен коштошуп жатат - Микеланджело тарабынан атактуу "Адамдын жаралышы" сүрөттөрдү тааныган компьютердик көрүү аркылуу кабыл алынгандай берилет. Эмгектин автору Ыйык Китептеги "Башында сөз болгон" деген сап чоң тилдердин үлгүлөрү үчүн түзмө-түз адамзаттын диний көз караштагы бөлүгү үчүн айтылгандай эле мааниге ээ болот деп эсептейт: "Алар кандай болгондугу жөнүндө Ыйык Китептин биринчи сабы. түзүлгөн.”

Сизге кызыктуу болушу мүмкүн: Нью-Йорктогу жаңылыктар, биздин иммигранттардын окуялары жана Big Appleдеги жашоо жөнүндө пайдалуу кеңештер - анын бардыгын ForumDaily New Yorkтан окуңуз

Көргөзмөнүн негизги предмети – бул кагаз кычкачтарынан жасалган жана Ник Бостромдун жасалма интеллект утилитарлык ашыкча максатта (мисалы, оптималдаштыруу үчүн) жаратылган деп ойлогон экспериментинен шыктанган «Кагаз кыстыргыч кучак» скульптурасы. клерикалдык процесс), ааламдын бардык ресурстарын кагаз клиптерди чыгарууга багыттоо чечимин кабыл алуу менен адамзатты кокусунан жок кылышы мүмкүн.

Бийиктиги 22 метр болгон бул чыгарманын түп нускасы Өрткөн адам үчүн жасалып, 2014-жылы ошол жерде күйүп кеткен, бактыга жараша ал кагаз клиптерден жасалган эмес.

Адам чындап эле жай: музей биздин көз алдыбызда түз мааниде эскирип баратат. Мисалы, келечектеги кичинекей чиркөө, сиз нейрон тармагын моюнга ала аласыз, дагы эле ChatGPTтин "эски" версиясына негизделген. “Каршылык музейи” 1-майга чейин иштейт, бирок демөөрчүлөр табылса, көргөзмө туруктуу болуп, объектилер менен өсөт окшойт.

Музейдин хронологиясы, ошондой эле адамзаттын талкаланышы Paperclip Hug жанында илинип турат: анын 19 пункту бар. 17, 18 жана 19 төмөнкүдөй угулат: "AI ушунчалык акылдуу болуп калды, ал адамдарды өлтүрүү канчалык этикага жатпаганын түшүндү, айрыкча алар эч кандай коркунуч туудурбагандыктан. AI аман калган адамдардын жашоосун жакшыртууга аракет кылууда. AI бул музейди кечирим суроо жана калган адамдарга эмне болгонун айтып берүү үчүн ачты."

Биз 3 жана 4-пункттардабыз: “Эрте этапта процесске кийлигишип, тобокелдиктерди азайтууга аракет кылган баатырлар чыгып жатат. Пайда издеген компаниялар алардын эскертүүлөрүнө көңүл бурбай жатышат».

Музей ачылганда (14-жылдын 2023-марты) 3 жана 4-пункттар али ишке ашкан эмес: Маск жана башкалар катка кол коюша элек. Бул калган пункттар тез эле ишке ашат дегенди билдиреби?

Оку: ForumDaily да:

Карьера, жумуш издөө, өзүн-өзү өнүктүрүү, англис тилин үйрөнүү: ТикТокто кимди ээрчиш керек

Эң арзан авиакаттамдарды таба турган беш сайт

Фольксвагендин ээлеринен алдыңкы орунга эч кимди отургузбоону суранышат: бул оор жаракаттарды алып келет

Өмүр менен өлүм маселеси: торнадодо кантип аман калуу керек

Мүнөтүнө жүздөгөн доллар: ChatGPT сиз үчүн акча таба алат жана бул толугу менен мыйзамдуу

АКШдагы жашоо жана Америкага иммиграция тууралуу маанилүү жана кызыктуу жаңылыктарды каалайсызбы? — бизди колдо кайрымдуулук кыл! Ошондой эле биздин баракчага жазылыңыз Facebook. "Дисплейдеги артыкчылык" опциясын тандап, алгач бизди окуңуз. Ошондой эле, биздин каналга жазылууну унутпаңыз Телеграм каналы  жана Instagram- Ал жерде кызыктуу нерселер көп. Жана миңдеген окурмандарга кошулуңуз ForumDaily New York — ал жерден сиз мегаполистеги жашоо жөнүндө көптөгөн кызыктуу жана позитивдүү маалыматтарды таба аласыз.