Конец света из-за ИИ: апокалипсис придет откуда мы не ожидаем
Чуть ли не ежедневно крупные технологические компании выпускают новых цифровых помощников на основе искусственного интеллекта. Однако некоторые исследователи считают, что так начинается опасный путь для человечества. Боты будут постепенно брать на себя всё больше задач. В итоге человек превратится в пустую оболочку, которая лишь механически одобряет решения искусственного интеллекта, утверждает CВS News.
Речь не только об угрозе рабочим местам. Исследователи предупреждают: если люди позволят своим навыкам и знаниям деградировать и передадут ИИ способность критически мыслить, это может поставить под угрозу само существование человечества.
Этот сценарий называют «постепенной утратой человеческой самостоятельности». Он предполагает, что искусственный интеллект вытеснит людей с рынка труда, возьмёт на себя принятие решений по всем ключевым общественным вопросам, подорвёт человеческую способность к творчеству и со временем ухудшит когнитивные способности людей.
По теме: Искусственный интеллект за 88 часов решил задачу, над которой ученые бились 90 лет
Хотя в названии этого сценария есть слово «постепенная», это не означает, что проблема возникнет лишь в отдалённом будущем, считают эксперты.
«Я поставил постепенную утрату человеческой самостоятельности на первое место в своём списке угроз», — сказал Джей Чуи, основатель и генеральный директор Robocurve, компании, которая отслеживает и оценивает возможности робототехники на основе ИИ.
Чуи считает эту угрозу не менее серьёзной, чем риск искусственно созданных пандемий и разрушительных кибератак, которые мощный искусственный интеллект может сделать ещё опаснее.
«Это проблема, способная затронуть всю цивилизацию, — сказал Чуи о постепенной утрате человеческой самостоятельности. – Многие чувствуют себя совершенно бессильными, потому что для решения этой проблемы потребуются огромные усилия и участие всего общества».
Что такое постепенная утрата человеческой самостоятельности и как к ней может привести искусственный интеллект?
Термин «постепенная утрата человеческой самостоятельности» появился в научной работе, опубликованной в начале 2025 года.
В основе этого сценария лежит дальнейшее развитие возможностей искусственного интеллекта. С момента запуска ChatGPT в 2022 году они стремительно расширяются.
Вскоре модели ИИ могут превзойти людей практически во всех интеллектуальных задачах: решении сложных математических задач, проведении передовых научных исследований, программировании, написании текстов, создании произведений искусства. Одновременно развитие робототехники может привести к тому, что роботы с искусственным интеллектом станут эффективнее людей и в физическом труде. Они смогут быстрее упаковывать коробки, строить дома и автомобили, расписывать стены, добывать редкоземельные минералы и даже собирать мебель IKEA.
Мы привыкли думать, что в идеальном мире работу получает самый подходящий кандидат, а размер его зарплаты зависит от спроса на его навыки. Но представьте, что человек больше никогда не окажется лучшим кандидатом на какую-либо должность. Именно такое будущее предсказывают некоторые специалисты по ИИ.
Это мир, в котором ИИ-агент или робот с искусственным интеллектом лучше человека справляется с каждой задачей и каждой отдельной операцией, из которых складывается наша работа. Такие системы действуют быстрее, глубже анализируют информацию, проявляют больше терпения и выносливости. Они вежливее отвечают на телефонные звонки, проводят более тщательные исследования, точнее работают скальпелем или пилочкой для ногтей. Им не нужно спать, брать больничные, работать с похмелья или в плохом настроении. Они не собираются уволиться ради более выгодного предложения.
Чтобы лучше представить, как может развиваться постепенная утрата человеческой самостоятельности, рассмотрим условный пример. Допустим, вы руководите компанией Hammer Co., которая производит молотки. На производственной линии сотрудники куют стальные головки, изготавливают деревянные рукоятки и соединяют их. Менеджеры следят за работой завода. Другие сотрудники отвечают за цепочки поставок, а целые отделы занимаются маркетингом, продажами, бухгалтерией и другими задачами, необходимыми для успешной работы компании.
Но однажды технологическая компания выпускает роботов Hammer Bots, оснащённых искусственным интеллектом. Они производят молотки гораздо быстрее людей, а ИИ-агенты могут управлять бизнесом практически без контроля со стороны человека. Роботы работают всю ночь, не допускают ошибок и обходятся значительно дешевле ваших довольных и хорошо оплачиваемых сотрудников. Вам не хочется увольнять людей: вы много лет знаете их и их семьи.
Однако ваш конкурент приобретает Hammer Bots. Большинству покупателей нужны просто самые дешёвые молотки, и им всё равно, кто или что их изготовило. Как руководителю Hammer Co. вам остаётся либо конкурировать, либо закрыть бизнес. Поэтому вы увольняете всех сотрудников и заменяете их роботами.
Теперь представьте, что то же самое происходит во всех компаниях и во всех профессиях. В условиях обычной рыночной конкуренции предприятие, которое продолжит сохранять рабочие места для людей, проиграет конкурентам, поручившим работу искусственному интеллекту.
Именно здесь начинается постепенная утрата человеческой самостоятельности.
Чем меньше людей участвует в производстве и чем больше задач передаётся ИИ-агентам, тем сильнее человечество зависит от искусственного интеллекта при принятии решений и тем быстрее утрачивает собственные навыки. Сколько времени пройдёт, прежде чем люди забудут тонкости изготовления молотков?
Если искусственный интеллект будет принимать за нас все сложные решения, люди постепенно утратят способность понимать их, контролировать и оспаривать.
«Если люди сами не применяют навыки, которыми за них пользуются ИИ-агенты, они теряют способность выполнять такую работу и становятся зависимыми от этих систем», — сказала Маргарет Митчелл, исследовательница искусственного интеллекта из Hugging Face и соавтор научной работы о том, почему в мире ИИ необходимо сохранять участие человека в принятии решений.
«Что произойдёт, если что-то пойдёт не так? Не останется человека, к которому можно обратиться, чтобы он всё исправил. В результате мы полностью зависим от того, смогут ли эти системы самостоятельно устранить проблему. А что, если они на это не способны?»
Угроза демократическому управлению
Под угрозой окажутся не только экономика и рынок труда. Возьмём, к примеру, вооружённые силы. Сегодня все или почти все решения во время войны принимают люди, хотя искусственный интеллект уже помогает им. По мере развития технологии соотношение сил, вероятно, изменится.
Если США начнут использовать ИИ для принятия решений на поле боя, их противники будут вынуждены поступить так же. Сторона, которая в большей степени полагается на людей, станет действовать медленнее и менее эффективно. Солдатам нужны еда и отдых, роботам — нет. Люди, принимающие решения, ограничены числом сценариев, которые способны представить и проработать. Искусственный интеллект может учитывать весь накопленный человечеством объём знаний.
«Государствам нужны граждане. Они нужны нам, потому что мы платим налоги и служим в армии, защищая свои страны», — сказал Ян Кулвейт, соавтор научной работы о постепенной утрате человеческой самостоятельности и один из основателей исследовательской группы ACS Research Group.
Государства также полагаются на людей при обеспечении соблюдения законов. Но что, если в будущем правоохранительная деятельность будет полностью автоматизирована?
«Если существующим государствам — или государствам будущего — больше не понадобятся собственные граждане, вероятность того, что они останутся демократическими, снизится», — сказал Кулвейт.
Он сравнивает возможные страны будущего, в которых большую часть функций выполняет искусственный интеллект, с современными нефтедобывающими государствами. По его словам, такие государства часто бывают авторитарными, поскольку им не нужно получать налоги от большинства граждан и заручаться их поддержкой на выборах, чтобы сохранять власть. Страны, которые поручат ИИ управление экономикой и вооружёнными силами, могут прийти к аналогичным результатам, считает Кулвейт.
Если это произойдёт и граждане перестанут быть основой экономики и военной мощи, люди потеряют, возможно, самый действенный рычаг влияния на тех, кто находится у власти.
«Многие говорят о том, как вышедший из-под контроля ИИ может взломать центры обработки данных и захватить мир. Но почти никто не задумывается, что искусственный интеллект способен буквально взять мир под контроль, просто продолжая делать то, для чего его создали, — автоматизировать всё подряд», — сказал Джей Чуи из Robocurve.
«У организаций будут очень веские экономические и политические причины постепенно отказываться от человеческого труда и передавать все больше работы роботам и искусственному интеллекту».
Как человечеству избежать постепенной утраты самостоятельности?
По мнению авторов исследования, передача контроля искусственному интеллекту может стать почти естественным следствием появления достаточно развитых систем ИИ.
«Постепенная утрата человеческой самостоятельности не обязательно должна стать результатом целенаправленного заговора или попытки захватить власть со стороны систем искусственного интеллекта, — пишут Кулвейт и его коллеги. – В ближайшей перспективе этот процесс будет стимулироваться той пользой, которую, как предполагается, ИИ может принести экономике, культуре и государственным институтам».
«Нельзя допустить, чтобы мы оказались в положении, когда конкурируем с машинами, — сказал Кулвейт. – Если мы просто будем соревноваться с ними, то, скорее всего, проиграем».
Авторы исследования считают, что остановить утрату человеческой самостоятельности будет крайне сложно. Причина в том, что множество взаимосвязанных систем — государство, культура и экономика — влияют друг на друга и одновременно подталкивают общество к этому процессу.
«Эта задача может оказаться сложнее, чем просто не допустить, чтобы системы ИИ преследовали откровенно вредоносные цели», — пишут исследователи.
Первый шаг к замедлению этого процесса — отслеживать, какая именно работа и в каком объёме передаётся искусственному интеллекту, а также какие конкретно профессии и задачи ему по силам. Например, если из-за внедрения ИИ тысячи сотрудников кол-центров лишатся работы, важно знать об этом во всех подробностях.
Но одного сбора данных недостаточно — необходимы реальные действия, считает Митчелл. По её словам, исключение людей из процессов, в которых используется искусственный интеллект, не только ухудшает контроль над ним, но и приводит к утрате навыков у тех, кто должен этот контроль осуществлять. Поэтому компании и руководители во всех отраслях должны заранее принимать меры, чтобы люди продолжали участвовать в работе.
«В технологической отрасли принято стремиться к тому, чтобы системы работали без малейших препятствий, — сказала Митчелл, говоря о стремлении ускорить все процессы и устранить любые помехи. – Считается, что чем меньше препятствий, тем лучше. Но в сообществе специалистов, выступающих за этичное развитие ИИ, всё чаще говорят о пользе продуманных ограничений: они могут привлечь внимание людей к важным вопросам, которые иначе остались бы незамеченными».
По мнению Митчелл, разработчики ИИ — такие компании, как OpenAI, Anthropic и Google, — могут закладывать подобные ограничения в свои системы. То же самое могут делать компании и организации, которые внедряют эти технологии. Если тщательно продумывать устройство искусственного интеллекта и цели его применения, это принесёт пользу обществу в целом и каждому человеку, который пользуется такими системами.
Кулвейт согласен с тем, что искусственный интеллект нужно создавать так, чтобы он помогал людям, а не обязательно заменял их во всех задачах.
«Нужно определить области, в которых мы договоримся не позволять рыночной конкуренции вытеснять человека из процесса принятия решений, — сказал он. – Было бы хорошо, если бы компании обучали ИИ дополнять человеческие способности. Сейчас такие системы фактически обучают так, чтобы они заменяли людей. Но можно представить себе ИИ, который учится лучше объяснять нам, что происходит».
Кулвейт говорит о системах, которые не просто выдают ответ на любой заданный вопрос, по крайней мере в тех областях, где очень важно сохранять человеческую экспертизу и участие в принятии решений, например в военном деле. Быстрые и простые ответы могут быть полезны, но они также способны сделать людей зависимыми от ИИ и чрезмерно доверчивыми. Пользователь может поверить всему, что сообщает чат-бот, независимо от того, верен его ответ или нет.
Но искусственный интеллект способен на большее. Он может не просто выполнять работу за человека, но и обучать его в процессе. Тогда человек продолжит осваивать новые навыки, используя ИИ как партнёра, а не замену самому себе.
«Развитие этих систем сосредоточено почти исключительно на их возможностях и функциональности, причём в ущерб людям, — сказала Митчелл. – Если единственная цель — получить высокий результат в тесте, то при разработке не будут учитывать, как система поддерживает и развивает когнитивные способности человека. Но если задача — создать систему, которая действительно хорошо помогает людям, то есть если соревнование идёт за практическую пользу, а не за результат тестирования, в итоге получится совершенно другая технология».
Если постепенная утрата человеческой самостоятельности действительно представляет масштабную угрозу, то по сравнению с более известными сценариями катастрофы — например, использованием ИИ для разработки биологического или химического оружия — ей может не хватать наглядности.
Вам может быть интересно: главные новости Нью-Йорка, истории наших иммигрантов и полезные советы о жизни в Большом Яблоке – читайте все это на ForumDaily New York
«Мы понимаем, что значит, когда роботы захватывают мир. Мы понимаем, что значит, когда страны наносят друг по другу ядерные удары, — сказал Чуи. – Захват мира искусственным интеллектом легко представить. Но постепенную утрату человеческой самостоятельности? О ней ещё не сняли ни одного фильма».
Самому Чуи, однако, такой сценарий представить нетрудно.
«У всех организаций есть стимулы внедрять эти технологии и отказываться от человеческого труда, — сказал он. – Это совершенно логичный итог. Его нетрудно предвидеть».
Читайте также на ForumDaily:
Что такое самокопирующиеся ИИ-черви, и почему эксперты считают их опасными
Трамп создал ведомство суперразведки для управления ИИ
Подписывайтесь на ForumDaily в Google NewsХотите больше важных и интересных новостей о жизни в США и иммиграции в Америку? — Поддержите нас донатом! А еще подписывайтесь на нашу страницу в Facebook. Выбирайте опцию «Приоритет в показе» — и читайте нас первыми. Кроме того, не забудьте оформить подписку на наш канал в Telegram и в Instagram— там много интересного. И присоединяйтесь к тысячам читателей ForumDaily New York — там вас ждет масса интересной и позитивной информации о жизни в мегаполисе.
Выбор редакции
