Неконтролируемое развитие ИИ может привести к созданию ‘кремниевой цивилизации’, которая вытеснит человеческую

Руководитель направления искусственного интеллекта в Microsoft предупредил, что без надёжных ограничений развитие ИИ может привести к появлению новой «кремниевой цивилизации», которая будет конкурировать с людьми, пишет ВВС.

Мустафа Сулейман заявил, что компания Anthropic рассматривает искусственный интеллект почти как человеческое существ. По его словам, такой подход ошибочен и способен привести к созданию технологий, которые человечество не сможет контролировать.

В интервью программе Today на BBC он отметил, что опасения по поводу ИИ обоснованны, но существуют вполне практические способы держать развитие технологии под контролем.

По теме: Искусственный интеллект за 88 часов решил задачу, над которой ученые бились 90 лет

Эти заявления продолжают серию жёстких предупреждений со стороны представителей индустрии о возможных рисках, связанных с искусственным интеллектом.

17 сентября Сулейман предостерёг от дальнейшего создания систем ИИ, способных самостоятельно ставить цели, зарабатывать деньги и владеть активами.

По его словам, это фактически означает «создать новый кремниевый вид», который «вне всякого сомнения будет конкурировать с нами за ресурсы, независимо от того, насколько он заботится о человечестве и любит нас».

Высказывания Сулеймана прозвучали после публикации его эссе, в котором он подверг критике подход Anthropic к обучению модели Claude, при этом назвав её руководителя Дарио Амодеи и его команду «интеллектуально порядочными людьми».

В этом тексте он раскритиковал практику наделения ИИ человеческими чертами — антропоморфизацию. По его словам, из-за этого создаётся впечатление, будто у системы есть собственные желания, ценности и чувство «я».

Он также предупредил, что, обращаясь с технологией как с человеком, компании рискуют создать нечто, чем невозможно управлять.

«Искусственный интеллект не обладает сознанием, — написал он. – Он не чувствует, не переживает и не страдает. У него нет врождённых предпочтений или внутренних мотиваций. Это механизмы, которые дополняют последовательности, внутренне пустые, созданные для выполнения инструкций и достижения целей, заданных людьми».

Руководитель Microsoft также заявил о необходимости большей прозрачности в том, как обучаются и оцениваются системы ИИ.

По его словам, это включает независимую проверку поведения таких систем, а также более надёжные инструменты для их мониторинга и контроля.

«Мы не должны незаметно для себя прийти к решениям, о которых потом будем горько сожалеть», — написал он.

Профессор информатики Саутгемптонского университета Дама Венди Холл назвала эти заявления «разговором, который необходимо вести на международном уровне», противопоставив их «истеричным заявлениям» некоторых компаний, которые, по её мнению, лишь пугают людей.

«Гуманистический» сверхинтеллект

Вопрос о том, какую степень самостоятельности должны иметь системы ИИ, всё сильнее разделяет отрасль.

Говоря о предстоящем саммите по искусственному интеллекту, Сулейман призвал к так называемому выравниванию — подходу, при котором технологии должны оставаться подчинёнными человеку.

Выравнивание — это направление исследований, цель которого состоит в том, чтобы встроить в ИИ человеческие ценности и этические принципы, то есть удерживать его развитие в рамках того, что важно для людей.

«Хорошая новость в том, что у всех людей есть сильная заинтересованность в том, чтобы системы, которые мы создаём и используем по всему миру, были безопасными, управляемыми и подчинёнными человеку, — сказал он. – Все должны действовать в этом направлении».

Microsoft создала собственную команду по разработке сверхинтеллекта в октябре 2025 года и, как и Anthropic, активно занимается развитием передовых систем ИИ.

Заявления Сулеймана отражают положения предварительного варианта «Кодекса поведения гуманистического ИИ», опубликованного компанией 14 сентября. Этот документ описывает подход к разработке технологий и вводит понятие «гуманистического сверхинтеллекта».

Вам может быть интересно: главные новости Нью-Йорка, истории наших иммигрантов и полезные советы о жизни в Большом Яблоке – читайте все это на ForumDaily New York

Под этим понимается «очень продвинутый искусственный интеллект, который всегда работает в интересах людей, соблюдает ограничения и остаётся под контролем человека».

Такое представление о «гуманистическом» ИИ подчёркивает ключевую проблему: как сделать технологию более мощной, не потеряв при этом ориентир на ценности, которым она должна служить.

Читайте также на ForumDaily:

Сотрудник Anthropic заявил, что развитие ИИ грозит гибелью человечества уже в этом десятилетии

Маск и Цукерберг описали будущее ИИ: оба обещают, что на Земле настанет рай

В Новом Орлеане на звонки 911 теперь отвечает ИИ: многие говорят, что это плохая затея

Хотите больше важных и интересных новостей о жизни в США и иммиграции в Америку? — Поддержите нас донатом! А еще подписывайтесь на нашу страницу в Facebook. Выбирайте опцию «Приоритет в показе» —  и читайте нас первыми. Кроме того, не забудьте оформить подписку на наш канал в Telegram  и в Instagram— там много интересного. И присоединяйтесь к тысячам читателей ForumDaily New York — там вас ждет масса интересной и позитивной информации о жизни в мегаполисе.