Маск, Возняк и Харари просят прекратить исследования и обучение искусственного интеллекта: он несет слишком большую угрозу

Известные предприниматели, исследователи, политики и писатели подписали открытое письмо, в котором просят приостановить эксперименты с искусственным интеллектом (ИИ). Обращение опубликовано некоммерческой организацией Future of Life Institute.

Фото: IStock

Более тысячи подписантов призывают все лаборатории ИИ немедленно приостановить исследования и обучение систем ИИ, более мощных, чем GPT-4, как минимум на 6 месяцев.

Ученые заявляют, что системы искусственного интеллекта с интеллектом, конкурирующим с человеком, «могут представлять серьезную опасность для общества и человечества».

В открытом письме сказано, что следует планировать ИИ и управлять им с соразмерной тщательностью и ресурсами. К сожалению, отмечают подписанты, такого уровня планирования и управления сейчас не существует. В последние месяцы лаборатории искусственного интеллекта “застряли в неконтролируемой гонке по разработке и развертыванию все более мощных цифровых систем, которые никто — даже их создатели — не может понять, прогнозировать или надежно контролировать”.

По теме: Лучше, чем люди: какие профессии в скором времени освоят роботы

Исследователи искусственного интеллекта, которые подписали открытое письмо, задаются вопросами, должны ли мы позволять машинам наводнять наши информационные каналы пропагандой и неправдой, должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить.

В письме допускается возможность потери контроля над нашей цивилизацией. Подписанты утверждают, что решения по развитию ИИ не должны делегироваться неизбранным лидерам. Они настаивают на том, что мощные системы искусственного интеллекта следует разрабатывать только тогда, когда люди уверены в их эффективности при отсутствии серьезных рисков. Эта уверенность должна быть хорошо обоснована и подкреплена исследованиями.

В недавнем заявлении OpenAI относительно общего искусственного интеллекта говорится, что “в какой-то момент может оказаться важным получить независимую оценку, прежде чем приступать к обучению будущих систем”. Авторы открытого письма считают, что такой момент уже настал.

Маск, который был соучредителем OpenAI, но ушел в 2018 году и с тех пор стал критиковать организацию, также подписал письмо.

Выступая в Массачусетском технологическом институте, Маск говорил, что это может быть самой существенной угрозой человечеству: “С искусственным интеллектом мы призываем демона. Во всех историях про парня с пентаграммой и святой водой этот парень уверен, что сможет контролировать демона. Не выходило”.

“Это гордыня и очевидная ошибка”, — сказал Маск о недооценивание мощи ИИ.

Поэтому подписанты призывают все лаборатории ИИ немедленно приостановить как минимум на 6 месяцев обучение систем ИИ более мощных, чем GPT-4. Эта пауза должна быть всеобщей и поддающейся проверке, и в ней должны участвовать все ключевые участники. Если такую паузу нельзя ввести быстро, правительства должны вмешаться и ввести мораторий, как предложено в письме.

Эта пауза, как утверждают подписанты, нужна для того, чтобы лаборатории искусственного интеллекта и независимые эксперты разработали и внедрили набор общих протоколов безопасности для усовершенствованного проектирования и разработки искусственного интеллекта, которые тщательно проверяются и контролируются независимыми внешними экспертами. Эти протоколы должны гарантировать, что системы, придерживающиеся их, вне всяких разумных сомнений безопасны.

Нравится статья? Поддержите ForumDaily!?

Подписанты подчеркнули, что это не означает паузу в развитии ИИ в целом, а просто шаг назад от “опасной гонки к все более крупным непредсказуемым моделям черного ящика”. Они ратуют за надзор, контроль, проверку систем ИИ со стороны правительств и специальных органов.

Эта пауза даст возможность адаптироваться, возможность потом в полной мере наслаждаться “летом ИИ”.

“Общество приостановило использование других технологий с потенциально катастрофическими последствиями для общества. — говорится в письме. — Мы можем сделать это здесь. Наслаждаемся долгим летом с искусственным интеллектом, а не бросаемся в осень неподготовленными”.

Кто подписал письмо

Среди выдающихся умов, которые работают с ИИ и подписали обращение, можно выделить:

• основателя SpaceX и Tesla Илона Маска;
• историка и футуриста Юваля Ноя Харари;
• соучредителя Apple Стива Возняка;
• соучредителя Skype Яана Таллинна;
• политика, поддерживающего технологии, Эндрю Янга.

Среди подписантов также инженеры из Amazon, DeepMind, Google, Meta и Microsoft, а также ученые, в том числе знаменитый ученый-когнитивист Гэри Маркус.

Вам может быть интересно: главные новости Нью-Йорка, истории наших иммигрантов и полезные советы о жизни в Большом Яблоке – читайте все это на ForumDaily New York.

Среди соавторов — соучредители Apple, Pinterest и Skype, а также основатели стартапов в области ИИ Stability AI и Character.ai.

Харари считает ИИ одним из важнейших вызовов ближайшего будущего, который стоит в одном ряду с климатическими изменениями и ядерной угрозой.

“Бояться стоит не апокалиптических сценариев „Мира Дикого Запада“, а социального и экономического кризиса, вызванного ИИ”, — говорит историк.

“Рано или поздно мыслящие устройства, задуманные для облегчения нашей жизни, начнут понимать, что они — лучше. Кто станет тогда управлять компаниями — медлительный человек или машина?» — говорит Стив Возняк.

И вот тогда, по его мнению, человек может превратиться для искусственного интеллекта “в нечто вроде муравьев”.

Читайте также на ForumDaily:

‘Да пребудет с вами сила’: актер ‘Звездных войн’ озвучил украинское приложение для оповещения о воздушных тревогах

Homeschooling: многие американцы забрали детей из школ и обучают их ‘на колесах’ во время путешествий

Хотите больше важных и интересных новостей о жизни в США и иммиграции в Америку? — Поддержите нас донатом! А еще подписывайтесь на нашу страницу в Facebook. Выбирайте опцию «Приоритет в показе» —  и читайте нас первыми. Кроме того, не забудьте оформить подписку на наш канал в Telegram  и в Instagram— там много интересного. И присоединяйтесь к тысячам читателей ForumDaily New York — там вас ждет масса интересной и позитивной информации о жизни в мегаполисе.