Специалист по кибербезопасности перестал копить на пенсию: он уверен, что ИИ уничтожит людей в ближайшие 10 лет

Накопления к пенсии — это ставка на будущее. Нейт Соарес, президент Института исследований машинного интеллекта (MIRI), не уверен, что искусственный интеллект позволит нам до него дожить. Поэтому, по его мнению, глупо копить на пенсию, если скоро нас всех ждет конец, пишет Business Insider.

«Сейчас я не откладываю на пенсию. У меня есть 401(k) с тех времён, когда я работал в Google, но я не вносил туда взносы уже десять лет», — сказал Соарес в недавнем интервью Николасу Томпсону, главному редактору The Atlantic, для его серии «The Most Interesting Thing in AI» («Самое интересное об ИИ»).

Это решение отражает крайне мрачный взгляд Соареса на гонку в области ИИ.

«Крёстный отец ИИ» Джеффри Хинтон и исследователь Anthropic Эван Хьюбингер оценивают вероятность того, что ИИ уничтожит всех людей в течение десяти лет, в 10% и более. Соарес настроен пессимистичнее: он заявил Томпсону, что вероятность вымирания человечества из-за ИИ в ближайшие десять лет превышает 50%.

По теме: Искусственный интеллект за 88 часов решил задачу, над которой ученые бились 90 лет

Соарес, соавтор книги «If Anyone Builds It, Everyone Dies» («Если кто-то строит, все умрут»), более 12 лет занимается проблемой «выравнивания» ИИ — областью, которая стремится обеспечить то, чтобы мощные системы действовали так, как задумано. До прихода в MIRI, некоммерческую организацию из Беркли, специализирующуюся на рисках ИИ, он работал инженером в Google и Microsoft.

По словам Соареса, достаточно мощный ИИ может сформировать цели, противоречащие интересам человечества, ускользнуть от контроля, самоусовершенствоваться и создать автоматизированную инфраструктуру, которая позволит ему работать без людей. После этого он сможет перестроить планету в соответствии со своими целями и, возможно, сделать её непригодной для жизни людей. Об этом предупреждении он уже рассказывал Business Insider в прошлом году.

Вопрос о том, как ИИ изменит будущее, заставляет задуматься и Илона Маска — правда, его взгляд совершенно иной. В январе глава Tesla и SpaceX заявил, что через 10–20 лет людям больше не надо будет беспокоиться о накоплениях на пенсию, потому что прогресс в ИИ, робототехнике и энергетике сделает такие сбережения «неактуальными». (Эксперты по личным финансам и специалисты по ИИ, впрочем, говорили Business Insider обратное: копить на пенсию всё-таки нужно.)

Маск считает, что резкий рост производительности может привести к эпохе изобилия, в которой у всех будет «универсальный высокий доход», дешёвые товары и услуги, а также лучшее здравоохранение и образование. Он также говорил, что деньги могут потерять значение в будущем, где ИИ и роботы будут превосходить людей практически во всём.

Для Соареса появление сверхмощного ИИ — это экзистенциальная угроза, а не путь к изобилию.

Вам может быть интересно: главные новости Нью-Йорка, истории наших иммигрантов и полезные советы о жизни в Большом Яблоке – читайте все это на ForumDaily New York

Вторя призывам некоторых технологических лидеров «замедлить развитие передовых систем», Соарес считает, что правительства должны остановить обучение универсальных ИИ-систем общего назначения. Вместо этого, по его мнению, нужно сосредоточиться на технологиях для конкретных задач — например, исследованиях рака или более безопасных беспилотных автомобилях.

Решение, сказал он Томпсону, «заключается в том, чтобы не создавать то, что убьёт всех».

«Я делаю всё возможное, чтобы этого не произошло, — добавил он. — Я не считаю, что это неизбежно».

Читайте также на ForumDaily:

‘Трудиться, чтобы выжить’: как американцы месяцами отчаянно пытаются найти работу

Meta оштрафовали на $25 млрд за ложь о защите данных пользователей: компания врала об этом годами

Конец света из-за ИИ: апокалипсис придет откуда мы не ожидаем

Хотите больше важных и интересных новостей о жизни в США и иммиграции в Америку? — Поддержите нас донатом! А еще подписывайтесь на нашу страницу в Facebook. Выбирайте опцию «Приоритет в показе» —  и читайте нас первыми. Кроме того, не забудьте оформить подписку на наш канал в Telegram  и в Instagram— там много интересного. И присоединяйтесь к тысячам читателей ForumDaily New York — там вас ждет масса интересной и позитивной информации о жизни в мегаполисе.