Что такое самокопирующиеся ИИ-черви и почему эксперты считают их опасными
Предупреждения о том, что искусственный интеллект может натворить в будущем, и тревожные сообщения о том, что он уже умеет делать, появляются так часто, что даже специалисты по кибербезопасности не всегда успевают разобраться, какие угрозы действительно заслуживают внимания. Однако опубликованный на днях доклад команды Anthropic, занимающейся исследованиями в области кибербезопасности, привлек внимание описанием новой, вполне реальной угрозы, пишет The Guardian.
В докладе нет ни попыток очеловечить искусственный интеллект, ни рассуждений об апокалипсисе. Команда так называемых «красных», или атакующих специалистов, которые внутри компании проверяют системы на уязвимости, сообщила, что создала вредоносную ИИ-программу, способную самостоятельно распространяться через подключенные к интернету «умные» телевизоры. По словам исследователей, таким же образом она могла бы заражать и другие бытовые устройства.
Для работы систем искусственного интеллекта обычно требуются значительные вычислительные мощности. Однако созданная исследователями программа распределила свои части между 15 телевизорами и продолжила работать, используя небольшую долю вычислительных ресурсов каждого устройства.
По теме: Искусственный интеллект за 88 часов решил задачу, над которой ученые бились 90 лет
Этот пример напомнил некоторым читателям о крестражах из серии книг о Гарри Поттере, в которых хранились части души лорда Волдеморта. Но специалистов встревожило другое: защиту умных телевизоров и многих других устройств обычно организуют довольно плохо. Исправить эти недостатки было бы крайне сложно, даже если бы за дело взялись сообща.
«К этой угрозе нужно относиться так же серьезно, как к любой другой волне кибератак. Необходимо свести к минимуму возможный ущерб, — заявил Джошуа Сакс, руководивший разработкой системы защиты ИИ в Meta. – Меня беспокоит, что специалисты по кибербезопасности пока не воспринимают подобные реальные угрозы настолько серьезно, насколько следовало бы».
Ущерб от таких «ИИ-червей» может оказаться колоссальным. Самораспространяющиеся компьютерные вирусы, которым не нужно обманывать человека, чтобы заражать новые устройства, называют червями. В прошлом такие программы становились причиной самых разрушительных кибератак в истории интернета.
Один из первых известных примеров — червь Морриса, появившийся в 1988 году, еще до того, как интернет стал массовым явлением. Тогда аспирант запустил программу, использовавшую различные уязвимости программного обеспечения и слабые пароли. Червь копировал себя с такой скоростью, что многие зараженные компьютеры практически переставали работать.
В конце 2000-х годов США и Израиль использовали червя Stuxnet для скрытой международной кибершпионской операции. Он вывел из строя иранские ядерные центрифуги. Другие черви, в том числе российский NotPetya и приписываемый Северной Корее WannaCry, причинили ущерб на десятки миллиардов долларов по всему миру.
Многие из самых разрушительных червей использовали известные уязвимости, которые владельцы устройств не устраняли даже спустя несколько месяцев после выхода исправлений. Исследователи Anthropic предположили, что их ИИ-червь мог бы действовать по тому же принципу, но остановить его было бы сложнее: обновления безопасности для умных устройств выходят реже, чем для смартфонов и ноутбуков. Более того, по мнению исследователей, ИИ-червь мог бы приспосабливаться к новым типам оборудования, самостоятельно изучая недавно обнаруженные уязвимости.
Главное отличие ИИ-червей от обычных самокопирующихся вирусов заключается в способности моделей искусственного интеллекта учиться по мере работы, объяснил Ариэль Герберт-Восс, один из первых специалистов по безопасности в OpenAI, который сейчас руководит стартапом RunSybil, занимающимся защитой ИИ.
По его словам, существующая инфраструктура кибербезопасности не готова к массовому распространению таких угроз. «Нам нужно предоставить специалистам по безопасности больше возможностей. Необходимо выделять им больше ресурсов, чтобы они могли устранять проблемы», — заявил Герберт-Восс.
Впрочем, черви могут приносить и пользу, считает Крис Инглис, бывший заместитель директора Агентства национальной безопасности США, который при администрации Байдена занимал должность национального директора по кибербезопасности.
«За последние шесть месяцев произошло несколько революционныъ событий, после которых вопрос о том, возможны ли ИИ-черви в принципе, можно считать решенным, — написал Инглис. – Теперь важнее понять, как мы будем их использовать, противодействовать им и, возможно, сочетать их с другими новыми технологиями».
Исследователи Anthropic отметили, что для создания полноценного ИИ-червя потребуется обеспечить более широкие возможности искусственного интеллекта на менее мощных устройствах, чем это возможно сейчас. Однако, по их оценке, нынешние тенденции развития технологий позволят добиться этого к концу года.
Их исследование продолжает работу, представленную несколькими месяцами ранее специалистами Университета Торонто. В опубликованной ими научной статье описывался эксперимент с заражением полноценного компьютера. Созданная программа могла распространяться на аналогичные машины быстрее, чем червь, разработанный для телевизоров.
«Возможности таких систем развиваются очень быстро», — заявил соавтор исследования, аспирант Университета Торонто Йонас Гуань.
При этом Гуань и другие специалисты считают, что ИИ-черви не должны занимать первое место в списке угроз, связанных с искусственным интеллектом. По словам Гуаня, программа Anthropic распространяется очень медленно. Кроме того, действия червей обычно предсказуемы, их можно обнаруживать и блокировать на разных уровнях защиты.
Эксперты отмечают, что большинство червей и других хакерских атак можно остановить с помощью базовых мер безопасности: использования надежных паролей и двухфакторной аутентификации.
«Ничего по-настоящему опасного здесь нет, — заявил Хуан Андрес Герреро-Сааде, вице-президент по исследованиям компании SentinelOne, специализирующейся на кибербезопасности. – Это всего лишь эффектный хакерский трюк, которому придают несоразмерно большое значение, подпитывая абсурдные апокалиптические теории о том, будто модели обладают собственным разумом и действуют по собственной воле».
За пределами Вашингтона многие специалисты по искусственному интеллекту и кибербезопасности считают, что государственный контроль над развитием ИИ стал необходимостью. Однако законодатели в Конгрессе внесли несколько законопроектов, противоречащих друг другу, а Белый дом пока ограничился созданием небольшой комиссии для изучения этих вопросов.
Исследователи в области безопасности и обычные пользователи пытаются понять, что стоит за тревожными прогнозами компаний, разрабатывающих искусственный интеллект. Их мотивы могут быть разными: от почти религиозной веры в определенные сценарии развития ИИ до попыток добиться принятия законов, которые ограничат конкурентов или позволят сократить расходы. Не исключено и стремление подогреть интерес к технологическим гигантам из Сан-Франциско, чья ожидаемая рыночная стоимость может исчисляться триллионами долларов.
Вам может быть интересно: главные новости Нью-Йорка, истории наших иммигрантов и полезные советы о жизни в Большом Яблоке – читайте все это на ForumDaily New York
«Утверждение, что все это во многом маркетинг, справедливо. Но реальность гораздо серьезнее любой пиар-кампании, — заявил Гади Эврон, организующий в этом месяце в Сан-Франциско конференцию по безопасности искусственного интеллекта Unprompted. – Какие бы предупреждения ни выпускали разработчики ИИ, они говорят нам недостаточно. Нужно понимать: никто не сможет остановить бурю, которую несет искусственный интеллект».
Читайте также на ForumDaily:
Трамп создал ведомство суперразведки для управления ИИ
12 востребованных профессий, которым не грозит конкуренция со стороны ИИ
Подписывайтесь на ForumDaily в Google NewsХотите больше важных и интересных новостей о жизни в США и иммиграции в Америку? — Поддержите нас донатом! А еще подписывайтесь на нашу страницу в Facebook. Выбирайте опцию «Приоритет в показе» — и читайте нас первыми. Кроме того, не забудьте оформить подписку на наш канал в Telegram и в Instagram— там много интересного. И присоединяйтесь к тысячам читателей ForumDaily New York — там вас ждет масса интересной и позитивной информации о жизни в мегаполисе.
Выбор редакции
