Чат-бот выдал украинку за россиянку и использовал ее фото для рекламы РФ в Китае

Хакеры взяли видео украинки из YouTube и с помощью ИИ сделали из него рекламные видеоролики для продвижения России в Китае, сообщает BBC.

Фото: iStock.com/jacoblund

Ольга Лоек видела свое лицо в различных видеороликах китайских социальных сетей. Их сделали с помощью простого в использовании инструмента генеративного искусственного интеллекта, доступного в интернете. О том, что может сделать с человечеством ИИ, когда станет сверхразумом, читайте в нашем материале.
«Я могла видеть свое лицо и слышать свой голос. Но все это было очень жутко, потому что я видела, как говорю то, чего никогда не говорила», — рассказала 21-летняя украинка, которая учится в Пенсильванском университете. Чего ожидать от искусственного интеллекта в 2024 году, узнайте из нашей статьи.

По теме: Технологии против скорби: ChatGPT позволяет общаться с близкими даже после их смерти

«Не хочу, чтобы кто-то думал, что я когда-либо говорила эти ужасные вещи. Использование украинской девушки как лица, продвигающего Россию, — это безумие», — заявила она.

В аккаунтах с ее изображением были десятки разных имен, таких как София, Наташа, Эйприл и Стейси. Эти «девочки» говорили на китайском языке, который Ольга никогда не изучала. Судя по всему, они были из России и говорили о китайско-российской дружбе или рекламировали российскую продукцию.

«Я видела, что в 90% видео речь шла о Китае и России, китайско-российской дружбе, о том, что следует быть сильными союзниками. Была и реклама еды», — прокомментировала украинка.

Одним из самых крупных аккаунтов был Natasha imported food, на который подписано более 300 000 пользователей. «Наташа» в начале роликов говорила что-то вроде: «Россия — лучшая страна. Печально, что другие страны отворачиваются от России, а русские женщины хотят приехать в Китай», прежде чем начать продвигать продукты, например русские конфеты.

Это безумно возмутило Ольгу, семья которой до сих пор находится в Украине.

Но в более широком плане это дело привлекло внимание к опасностям технологии, которая развивается так быстро, что ее регулирование и защита людей стали настоящей проблемой.

От YouTube до Xiaohongshu

ИИ-двойники Ольги, говорящие на китайском языке, начали появляться в 2023 году — вскоре после того, как она завела канал на YouTube, который обновляется не очень регулярно.

Примерно через месяц украинка начала получать сообщения от людей, которые утверждали, что видели, как она говорила на китайском языке в китайских социальных сетях.

Заинтригованная, Ольга начала искать себя и нашла свои ИИ-подобные изображения на Xiaohongshu — платформе, похожей на Instagram, а также в BiliBili — видеосайте, похожем на YouTube.

«Аккаунтов оказалось очень много. У некоторых в биографии были такие атрибуты, как российские флаги», — сказала украинка, которая на данный момент нашла около 35 аккаунтов, использующих ее изображение.

После того, как ее жених написал об этих аккаунтах в Twitter, отреагировала HeyGen — фирма, которая разработала инструмент, используемый для создания ИИ-подобий.

Ее специалисты показали, что при помощи лица Ольги было создано более 4900 видеороликов. Они сказали, что заблокировали дальнейшее использование изображения украинки.

Представитель компании сообщил, что их система была взломана с целью создания того, что они назвали «несанкционированным контентом». Он заверил: компания немедленно обновила свои протоколы безопасности и проверки, чтобы предотвратить дальнейшее злоупотребление своей платформой.

Но, как говорит Анджела Чжан из Университета Гонконга, то, что случилось с Ольгой, «очень распространено в Китае».

По ее словам, в стране «развита обширная теневая экономика, специализирующаяся на подделках, незаконном присвоении личных данных и производстве дипфейков».

И это несмотря на то, что Китай — одна из первых стран, пытающихся регулировать ИИ и то, для чего его можно использовать. Она даже внесла изменения в свой гражданский кодекс, чтобы защитить права на сходство от цифровой фабрикации.

Статистические данные, раскрытые Департаментом общественной безопасности в 2023 году, показывают, что власти арестовали 515 человек за деятельность по «подмене лиц» с помощью ИИ. Китайские суды даже рассматривали дела в этой области.

Как такое количество видео с Ольгой попало в сеть

Одной из причин может быть то, что эти видео продвигали идею дружбы между Китаем и Россией.
За последние годы Пекин и Москва значительно сблизились. Китайский лидер Си Цзиньпин и президент России Путин заявили, что дружба между двумя странами «не имеет границ».

Государственные СМИ Китая повторяют российский нарратив, оправдывающий вторжение в Украину, а социальные сети подвергают цензуре обсуждение войны.

«Неясно, были ли эти учетные записи согласованы ради коллективной цели, но продвижение сообщения, которое соответствует правительственной пропаганде, определенно приносит им пользу, — сказала Эмми Хайн, исследователь права и технологий из Университета Болоньи и Университета Левена. — Даже если эти аккаунты не связаны явно с КПК (Коммунистической партией Китая), продвижение согласованного сообщения может снизить вероятность удаления их постов».

То есть обычные люди, такие как Ольга, остаются уязвимыми и рискуют нарушить китайское законодательство, предупреждают эксперты.

Кайла Бломквист, исследователь технологий и геополитики из Оксфордского университета, предупреждает, что «существует риск того, что люди будут обвинены в искусственно созданном, политически чувствительном контенте». Они могут подвергнуться «быстрым наказаниям, принятым без надлежащей правовой процедуры».

По ее словам, в Китае «права граждан по отношению к правительству остаются крайне слабыми».

Хайн объясняет, что «фундаментальная цель китайского регулирования искусственного интеллекта состоит в том, чтобы сбалансировать поддержание социальной стабильности с продвижением инноваций и экономического развития».

«Хотя действующие правила кажутся строгими, есть свидетельства избирательного применения, особенно правила лицензирования генеративного ИИ. Искусственный интеллект может быть направлен на создание более благоприятной для инноваций среды при молчаливом понимании того, что закон обеспечивает основу для подавления при необходимости», — заметила она.

«Не последняя жертва»

Последствия дела Ольги выходят далеко за пределы Китая. Оно демонстрирует сложность попыток регулирования отрасли, которая, кажется, развивается с головокружительной скоростью. Регулирующие органы не поспевают, но это не значит, что они не пытаются.

В марте Европейский парламент одобрил Закон об искусственном интеллекте. Это первая в мире всеобъемлющая структура по ограничению рисков, связанных с технологиями. А в октябре прошлого года президент США Джо Байден объявил о распоряжении, требующем от разработчиков ИИ делиться данными с правительством.

Вам может быть интересно: главные новости Нью-Йорка, истории наших иммигрантов и полезные советы о жизни в Большом Яблоке — читайте все это на ForumDaily New York

«Регулирование на национальном и международном уровнях развивается медленно по сравнению с быстрым развитием ИИ. Нам необходимо более четкое понимание и более сильный консенсус в отношении самых опасных угроз и способов их смягчения», — подчеркнула Бломквист.

«Однако разногласия внутри стран и между ними препятствуют реальным действиям. США и Китай — ключевые игроки, но достижение консенсуса и координация необходимых совместных действий будет сложной задачей», — добавила она.

Между тем на индивидуальном уровне, похоже, люди мало что могут предпринять, кроме как ничего не публиковать в интернете.

«Единственное, что нужно сделать, — это не давать им никаких материалов для работы. Не загружать свои фотографии, видео или аудио в общедоступные социальные сети», — советует Хайн.

Ольга «уверена на 100%», что она не последняя жертва генеративного ИИ. Но украинка полна решимости не позволить этому беспределу выгнать ее из интернета.

Она поделилась личным опытом на своем канале на YouTube и говорит, что некоторые китайские онлайн-пользователи помогали ей. Они оставляли комментарии под фейковыми видео указывая на то, что они ненастоящие.

По словам Ольги, многие из этих видео сейчас удалены.

«Я хотела поделиться своей историей и убедиться, что люди поймут: не все, что вы видите в интернете, реально, — пояснила украинка. — Мне нравится делиться своими идеями со всем миром, и никто из этих мошенников не может помешать мне сделать это».

Читайте также на ForumDaily:

Бывший агент ФБР рассказал о трех секретах общения, которые пригодятся в повседневной жизни 

Что нужно знать, прежде чем отправляться в свой первый круиз

Говорить, как американец: какие идиомы и обороты помогут стать в США ‘своим’

Хотите больше важных и интересных новостей о жизни в США и иммиграции в Америку? — Поддержите нас донатом! А еще подписывайтесь на нашу страницу в Facebook. Выбирайте опцию «Приоритет в показе» —  и читайте нас первыми. Кроме того, не забудьте оформить подписку на наш канал в Telegram  и в Instagram— там много интересного. И присоединяйтесь к тысячам читателей ForumDaily New York — там вас ждет масса интересной и позитивной информации о жизни в мегаполисе.