В феврале 2024 года в китайских социальных сетях стало появляться множество видео с иностранками, сгенерированных с использованием искусственного интеллекта: они говорят на китайском и пропагандируют любовь к Китаю.
Персонажи этих видеороликов созданы на основе украденных онлайн-изображений, воспроизведенных и переработанных настолько правдоподобно, что их прототипы узнают в этих видео себя.
Одна из таких женщин – Ольга Лоек – 20-летняя студентка из Украины, изучающая когнитивные науки в Пенсильванском университете. Пару месяцев назад Лоек завела канал на YouTube, где начала рассказывать о психическом здоровье и делиться своими взглядами на жизнь.
Вскоре после создания канала она начала получать сообщения от подписчиков о том, что они видели ее в китайских соцсетях. И там она совсем не Ольга Лоек, а русская женщина, которая говорит на китайском языке, любит Китай и хочет выйти замуж за китайца. Ее зовут Наташа, или Анна, или Грейс – в зависимости от социальной сети, в которой используется ее изображение.
«Я начала переводить видео с помощью Google Translate и поняла, что большинство этих аккаунтов говорят о таких вещах, как Китай, Россия, о том, насколько хороши отношения между Китаем и Россией, – рассказала она «Голосу Америки». – Это воспринимается очень оскорбительно».
В некоторых видео героини рассказывают, как высоко они ценят тесные связи России и Китая. В других видео они восхваляют китайскую историю и культуру, или же говорят о том, как сильно русские женщины хотят выйти замуж за китайцев.
«Если вы женитесь на русских женщинах, мы будем стирать одежду, готовить и мыть посуду за вас каждый день, – говорит виртуальный персонаж на видео. – Мы также родим вам детей-иностранцев, сколько захотите».
На видеосайтах Douyin и Bilibili нашлось несколько десятков видеороликов с ИИ-версией Ольги, говорящей на мандаринском диалекте китайского языка. Большинство из этих аккаунтов предлагают зрителям посетить их интернет-магазины, чтобы купить, по их словам, подлинные российские товары.
Сеть Douyin – китайская версия TikTok – пометила некоторые из этих видео как возможно созданные искусственным интеллектом. Но, судя по комментариям, многие всерьез решили, что перед ними настоящая женщина из России. Один из пользователей написал: «Русская красавица, китайский народ приветствует тебя».
Лоек заявляет, что никогда бы, разумеется, не сказала ничего подобного, ведь она из Украины, с которой Россия ведет полномасштабную войну с 2022 года.
«Возможно, это делается чтобы дать понять китайцам, что иностранцы чувствуют превосходство Китая», – говорит Лоек.
На крупнейшем китайском видеосайте Bilibili некоторые видеоролики с искусственным интеллектом и лицом Ольги Лоек помечены логотипом HeyGen, что указывает на то, что видео было создано на сайте компании.
В одном из видеоуроков на сайте Bilibili рассказчик даже показывает, как на сайте HeyGen можно сделать короткое видео с говорящем персонажем Ольги.
HeyGen – компания, занимающаяся разработками в области искусственного интеллекта (ИИ) со штаб-квартирой в Лос-Анджелесе. Она начала работать в Китае в 2020 году. Компания специализируется на создании реалистичных цифровых персонажей, генерации голоса и переводе видео.
Разработанная HeyGen технология использовалась в видеороликах с Дональдом Трампом и Тейлор Свифт, говорящими на безупречном китайском. Эти ролики стали вирусными в социальных сетях КНР в октябре 2023 года. По данным Forbes, сейчас компания оценивается в 75 миллионов долларов.
Согласно политике модерации контента HeyGen, пользователи не могут создавать персонажей, «представляющих реальных людей, включая знаменитостей или общественных деятелей, без их явного согласия». В официальном обучающем видео компании указывается, что для создания ИИ-персонажей из каких-либо реальных людей, пользователи обязаны предоставить видео с согласием этих людей на использование их образов. Пока неясно, как пользователи в Китае смогли обойти это требование для создания образа Ольги Лоек.
По словам Лоек, после того как она и ее подписчики на YouTube направили жалобы в китайские социальные сети, около дюжины фальшивых аккаунтов были удалены.
«Голос Америки» обратился за комментариями в ByteDance, материнскую компанию HeyGen и Douyin, но пока не получил ответа.
В начале 2023 года правительство Китая ввело в действие закон о регулировании «дипфейков» и других «сервисов глубокого синтеза». Закон запрещает генерировать дипфейки без согласия людей на использование их изображения или другой информации.
Когда Ольга выложила свою историю на YouTube, ей поделились также и в китайских соцсетях. Пользователи различных платформ сочувствовали ей и призвали ужесточить регулирование искусственного интеллекта.
Китайские технологические гиганты, такие как Baidu и Tencent, вкладывают значительные средства в технологии искусственного интеллекта. Одной из самых популярных услуг, предоставляемых с помощью ИИ, являются цифровые версии различных людей.
Tencent и Xiaoice – китайская ИИ-студия, вышедшая из состава Microsoft – предлагают услуги создания цифровых личностей, с помощью которых можно клонировать изображения людей и превращать их в ИИ-персонажей (аватаров) всего за $145.
ИИ-аватары также обнаружились в кампаниях по дезинформации в Интернете, распространяющих прокитайские и антиамериканские нарративы. В феврале 2023 года исследовательская компания Graphika обнаружила в соцсетях кампанию по продвижению интересов Китая с использованием в видеороликах реалистично выглядящих людей, сгенерированных компьютером.
В сентябре 2023 года Госдепартамент США в своем докладе предупредил: «Доступ к глобальным данным в сочетании с последними достижениями в области технологий искусственного интеллекта позволит КНР точечным образом воздействовать на иностранную аудиторию и тем самым, возможно, влиять на решения в области экономики и безопасности в свою пользу».
Что касается самой Ольги Лоек, то она не планирует уходить с YouTube или прекращать размещать материалы.
«Нам нужна какая-то нормативная база, чтобы мы могли понимать и предотвращать подобные вещи», – сказала она.
Материал подготовлен при участии Адрианы Джан (Adrianna Zhang)
Форум