Обнаружены зарубежные «фабрики контента», создающие политические дипфейки

1 день назад

ПоделитьсяСохранить

Ben SummerNews Impact

ПоделитьсяСохранить

Getty Images

Несколько страниц, расположенных за границей, публикуют фейковые новости о политике Великобритании с помощью ИИ

Зарубежные «фабрики контента» используют искусственный интеллект (ИИ) для создания публикаций в социальных сетях о политике Великобритании, предупредил эксперт.

Технологическая компания Meta удалила несколько страниц из Вьетнама с Facebook после расследования BBC Wales, обнаружившего распространение ими фейковых новостей.

Предупреждение исходит от профессора Мартина Иннесса из Кардиффского университета, поскольку избирательная комиссия разрабатывает программное обеспечение для обнаружения и борьбы с дипфейками перед выборами в валлийский и шотландский парламенты в мае.

BBC также выявила примеры видео, созданных с помощью ИИ, распространённых страницами в Уэльсе, которые ложно показывали валлийских политиков в компрометирующих ситуациях, включая поддержку конкурента и поцелуи с коллегой.

Несколько валлийских политиков рассказали BBC о своих опытах жертв дипфейков.

«Я не думаю, что найдётся политик, которому это не случалось… говорить об этом вслух — очень грустно», — сказал депутат от Лейбористской партии Алекс Дэвис-Джонс.

Что такое дипфейк?

Дипфейки — это видео, картинки или аудиозаписи, цифровым образом изменённые или манипулированные, чтобы сделать фальшивое изображение правдоподобным.

Некоторые из них выглядят глупо, но другие могут потенциально навредить репутации.

А инструменты ИИ для преобразования текста в изображение сделали их создание проще, чем когда-либо.

Изображения политиков Бориса Джонсона, Зии Юсуфа и Найджела Фаража, на которых их изображают в больнице, были опубликованы страницами из Вьетнама.

BBC Wales обнаружила ряд страниц на Facebook, публикующих фейковые новости о британских политиках, часто сопровождаемые изображениями, созданными ИИ.

Каждая из этих страниц имела тысячи подписчиков, и многие публиковали одинаковый или очень похожий контент.

Они часто назывались так, чтобы казаться британскими новостными источниками — но, используя функцию прозрачности на Facebook, было видно, что почти все эти страницы управляются из Вьетнама.

Хотя на страницах публиковались некоторые реальные новости, большая часть их контента могла быть легко опровергнута.

Meta удалила некоторые из этих страниц после обращения BBC, но в ходе расследования создавались новые страницы почти ежедневно.

На страницах часто изображались несколько политиков, включая Фаража, Джонсона, Сунака и Юсуфа, в одинаковых фальшивых ситуациях — например, выход из интервью BBC после драматичных споров с Лорой Куенсберг.

Нет никаких предположений, что эти страницы управляются или действуют от имени какой-либо политической партии.

Фальшивая ссора с Лорой Куенсберг — одна из сценариев, в которых были инсценированы действия нескольких политиков.

Профессор Мартин Иннесс, директор Института исследований преступности и безопасности Кардиффского университета, заявил, что эти страницы — «фабрики контента», созданные для вирусного распространения.

Они, в свою очередь, могут приносить владельцам деньги через монетизацию Facebook, но точно определить, монетизирована ли каждая страница, невозможно.

Facebook помечал некоторые новости предупреждениями, заявляя, что они были опровергнуты сторонними фактчекерами — например, после того, как Full Fact опровергла историю о госпитализации лидера Reform UK Найджела Фаража.

Но при этом всегда находились очень похожие истории без таких предупреждений.

Несогласованные дипфейки сейчас запрещены в Великобритании — как их обнаруживают?

Новостное приложение показывает фейковое изображение кровавого Алекса Джонса с ИИ-рекламой

Многие истории, опубликованные этими страницами, казались предназначенными для привлечения внимания сторонников Фаража, но не все были положительными по отношению к нему.

Некоторые изображали его якобы усыновляющим собак, жертвующим личным богатством на благотворительность или приветствующим новорожденного.

Другие показывали его в полицейском участке, сгенерированными изображениями в наручниках.

Многие посты, судя по всему, предназначены для привлечения сторонников Reform — хотя не все фейковые истории положительные.

На страницах также публиковались другие политики, включая сэра Киэра Стармера, которого ложно обвиняли в болезни на сцене, в судебных разбирательствах по «фальсификации выборов» и в отставке с поста премьер-министра.

Иногда в этих фальшивых ситуациях появлялись и знаменитости, вставленные в вымышленные сценарии.

Иннесс отметил, что такие страницы «руководствуются целью получения прибыли» и «готовы делать всё, что сможет привлечь просмотры, если это принесёт им деньги».

Некоторые из этих постов получали много лайков, комментариев и репостов, в то время как другие, несмотря на большое число подписчиков, практически не вызывали реакции.

Иннесс добавил, что невозможно точно определить, все ли подписчики этих страниц — реальные люди, поскольку владельцы часто используют ботов для «подделки алгоритма» и попадания контента в ленты пользователей.

Комментарии показывали, что не все, кто видел этот контент, верили ему.

Многие выражали сомнения или раздражение по поводу фейковых историй — но некоторые всё же попадались на уловки.

Когда BBC обратилась к Meta с примерами, компания удалила несколько страниц с Facebook.

Она заявила, что у неё есть политика против использования «неподлинных» аккаунтов или страниц.

Как дипфейки могут повлиять на выборы в Уэльсе?

Выборы в Уэльсе и Шотландии пройдут 7 мая, в тот же день, что и местные выборы в некоторых районах Англии.

Ранее звучали предупреждения о так называемых «выборах с дипфейками» в Великобритании — и мнения разделились, реализовались ли они на самом деле.

Национальный центр данных и ИИ — Институт Алана Тьюринга — обнаружил «отсутствие доказательств», что ИИ-дипфейки или дезинформация оказали значительное влияние на результаты парламентских выборов 2024 года.

Но почти через два года барьеры для создания такого контента снизились, отметил Иннесс.

«Ранее для создания таких изображений или видео требовалось много вычислительных ресурсов и технических знаний, а сейчас — уже нет».

Это, по его словам, может привести к «эффекту просачивания», когда видео начнут влиять на региональную политику.

Риск настолько высок, что избирательная комиссия подключилась к работе.

Независимый орган, регулирующий выборы в Великобритании, сотрудничает с МВД над программным обеспечением для выявления, отслеживания и сообщения о дипфейках.

Генеральный директор Вджай Рангарджан заявил, что это «поможет избирателям распознавать дезинформацию во время кампаний и снизит активность, которая негативно влияет на доверие избирателей к процессу».

После этого BBC обнаружила несколько ИИ-сгенерированных фальшивых видео с валлийскими политиками, созданных за последние недели.

Всего эти видео набрали более 200 000 просмотров.

Среди них — фальшивое видео, на котором премьер-министр Киэр Стармер и первый министр Уэльса Элюин Морган целуются, а также видео лидера Plaid Cymru Рхуна ап Иорверта, кричащего «Я люблю Reform».

Владельцы страницы Facebook, разместившей эти два видео, заявили, что это «очевидная» сатира.

Они добавили, что доверяют своей аудитории использовать «здравый смысл», но в подписи указали, что видео — фальшивка.

Другое видео, опубликованное анти-Reform страницей, показывало Фаража с валлийским флагом за спиной.

В этом видео он кричит: «Британия великая; я не вижу смысла иметь четыре разные спортивные команды и четыре разные парламенты».

Эти слова Фараж никогда не произносил, а видео выглядело искажённым, что соответствует ИИ-генерации.

На связь с этим видео была обращена страница.

Эти примеры, по словам Иннесса, ближе к «поверхностным фейкам», чем к «глубоким фейкам» — то есть они менее реалистичны и созданы с помощью менее сложного программного обеспечения.

Но распознавать фейки становилось «всё сложнее», добавил он, иногда его команда проводила целый день, «разбираясь» в более сложных примерах.

Он отметил, что планы избирательной комиссии по борьбе с дипфейками «могут помочь понять ситуацию уже после события», но не смогут остановить или предотвратить влияние дипфейков на выборы.

Фейковые истории о том, что Киэр Стармер упал на сцене или был снят с поста премьер-министра, распространялись этими страницами.

Дэвис-Джонс, представляющая Понтиприд, Ронду-Киннон-Таф, рассказала, что ей пришлось столкнуться с «ужасными» дипфейками, в том числе изображениями её в «грубой сексуальной позе» в нижнем белье.

Она добавила, что говорить о несогласованных сексуальных дипфейках — «стыдно» и может привести к «усилению преследований» — а их существование «вредит любой здоровой демократии».

Ллŷр Пауэлл, кандидат от Reform UK на довыборах в Кэрфили, заявил, что его команда нашла ИИ-сгенерированные видео с ним и его коллегами, в которых ему приписывают слова, ложные о его позициях.

Пауэлл отметил, что он «за свободу слова» и свободу выражения мнений, но проблема в том, что использование ИИ приводит к тому, что «некоторые люди верят, что это факт, а не пародия».

Он добавил: «Мы не хотим жертвовать свободами, которые у нас есть, но в то же время общество имеет право знать, какую информацию ему подают, и инструмент здесь используется неправомерно, как и всё остальное».

Джэнет Финч-Сондерс, консервативный депутат от Аберконви в Северном Уэльсе, сказала, что почувствовала «отвращение», увидев фотографию себя, отредактированную «очень отвратительным образом» для создания откровенного дипфейка.

Она отметила, что такие фейки могут быть «очень вводящими в заблуждение» для людей, «менее разбирающихся в технологиях», и это «достаточно тревожно, потому что сейчас возможностей гораздо больше».

«Когда ты в политике… или в любой другой сфере, тебя не должны атаковать лично. И уж точно не с помощью ИИ, чтобы унизить тебя».

Баронесса Кармен Смит, пэр из Plaid Cymru, сказала: «Глубокие фейки — серьёзная угроза демократии, но они также представляют опасность для многих людей, будь то сестра, друг или коллега.

«Нам нужно быть в курсе новых разработок в области ИИ… это то, что мы должны сейчас решать и приоритетизировать».

Рейчел Миллвард, заместитель лидера Зеленой партии Англии и Уэльса, заявила, что сама стала жертвой «мизогинного дипфейка» и призвала правительство Великобритании регулировать сектор ИИ, чтобы предотвратить подобный контент, «подрывающий легитимность будущих выборов».

Представитель Либеральных демократов Уэльса отметил, что дипфейки — «угроза безопасности политиков по всему спектру», и призвал к «межнациональным мерам».

Министерство науки, инноваций и технологий Великобритании заявило, что «потенциал дипфейков сеять разногласия, распространять ложную информацию и влиять на общественное мнение» хорошо признан.

Оно подчеркнуло, что социальные платформы должны «активно бороться с незаконным мошенническим контентом» в рамках закона об онлайн-безопасности, иначе «будут применены меры принуждения».