Виявлено закордонські «контент-ферми», що створюють політичні глибокі фейки

1 день тому

ПоділитисяЗберегти

Ben SummerNews Impact

ПоділитисяЗберегти

Getty Images

Кілька закордонних сторінок публікують фейкові новини з використанням ШІ про політику Великої Британії у соцмережах

Закордонні «контент-ферми» використовують штучний інтелект (ШІ) для створення публікацій у соцмережах про політику Великої Британії, попередив експерт.

Технологічна компанія Meta видалила кілька сторінок із В’єтнаму з Facebook після розслідування BBC Wales, яке виявило поширення фейкових новин.

Попередження, від проф. Мартіна Іннеса з Кардіфського університету, з’являється напередодні розробки програмного забезпечення для виявлення та боротьби з глибокими фейками перед виборами до парламентів Уельсу та Шотландії у травні.

BBC також виявила приклади відео, створених ШІ, поширених сторінками у Вельсі, які неправдиво показують уельських політиків у компрометуючих ситуаціях, зокрема, що вони підтримують суперника або цілують колегу.

Кілька уельських політиків розповіли BBC про свій досвід жертв глибоких фейків.

«Я не думаю, що знайдеться політик, якого це не торкнулося… сказати це вголос — дуже сумно», — сказав депутат від Лейбористської партії Алекс Девіс-Джонс.

Що таке глибокий фейк?

Глибокі фейки — це відео, фотографії або аудіо, які цифрово змінені або маніпульовані, щоб зробити фальшиве зображення реальним.

Деякі є смішними, але інші можуть потенційно нашкодити репутації.

І інструменти ШІ для перетворення тексту у зображення зробили їх створення легшим ніж будь-коли раніше.

Зображення політиків Бориса Джонсона, Зії Юсуфа та Нігеля Фаража, які зображували їх у лікарні, були серед тих, що поширювалися сторінками з В’єтнаму.

BBC Wales виявила кілька сторінок у Facebook, які публікували фейкові новини про політиків Великої Британії, часто супроводжувані згенерованими ШІ зображеннями.

Кожна з цих сторінок мала тисячі підписників, і багато з них публікували однаковий або дуже схожий контент.

Вони часто мали назви, що натякали на британські новинні ресурси — але за допомогою функції прозорості у Facebook було видно, що майже всі ці сторінки керуються з В’єтнаму.

Хоча вони містили деякі реальні новини, значна частина їхнього контенту легко могла бути спростована.

Meta видалила деякі з цих сторінок після звернення BBC, але під час розслідування щодня створювалися нові сторінки.

Ці сторінки часто зображували кількох політиків, зокрема Нігеля Фаража, Бориса Джонсона, Ріші Сунака та Зію Юсуфа, у однакових фальшивих ситуаціях — наприклад, виходячи з інтерв’ю BBC після драматичних сварок із Лаурою Куенсберг.

Немає жодних підстав вважати, що ці сторінки керуються або від імені будь-якої політичної партії.

Одна з фальшивих ситуацій — фейкова сварка з Лаурою Куенсберг — була однією з багатьох сцен, у яких були змодельовані політики.

Професор Мартін Іннес, директор Інституту досліджень злочинності та безпеки Кардіфського університету, сказав, що ці сторінки — «контент-ферми», створені для вірусності.

Вони, можливо, отримують гроші від монетизаційної програми Facebook, але точно визначити, чи кожна сторінка монетизована, неможливо.

Facebook позначив деякі історії попередженням, заявивши, що вони були спростовані сторонніми фактчекерами — наприклад, після того, як Full Fact спростував історію про те, що лідер Reform UK Нігел Фараж перебуває у лікарні.

Однак у кожному випадку можна знайти дуже схожі історії без такого попередження.

Непогоджені глибокі фейки зараз заборонені у Великій Британії — як їх виявляють?

Новинний додаток показує фейкове зображення кровоточивого Алекса Джонса з ШІ-рекламою

Багато історій, опублікованих цими сторінками, були спрямовані привернути увагу прихильників Фаража, але не всі були позитивними щодо нього.

Деякі неправдиво зображували його, як він усиновлює собак, пожертвує свої особисті кошти на добрі справи або вітає новонародженого.

Інші показували його заарештованим, згенерованими ШІ фотографіями у кайданках.

Багато постів, здається, були спрямовані привернути увагу прихильників Reform — хоча не всі фейкові історії були позитивними.

На сторінках також зображувалися інші політики, зокрема сір Кір Стармер, неправдиво стверджуючи, що він захворів на сцені, подав позов за «фальсифікацію виборів» і був усунутий з посади прем’єр-міністра.

Не завжди це були політики — у деяких фейкових ситуаціях можна було побачити й знаменитостей.

Іннес сказав, що такі сторінки «керуються прагненням до прибутку» і «готові зробити будь-що, щоб залучити увагу до свого контенту, якщо це принесе їм гроші».

Деякі з цих постів отримували багато лайків, коментарів і поширень, тоді як інші майже не мали активності, незважаючи на велику кількість підписників.

Іннес додав, що важко визначити, чи всі тисячі підписників цих сторінок — реальні люди, і що власники сторінок часто використовують боти для «імітації алгоритму» і просування контенту у стрічки користувачів.

Коментарі свідчать, що не всі, хто бачив цей контент, вірять у нього.

Багато висловлювали сумніви або роздратування щодо фейкових історій — але деякі й справді повірили.

Коли BBC звернулася до Meta з прикладами, компанія видалила кілька сторінок з Facebook.

Вона додала, що має політику проти використання «неавтентичних» акаунтів або сторінок на своїй платформі.

Як глибокі фейки можуть вплинути на вибори у Вельсі?

Децентралізовані вибори відбудуться у Вельсі та Шотландії 7 травня, у той самий день, що й місцеві вибори в деяких частинах Англії.

Раніше попереджали про так звані «глибокі фейкові вибори» у Великій Британії — і були різні думки щодо того, чи вони справді мали місце.

Національний центр даних і ШІ — Інститут Алан Тьюрінга — не виявив «жодних доказів», що AI-активовані глибокі фейки або дезінформація суттєво вплинули на результати загальних виборів 2024 року.

Але майже через два роки Іннес зазначив, що «бар’єри для створення такого контенту» знизилися.

«Раніше для створення таких зображень або відео потрібно було багато обчислювальної потужності та технічних знань, а тепер — ні».

Це може спричинити «ефект знизу вгору», коли відео почнуть впливати на децентралізовану політику.

Ризик настільки високий, що до процесу залучена Виборча комісія.

Цей незалежний орган, що регулює вибори у Великій Британії, співпрацює з Міністерством внутрішніх справ над програмним забезпеченням для виявлення, відстеження та повідомлення про глибокі фейки.

Голова комісії Віаджай Рангарджан сказав, що це «допоможе виборцям розпізнавати дезінформацію під час кампаній і зменшить активність, яка негативно впливає на довіру виборців до процесу».

Після цього BBC виявила кілька ШІ-згенерованих фейкових відео уельських політиків, створених за останні тижні.

Загалом ці відео набрали понад 200 000 переглядів.

Серед них — фейкове відео, де прем’єр-міністр Кір Стармер і перша міністерка Уельсу Елінед Морган цілуються, а також відео лідера Plaid Cymru Рхуна ап Іорверта, який кричить «Я люблю Reform».

Власники сторінки у Facebook, що поширювали ці два відео, заявили, що це «очевидна» сатира.

Вони додали, що довіряють своїй аудиторії і закликали використовувати «здоровий глузд», але вказали, що відео — фейкові у підписах.

Ще одне відео, поширене антиреформістською сторінкою, показувало Нігеля Фаража з валлійським прапором позаду.

У відео він кричить: «Британія велика; я не бачу сенсу мати чотири різні спортивні команди і чотири різні парламенти».

Немає записів, що Фараж коли-небудь говорив ці слова, а відео було спотворене у спосіб, характерний для ШІ.

Зв’язатися з власниками цієї сторінки для коментаря.

Ці приклади, за словами Іннеса, ближчі до «поверхневих фейків», ніж до «глибоких фейків» — тобто вони менш реалістичні і створювалися менш складним програмним забезпеченням.

Але визначити фейки стає «все важче і важче», додав він, і його команда іноді витрачає цілий день, «розбираючись» у більш складних прикладах.

Він сказав, що плани Виборчої комісії боротися з глибокими фейками «можуть допомогти нам зрозуміти ситуацію після події», але не зупинять і не запобігнуть їх впливу на вибори.

Фейкові історії, що стверджують, що Кір Стармер знепритомнів на сцені або був усунутий з посади прем’єра, були серед поширених сторінок.

Девіс-Джонс, яка представляє Понтіпрід, Ронду Кіннон Теф, повідомила, що її піддавалися «жахливим» глибоким фейкам, зокрема, зображенням її у «грубо сексуальних позах» у нижній білизні.

Вона додала, що висловлюватися про неузгоджені сексуальні фейки може бути «соромно» і це може призвести до «збільшення цілеспрямованих атак» — і їх існування «не корисне для будь-якої здорової демократії».

Ллїр Пауелл, кандидат від Reform UK у позачергових виборах у Керфілі, повідомив, що його команда знайшла ШІ-згенеровані відео з ним і колегами, які вставляли йому слова і брехали про його політику.

Пауелл сказав, що він «за свободу слова» і свободу вираження, але проблема виникає, коли використання ШІ призводить до того, що «деякі люди вірять, що це правда, а не пародія».

Він додав: «Ми не хочемо жертвувати нашими свободами, але й громадськість має право знати, яку інформацію їм подають, і інструмент тут використовується неправильно, так само як і будь-що інше».

Джанні Фінч-Сондерс, консервативний депутат від Аберконві у північному Уельсі, сказала, що «відчула огиду», побачивши фото себе, яке було відредаговане «дуже огидним чином» для створення явного глибокого фейку.

Вона зазначила, що фейки можуть бути «дуже оманливими» для людей, які «менше технічно підковані», і це «дуже тривожно, бо зараз можливості значно зросли».

«Коли ти у політиці… або в будь-якій іншій сфері, тебе не повинні особисто атакувати. І тим більше — не використовувати ШІ для приниження».

Баронеса Кармен Сміт, пір у Plaid Cymru, сказала: «Глибокі фейки — це серйозна загроза демократії, але вони також загрожують багатьом людям, чи то ваша сестра, друг чи колега.

Ми повинні бути в курсі нових розробок у сфері ШІ… це те, що потрібно терміново вирішувати і пріоритетизувати».

Рейчел Мілворд, заступник лідера Зелених у Англії та Уельсі, повідомила, що сама стала жертвою «міжгендерного глибокого фейку» і закликала уряд Великої Британії регулювати сектор ШІ, щоб запобігти поширенню такого контенту, що «підриває легітимність майбутніх виборів».

Представник Ліберальних демократів у Уельсі заявив, що глибокі фейки — це «загроза безпеці політиків у всьому політичному спектрі» і закликав до «міжнаціональних дій».

Міністерство науки, інновацій та технологій Великої Британії зазначило, що «можливість глибоких фейків посіяти розбрат, поширювати неправдиву інформацію і впливати на громадську думку» є «добре визнаною».

Воно додало, що соціальні мережі повинні «активно боротися з незаконним шахрайським контентом» відповідно до Закону про онлайн-безпеку, інакше — «застосовуватимуться заходи примусу».