Perusahaan ‘content farms’ luar negeri yang membuat deepfake politik terungkap

1 hari yang lalu

BagikanSimpan

Ben SummerNews Impact

BagikanSimpan

Getty Images

Beberapa halaman yang berbasis di luar negeri memposting berita palsu yang didukung AI tentang politik Inggris di media sosial

“Content farms” luar negeri menggunakan Kecerdasan Buatan (AI) untuk membuat postingan media sosial tentang politik Inggris, kata seorang ahli.

Perusahaan teknologi Meta menghapus beberapa halaman yang berbasis di Vietnam dari Facebook setelah penyelidikan BBC Wales menemukan mereka menyebarkan berita palsu.

Peringatan ini, dari Prof Martin Innes dari Universitas Cardiff, muncul saat Komisi Pemilihan sedang mengembangkan perangkat lunak untuk mendeteksi dan melawan deepfakes menjelang pemilihan parlemen Wales dan Skotlandia pada bulan Mei.

BBC juga menemukan contoh video yang dibuat dengan AI, dibagikan oleh halaman di Wales, yang secara palsu menunjukkan politisi Wales dalam situasi yang memalukan termasuk mendukung lawan dan berciuman dengan rekan.

Beberapa politisi Wales memberi tahu BBC tentang pengalaman mereka sebagai korban deepfakes.

“Saya rasa tidak akan ada politisi yang belum pernah mengalami ini… mengatakannya dengan keras membuat saya merasa cukup sedih,” kata anggota parlemen Partai Buruh Alex Davies-Jones.

Apa itu deepfake?

Deepfake adalah video, gambar, atau klip audio yang secara digital diubah atau dimanipulasi agar sesuatu yang palsu tampak nyata.

Beberapa terlihat konyol, tetapi yang lain berpotensi merusak reputasi.

Dan alat AI teks-ke-gambar telah memudahkan mereka dibuat lebih dari sebelumnya.

Gambar politisi Boris Johnson, Zia Yusuf, dan Nigel Farage yang membuat mereka tampak di rumah sakit termasuk di antara yang diposting oleh halaman berbasis di Vietnam

BBC Wales menemukan sejumlah halaman Facebook yang memposting berita palsu tentang politisi Inggris, sering disertai gambar yang dibuat dengan AI.

Setiap halaman ini memiliki ribuan pengikut dan banyak dari mereka memposting konten yang sama, atau sangat mirip.

Mereka sering memiliki nama yang menyiratkan mereka adalah media berita berbasis di Inggris — tetapi, dengan menggunakan fitur transparansi di Facebook, hampir semua halaman ini diketahui dijalankan dari Vietnam.

Meskipun mereka menampilkan beberapa berita nyata, sebagian besar konten mereka dapat dengan mudah dibuktikan palsu.

Meta menghapus beberapa halaman ini setelah dihubungi oleh BBC, tetapi selama penyelidikan, halaman baru dibuat hampir setiap hari.

Halaman-halaman ini sering menggambarkan beberapa politisi, termasuk Nigel Farage, Boris Johnson, Rishi Sunak, dan Zia Yusuf, dalam situasi palsu yang sama — misalnya, keluar dari wawancara BBC setelah pertengkaran dramatis dengan Laura Kuenssberg.

Tidak ada indikasi bahwa halaman ini dijalankan oleh, atau atas nama, partai politik mana pun.

Salah satu skenario palsu yang dibuat adalah argumen palsu dengan Laura Kuenssberg yang melibatkan beberapa politisi

Prof Martin Innes, direktur Crime and Security Research Institute di Universitas Cardiff, mengatakan halaman-halaman ini adalah “content farms” yang dirancang untuk menjadi viral.

Mereka mungkin juga menghasilkan uang dari program monetisasi Facebook, tetapi tidak mungkin mengetahui secara pasti apakah setiap halaman dimonetisasi.

Facebook menandai beberapa cerita dengan peringatan, mengatakan bahwa cerita tersebut telah dibuktikan palsu oleh pemeriksa fakta pihak ketiga — misalnya setelah Full Fact membantah sebuah cerita tentang pemimpin Reform UK Nigel Farage yang dirawat di rumah sakit.

Namun, setiap kali, ada cerita serupa yang tidak diberi peringatan ini.

Deepfake tanpa persetujuan sekarang ilegal di Inggris — bagaimana mereka dideteksi?

Aplikasi berita menunjukkan iklan AI Alex Jones berdarah palsu

Banyak cerita yang diposting oleh halaman-halaman ini tampaknya dirancang untuk menarik perhatian pendukung Farage, tetapi tidak semuanya positif tentang dia.

Dalam beberapa, dia digambarkan secara palsu sedang mengadopsi anjing, menyumbangkan kekayaan pribadinya untuk tujuan baik, atau menyambut bayi baru.

Namun, ada juga yang menunjukkan dia ditangkap, lengkap dengan foto yang dibuat dengan AI tentang dia dalam borgol.

Banyak postingan tampaknya bertujuan untuk menarik perhatian pendukung Reform — meskipun tidak semua cerita palsu bersifat positif.

Halaman-halaman ini juga menampilkan politisi lain termasuk Sir Keir Starmer, yang secara palsu dikatakan jatuh sakit di panggung, digugat karena “kecurangan pemilu”, dan dihapus dari jabatan perdana menteri.

Tidak selalu politisi — berbagai selebritas juga bisa terlihat dimasukkan ke dalam beberapa situasi palsu yang sama.

Innes mengatakan halaman seperti ini “didorong oleh motif keuntungan”, dan akan “melakukan apa saja jika mereka pikir bisa mendapatkan perhatian pada konten mereka jika itu akan menghasilkan uang”.

Beberapa postingan ini tampaknya mendapatkan banyak suka, komentar, dan bagikan, sementara yang lain hampir tidak mendapatkan apa-apa meskipun jumlah pengikutnya tinggi.

Innes mengatakan kita tidak bisa yakin apakah semua ribuan pengikut halaman tersebut adalah orang nyata, menambahkan bahwa pemilik halaman sering menggunakan bot untuk “menipu algoritma” dan memasukkan konten ke dalam feed orang.

Bagian komentar menunjukkan bahwa tidak semua yang melihat konten ini percaya.

Banyak yang menyatakan keraguan atau kesal terhadap cerita palsu — tetapi yang lain tampaknya tertipu.

Ketika BBC menghubungi Meta dengan contoh yang ditemukan, perusahaan menghapus beberapa halaman dari Facebook.

Perusahaan menambahkan bahwa mereka memiliki kebijakan melarang penggunaan akun atau halaman “tidak otentik” di platform mereka.

Bagaimana deepfakes mempengaruhi pemilihan Wales?

Pemilihan devolusi akan berlangsung di Wales dan Skotlandia pada 7 Mei, bersamaan dengan pemilihan lokal di bagian Inggris.

Sudah ada peringatan sebelumnya tentang yang disebut ‘pemilihan deepfake’ di Inggris — dan pendapat yang beragam tentang apakah ini pernah benar-benar terjadi.

Institut Alan Turing, pusat nasional untuk data science dan AI, menemukan “tidak ada bukti” bahwa deepfakes atau disinformasi berbasis AI memiliki dampak signifikan pada hasil pemilihan umum 2024.

Namun, hampir dua tahun kemudian, “penghalang masuk” untuk membuat konten semacam ini telah berkurang, kata Innes.

“Dimana sebelumnya melakukan manipulasi gambar [atau] video ini membutuhkan cukup banyak daya komputasi dan pengetahuan teknis, sekarang tidak lagi.”

Ini, katanya, bisa menciptakan “efek tetesan” di mana video mulai mempengaruhi politik devolusi.

Risikonya cukup tinggi sehingga Komisi Pemilihan terlibat.

Lembaga independen yang mengawasi dan mengatur pemilihan di Inggris ini bekerja sama dengan Kementerian Dalam Negeri dalam perangkat lunak untuk mengidentifikasi, melacak, dan melaporkan deepfakes.

CEO-nya, Vijay Rangarajan, mengatakan ini akan “membantu pemilih mengidentifikasi misinformasi selama kampanye pemilihan dan mengurangi aktivitas yang secara negatif mempengaruhi kepercayaan pemilih terhadap pelaku kampanye”.

Setelah pengumuman ini, BBC mengidentifikasi sejumlah video palsu yang dibuat dengan AI tentang politisi Wales dalam beberapa minggu terakhir.

Video-video ini telah mendapatkan lebih dari 200.000 tampilan.

Termasuk video palsu Perdana Menteri Keir Starmer dan Menteri Pertama Wales, Eluned Morgan, berciuman, dan video lain dari pemimpin Plaid Cymru, Rhun ap Iorwerth, berteriak “Saya cinta Reform”.

Pemilik halaman Facebook di balik kedua video ini mengatakan mereka adalah “sindiran yang jelas”.

Mereka menambahkan mereka percaya audiens mereka akan menggunakan “akal sehat” tetapi menunjukkan bahwa video tersebut palsu dalam caption mereka.

Contoh lainnya, dibagikan oleh halaman anti-Reform, menunjukkan Nigel Farage dengan bendera Wales di belakangnya.

Dalam video itu, dia berteriak: “Britania hebat; saya tidak melihat alasan memiliki empat tim olahraga berbeda dan empat parlemen berbeda.”

Tidak ada catatan bahwa Farage pernah mengucapkan kata-kata ini, dan video tersebut tampak terdistorsi sesuai dengan ciri-ciri pembuatan AI.

Halaman di balik video ini telah dihubungi untuk komentar.

Innes mengatakan contoh-contoh ini lebih dekat ke “shallowfakes” daripada “deepfakes” — artinya mereka kurang realistis dan dibuat dengan perangkat lunak yang kurang canggih.

Namun, mengidentifikasi palsu semakin “sulit dan sulit”, tambahnya, dengan timnya kadang menghabiskan sehari “meneliti” contoh yang lebih canggih.

Dia mengatakan rencana Komisi Pemilihan untuk melawan deepfakes “mungkin membantu kita memahami situasi setelah kejadian” tetapi tidak akan menghentikan atau mencegah deepfakes mempengaruhi pemilihan.

Cerita palsu yang menyatakan Sir Keir Starmer jatuh pingsan di panggung atau dihapus dari jabatan perdana menteri termasuk yang dibagikan oleh halaman-halaman ini

Davies-Jones, yang mewakili Pontypridd, Rhondda Cynon Taf, mengatakan dia pernah menjadi korban “deepfake mengerikan”, termasuk yang menunjukkan dia dalam posisi seksual kasar dengan pakaian dalam.

Dia menambahkan bahwa berbicara tentang deepfake seksual tanpa persetujuan bisa “memalukan” dan menyebabkan “penargetan yang meningkat” — dan keberadaannya “tidak baik untuk demokrasi yang sehat”.

Llŷr Powell, kandidat Reform UK dalam pemilihan sela di Caerphilly, mengatakan timnya menemukan video yang dibuat dengan AI tentang dia dan rekan-rekannya yang menaruh kata-kata di mulutnya, berbohong tentang kebijakannya.

Powell mengatakan dia “mendukung kebebasan berbicara” dan kebebasan berekspresi tetapi ada masalah ketika penggunaan AI menyebabkan “beberapa orang percaya bahwa itu fakta dan bukan parodi”.

Dia menambahkan: “Kami tidak ingin mengorbankan kebebasan yang kami miliki di negara ini, tetapi pada saat yang sama masyarakat berhak tahu informasi apa yang mereka terima dan alat ini disalahgunakan di sini seperti apa pun yang bisa disalahgunakan.”

Janet Finch-Saunders, MS Konservatif dari Aberconwy di Wales utara, mengatakan dia " merasa sakit" saat melihat foto dirinya yang diedit “dengan cara yang sangat menjijikkan” untuk membuat deepfake eksplisit.

Dia mengatakan palsu ini bisa “sangat menyesatkan” bagi orang yang “kurang paham teknologi” dan “cukup mengkhawatirkan karena sekarang ada lebih banyak kemampuan”.

“Ketika Anda terjun ke dunia politik… atau apapun bidang pekerjaan Anda, Anda tidak seharusnya diserang secara pribadi. Dan tentu saja bukan AI yang digunakan untuk merendahkan Anda.”

Baroness Carmen Smith, anggota senior Plaid Cymru, mengatakan: "Deepfakes benar-benar merupakan ancaman bagi demokrasi, tetapi mereka juga ancaman bagi banyak orang, apakah itu saudara perempuan, teman, atau rekan kerja Anda.

“Kita harus mengikuti perkembangan teknologi AI… ini sesuatu yang harus kita tangani dan prioritaskan sekarang.”

Rachel Millward, wakil pemimpin Partai Hijau Inggris dan Wales, mengatakan dia sendiri pernah menjadi korban “deepfake misoginis” dan mendesak pemerintah Inggris mengatur sektor AI untuk mencegah konten semacam itu “menggoyahkan legitimasi pemilu mendatang”.

Juru bicara Partai Liberal Demokrat Wales mengatakan deepfakes adalah “ancaman terhadap keselamatan politisi di seluruh spektrum politik” dan menyerukan “tindakan lintas negara”.

Departemen sains, inovasi, dan teknologi pemerintah Inggris menyatakan bahwa “potensi deepfakes untuk menimbulkan perpecahan, menyebarkan informasi palsu, dan mempengaruhi opini publik” sudah “diakui dengan baik”.

Mereka mengatakan platform media sosial harus “secara proaktif menangani konten penipuan ilegal” berdasarkan Online Safety Act, atau “menghadapi tindakan penegakan hukum”.