Các “trang trại nội dung” ở nước ngoài phát hiện tạo ra các video giả mạo chính trị sâu sắc

1 ngày trước

Chia sẻLưu

Ben SummerNews Impact

Chia sẻLưu

Getty Images

Một số trang ở nước ngoài đang đăng tải tin giả do AI hỗ trợ về chính trị Vương quốc Anh trên mạng xã hội

Các “trang trại nội dung” ở nước ngoài đang sử dụng Trí tuệ nhân tạo (AI) để tạo các bài đăng trên mạng xã hội về chính trị Vương quốc Anh, một chuyên gia đã cảnh báo.

Công ty công nghệ Meta đã xóa nhiều trang tại Việt Nam khỏi Facebook sau khi một cuộc điều tra của BBC Wales phát hiện họ đang lan truyền tin giả.

Cảnh báo này, từ Giáo sư Martin Innes của Đại học Cardiff, được đưa ra khi Ủy ban Bầu cử đang phát triển phần mềm để phát hiện và chống lại các video deepfake trước cuộc bầu cử của quốc hội Wales và Scotland vào tháng 5.

BBC cũng đã phát hiện các ví dụ về video do AI tạo ra, được chia sẻ bởi các trang ở Wales, giả mạo các chính trị gia Wales trong các tình huống nhạy cảm, bao gồm ủng hộ đối thủ và hôn đồng nghiệp.

Một số chính trị gia Wales đã kể với BBC về trải nghiệm của họ khi trở thành nạn nhân của deepfake.

“Tôi không nghĩ sẽ có chính trị gia nào chưa từng bị làm như vậy… nói ra điều đó khiến tôi cảm thấy khá buồn,” nghị sĩ đảng Lao động Alex Davies-Jones nói.

Deepfake là gì?

Deepfake là các video, hình ảnh hoặc đoạn âm thanh đã bị chỉnh sửa hoặc thao tác kỹ thuật số để làm cho thứ giả trông giống thật.

Một số là vui nhộn, nhưng số khác có thể gây tổn hại danh tiếng.

Và các công cụ AI chuyển đổi văn bản thành hình ảnh đã giúp chúng dễ dàng tạo ra hơn bao giờ hết.

Hình ảnh các chính trị gia Boris Johnson, Zia Yusuf và Nigel Farage khiến họ trông như đang ở bệnh viện nằm trong số các nội dung do các trang ở Việt Nam đăng tải

BBC Wales đã phát hiện nhiều trang Facebook đăng tải tin giả về các chính trị gia Vương quốc Anh, thường kèm theo hình ảnh do AI tạo ra.

Mỗi trang này có hàng nghìn người theo dõi và nhiều trong số đó đăng cùng hoặc nội dung rất giống nhau.

Chúng thường có tên gọi ngụ ý là các trang tin tức của Vương quốc Anh - nhưng, bằng cách sử dụng tính năng minh bạch trên Facebook, có thể thấy hầu hết các trang này đều do Việt Nam điều hành.

Dù có một số tin tức thật, phần lớn nội dung của họ có thể dễ dàng bị chứng minh là sai.

Meta đã xóa một số trang này sau khi bị BBC liên hệ, nhưng trong suốt cuộc điều tra, các trang mới vẫn được tạo ra gần như hàng ngày.

Các trang này thường mô tả nhiều chính trị gia, bao gồm Nigel Farage, Boris Johnson, Rishi Sunak và Zia Yusuf, trong cùng một tình huống giả mạo – ví dụ, rời khỏi cuộc phỏng vấn của BBC sau các tranh luận kịch tính với Laura Kuenssberg.

Không có bằng chứng cho thấy các trang này do bất kỳ đảng chính trị nào điều hành hoặc thay mặt.

Một cuộc tranh luận giả với Laura Kuenssberg là một trong những kịch bản giả mạo mà nhiều chính trị gia đã xuất hiện trong đó

Giáo sư Martin Innes, giám đốc Viện Nghiên cứu Tội phạm và An ninh của Đại học Cardiff, cho biết các trang này là “trại nội dung” được thiết kế để lan truyền nhanh.

Chúng có thể mang lại lợi nhuận cho chủ sở hữu từ chương trình kiếm tiền của Facebook, nhưng không thể chắc chắn từng trang có được kiếm tiền hay không.

Facebook đã cảnh báo một số câu chuyện, nói rằng chúng đã bị các bên thứ ba kiểm tra thực tế chứng minh là sai – ví dụ sau khi Full Fact bác bỏ câu chuyện về lãnh đạo Reform UK Nigel Farage đang nằm viện.

Nhưng mỗi lần như vậy, có thể tìm thấy các câu chuyện tương tự nhưng không có cảnh báo này đính kèm.

Deepfake không có sự đồng ý hiện nay là bất hợp pháp ở Vương quốc Anh – chúng được phát hiện như thế nào?

Ứng dụng tin tức hiển thị quảng cáo AI về Alex Jones máu me giả

Nhiều câu chuyện do các trang này đăng tải dường như nhằm thu hút sự chú ý của những người ủng hộ Farage, nhưng không phải tất cả đều tích cực về ông.

Trong một số, ông bị mô tả sai về việc nhận nuôi chó, quyên góp tài sản cá nhân cho các mục đích tốt, hoặc chào đón em bé mới.

Nhưng một số khác lại cho thấy ông bị bắt giữ, kèm theo hình ảnh do AI tạo ra của ông trong còng.

Nhiều bài đăng dường như nhằm thu hút sự chú ý của những người ủng hộ Reform – mặc dù không phải tất cả các câu chuyện giả đều tích cực.

Các trang này cũng có các chính trị gia khác như Sir Keir Starmer, bị giả mạo nói rằng ông đã bị ốm trên sân khấu, kiện về “gian lận bầu cử” và bị loại khỏi chức thủ tướng.

Không phải lúc nào cũng là chính trị gia – một loạt người nổi tiếng cũng xuất hiện trong một số tình huống giả mạo tương tự.

Innes cho biết các trang như vậy “được thúc đẩy bởi lợi nhuận”, và sẽ “làm bất cứ điều gì mà họ nghĩ có thể thu hút lượt xem nếu điều đó giúp họ kiếm tiền”.

Một số bài đăng này nhận được nhiều lượt thích, bình luận và chia sẻ, trong khi những bài khác gần như không có ai tương tác mặc dù số người theo dõi cao.

Innes nói rằng chúng ta không thể chắc chắn tất cả hàng nghìn người theo dõi của các trang này là thật hay không, vì chủ trang thường dùng bot để “giả mạo thuật toán” và đưa nội dung vào dòng tin của người dùng.

Phần bình luận cho thấy không phải ai xem nội dung này đều tin.

Nhiều người bày tỏ nghi ngờ hoặc khó chịu về các câu chuyện giả – nhưng cũng có người bị lừa.

Khi BBC liên hệ với Meta về các ví dụ đã tìm thấy, công ty đã xóa một số trang khỏi Facebook.

Meta cho biết họ có chính sách chống lại việc sử dụng các tài khoản hoặc trang “không xác thực” trên nền tảng của mình.

Deepfake có thể ảnh hưởng như thế nào đến cuộc bầu cử Wales?

Các cuộc bầu cử phân quyền sẽ diễn ra ở Wales và Scotland vào ngày 7 tháng 5, cùng ngày với các cuộc bầu cử địa phương ở một số phần của Anh.

Trước đó đã có cảnh báo về cuộc bầu cử “deepfake” ở Vương quốc Anh – và ý kiến trái chiều về việc liệu điều này đã từng xảy ra hay chưa.

Viện Alan Turing, trung tâm quốc gia về khoa học dữ liệu và AI, đã phát hiện “không có bằng chứng” cho thấy các deepfake hoặc thông tin sai lệch do AI tạo ra có ảnh hưởng đáng kể đến kết quả cuộc tổng tuyển cử năm 2024.

Nhưng gần hai năm sau, “rào cản gia nhập” để tạo ra loại nội dung này đã giảm xuống, Innes nói.

“Trước đây, việc thao tác hình ảnh [hoặc] video như thế này đòi hỏi khá nhiều sức mạnh tính toán và kiến thức kỹ thuật, còn bây giờ thì không cần nữa.”

Điều này, ông nói, có thể tạo ra một “hiệu ứng lan tỏa” khiến các video bắt đầu ảnh hưởng đến chính trị phân quyền.

Rủi ro đủ cao để Ủy ban Bầu cử can thiệp.

Cơ quan độc lập này, giám sát và điều chỉnh các cuộc bầu cử ở Vương quốc Anh, đang hợp tác với Bộ Nội vụ về phần mềm để nhận diện, theo dõi và báo cáo deepfake.

Giám đốc điều hành của ủy ban, Vijay Rangarajan, cho biết phần mềm này sẽ “giúp người dân nhận diện thông tin sai lệch trong chiến dịch tranh cử và giảm hoạt động gây ảnh hưởng tiêu cực đến niềm tin của cử tri về quá trình tranh cử”.

Sau thông báo này, BBC đã phát hiện một số video giả do AI tạo ra về các chính trị gia Wales, được tạo trong những tuần gần đây.

Trong số đó có một video giả về Thủ tướng Keir Starmer và Nữ Bộ trưởng Wales Eluned Morgan hôn nhau, và một video khác về lãnh đạo Plaid Cymru Rhun ap Iorwerth hét lên “Tôi yêu Reform”.

Chủ sở hữu của trang Facebook đứng sau hai video này nói rằng đó là “châm biếm rõ ràng”.

Họ nói rằng họ tin tưởng khán giả của mình sẽ dùng “lý lẽ thông thường” nhưng đã chỉ rõ trong chú thích rằng các video là giả.

Một ví dụ khác, được chia sẻ bởi một trang chống Reform, cho thấy Nigel Farage đứng trước lá cờ Wales.

Trong video, ông hét: “Nước Anh vĩ đại; tôi không thấy lý do để có bốn đội thể thao khác nhau và bốn quốc hội khác nhau.”

Không có ghi nhận nào cho thấy Farage từng nói những lời này, và video có vẻ bị biến dạng theo cách phù hợp với AI tạo ra.

Trang đứng sau video này đã được liên hệ để bình luận.

Các ví dụ này, theo Innes, gần hơn với “shallowfakes” hơn là “deepfakes” – nghĩa là chúng ít chân thực hơn và được tạo ra bằng phần mềm ít tinh vi hơn.

Nhưng việc nhận diện các giả mạo ngày càng trở nên “ngày càng khó khăn”, ông nói, với nhóm của ông đôi khi phải dành cả ngày để “nghiên cứu kỹ” các ví dụ tinh vi hơn.

Ông cho biết các kế hoạch của Ủy ban Bầu cử để chống lại deepfake “có thể giúp chúng ta hiểu rõ hơn sau sự kiện” nhưng sẽ không ngăn chặn hoặc ngăn cản deepfake ảnh hưởng đến cuộc bầu cử.

Các câu chuyện giả mạo đề cập đến việc Sir Keir Starmer ngã quỵ trên sân khấu hoặc bị loại khỏi chức thủ tướng đã được các trang này chia sẻ

Davies-Jones, đại diện cho Pontypridd, Rhondda Cynon Taf, cho biết bà đã bị tấn công bằng các deepfake “kinh khủng”, trong đó có một số cho thấy bà trong các tư thế “thô tục” trong đồ lót.

Bà nói rằng việc lên tiếng về deepfake tình dục không có sự đồng ý có thể là “xấu hổ” và dẫn đến “tăng cường mục tiêu tấn công” – và sự tồn tại của chúng “không tốt cho bất kỳ nền dân chủ lành mạnh nào”.

Llŷr Powell, ứng cử viên của Reform UK trong cuộc bầu cử bổ sung tại Caerphilly, cho biết nhóm của ông đã phát hiện các video do AI tạo ra về ông và đồng nghiệp, trong đó có những lời nói sai lệch về chính sách của ông.

Powell nói ông “ủng hộ tự do ngôn luận” và tự do biểu đạt nhưng có vấn đề khi AI được sử dụng khiến “một số người tin rằng đó là sự thật chứ không phải là parody”.

Ông nói thêm: “Chúng tôi không muốn hy sinh các tự do mà chúng tôi có ở đất nước này, nhưng cùng lúc đó công chúng có quyền biết thông tin họ đang được cung cấp và công cụ này đang bị lạm dụng như bất cứ thứ gì khác.”

Janet Finch-Saunders, nghị sĩ đảng Bảo thủ tại Aberconwy, phía bắc Wales, nói bà “cảm thấy buồn nôn” khi thấy một bức ảnh của mình bị chỉnh sửa “theo cách rất kinh tởm” để tạo ra deepfake khiêu dâm.

Bà nói rằng các giả mạo này có thể “rất gây hiểu lầm” cho những người “ít am hiểu công nghệ” và “đây là điều khá đáng lo vì hiện nay khả năng này đã cao hơn nhiều”.

“Khi bạn tham gia chính trị… hoặc bất cứ công việc nào, bạn không nên bị tấn công cá nhân. Và chắc chắn không nên AI được sử dụng để hạ thấp bạn.”

Nữ bá tước Carmen Smith, một thành viên của Plaid Cymru, nói: "Deepfakes thực sự là mối đe dọa đối với nền dân chủ, nhưng chúng cũng là mối đe dọa đối với nhiều người, dù đó là chị gái, bạn bè hay đồng nghiệp của bạn.

“Chúng ta phải cập nhật các phát triển mới của AI… đó là điều chúng ta cần phải giải quyết và ưu tiên ngay bây giờ.”

Rachel Millward, phó lãnh đạo Đảng Xanh Anh và Wales, cho biết bà đã từng là nạn nhân của một deepfake mang tính miệt thị giới tính và kêu gọi chính phủ Vương quốc Anh điều chỉnh ngành công nghiệp AI để ngăn chặn nội dung như vậy “phá hoại tính hợp pháp của các cuộc bầu cử tương lai”.

Phát ngôn viên của Đảng Dân chủ Tự do Wales nói rằng deepfake là “mối đe dọa đến an toàn của các chính trị gia trên toàn bộ phổ chính trị” và kêu gọi hành động liên quốc gia.

Bộ Khoa học, Đổi mới và Công nghệ của chính phủ Anh cho biết “tiềm năng của deepfake gieo rắc chia rẽ, lan truyền thông tin sai lệch và ảnh hưởng đến dư luận” đã được “nhận thức rõ”.

Nó nói rằng các nền tảng mạng xã hội phải “chủ động đối phó với nội dung gian lận bất hợp pháp” theo Luật An toàn Trực tuyến, hoặc “đối mặt với các biện pháp thực thi”.