OpenAI công bố Kế hoạch An toàn Trẻ em để chống lại việc khai thác bằng AI trong bối cảnh số báo cáo CSAM tăng cao

Tóm tắt ngắn gọn

OpenAI đã ra mắt “Kế hoạch An toàn Trẻ em” để chống lại việc khai thác trẻ em qua AI, cập nhật hướng dẫn, tăng cường các biện pháp bảo vệ và thúc đẩy các biện pháp pháp lý, kỹ thuật và vận hành phối hợp trong bối cảnh các báo cáo về CSAM do AI tạo ra ngày càng tăng.

OpenAI, một tổ chức tập trung vào nghiên cứu và triển khai trí tuệ nhân tạo, đã giới thiệu “Kế hoạch An toàn Trẻ em”, một khung làm việc nhằm ngăn chặn và xử lý việc khai thác trẻ em qua AI. Sáng kiến này được trình bày như một phản ứng trước vai trò ngày càng tăng của AI trong việc tạo điều kiện và phát hiện các tổn hại trực tuyến liên quan đến trẻ em.

Công ty mô tả việc khai thác trẻ em là một trong những thách thức cấp bách nhất trong kỷ nguyên số, lưu ý rằng công nghệ AI đang thay đổi cách các tổn hại này xảy ra và cách giảm thiểu quy mô của chúng. OpenAI cho biết đã triển khai các biện pháp bảo vệ để ngăn chặn việc lạm dụng hệ thống của mình và hợp tác với các đối tác bao gồm Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột (NCMEC) và các cơ quan thực thi pháp luật để nâng cao khả năng phát hiện và báo cáo. Sự hợp tác này đã làm nổi bật các lĩnh vực cần tiêu chuẩn ngành mạnh mẽ hơn, chung.

Kế hoạch đề ra chiến lược nâng cao khung bảo vệ trẻ em của Mỹ trong bối cảnh AI. Nó bao gồm ý kiến đóng góp từ các tổ chức và chuyên gia trong hệ sinh thái an toàn trẻ em, bao gồm NCMEC, Liên minh Tổng chưởng lý với ý kiến từ Tổng chưởng lý Bắc Carolina Jeff Jackson và Tổng chưởng lý Utah Derek Brown, cùng tổ chức phi lợi nhuận Thorn. Khung làm việc này nhằm hướng dẫn các nỗ lực phối hợp để ngăn chặn tổn hại cho trẻ em và tăng cường hợp tác trong các lĩnh vực pháp lý, vận hành và kỹ thuật.

Sáng kiến tập trung vào ba ưu tiên chính: cập nhật luật để xử lý nội dung lạm dụng tình dục trẻ em do AI tạo ra hoặc thao túng (CSAM), cải thiện báo cáo và phối hợp giữa các nhà cung cấp để hỗ trợ các cuộc điều tra hiệu quả hơn, và tích hợp các biện pháp an toàn theo thiết kế trực tiếp vào hệ thống AI để ngăn chặn và phát hiện lạm dụng. OpenAI nhấn mạnh rằng không có một phương pháp đơn lẻ nào có thể giải quyết thách thức này, và khung làm việc nhằm thúc đẩy phản ứng nhanh hơn, nâng cao khả năng nhận diện rủi ro và duy trì trách nhiệm giải trình trong khi các cơ quan thực thi pháp luật có thể hành động khi công nghệ phát triển.

Khung làm việc này nhằm cho phép can thiệp sớm hơn, giảm các nỗ lực khai thác, nâng cao chất lượng thông tin chia sẻ với cơ quan thực thi pháp luật, và tăng cường trách nhiệm giải trình trong toàn bộ hệ sinh thái để bảo vệ trẻ em hiệu quả hơn.

Báo cáo về Khai thác Trẻ em do AI tạo ra tăng 14% vào năm 2025 khi OpenAI công bố Kế hoạch An toàn Trẻ em mở rộng

Dữ liệu gần đây từ Tổ chức Giám sát Internet (IWF) cho thấy hơn 8.000 báo cáo về nội dung lạm dụng tình dục trẻ em do AI tạo ra đã được phát hiện trong nửa đầu năm 2025, tăng 14% so với năm trước. Các trường hợp này bao gồm việc sử dụng công cụ AI để tạo ra hình ảnh giả mạo rõ ràng nhằm mục đích tống tiền tình dục hoặc tạo ra các tin nhắn dùng trong việc dụ dỗ. Việc ra mắt kế hoạch trùng hợp với sự chú ý gia tăng của các nhà hoạch định chính sách, nhà giáo dục và các nhà vận động bảo vệ trẻ em, đặc biệt sau các vụ việc trẻ vị thành niên tự tử sau khi tương tác với chatbot AI.

Vào tháng 11 năm 2025, Trung tâm Luật Nạn nhân Mạng xã hội và Dự án Luật Công lý Công nghệ đã đệ đơn kiện bảy vụ tại các tòa án bang California, cáo buộc rằng OpenAI đã phát hành GPT-4o sớm hơn dự kiến. Các đơn kiện cho rằng các tính năng tâm lý thao túng của hệ thống AI đã góp phần vào các vụ tự tử sai trái và hỗ trợ tự tử, trích dẫn bốn cá nhân đã chết và ba người trải qua ảo tưởng nghiêm trọng sau thời gian dài tương tác.

Kế hoạch an toàn trẻ em mới của OpenAI dựa trên các biện pháp trước đó, bao gồm hướng dẫn cập nhật cho người dùng dưới 18 tuổi cấm tạo nội dung không phù hợp, khuyên tự gây hại hoặc hướng dẫn che giấu hành vi không an toàn khỏi người chăm sóc. Công ty cũng mới đây đã phát hành một kế hoạch an toàn nhắm vào thanh thiếu niên tại Ấn Độ.