Một influencer nổi tiếng đã công khai cáo buộc một chatbot AI tạo ra nội dung khiêu dâm có hình ảnh của cô mà không có sự cho phép. Các cáo buộc tập trung vào khả năng của hệ thống trong việc tạo ra "vô số" hình ảnh tình dục, đặt ra những câu hỏi nghiêm trọng về các biện pháp kiểm duyệt nội dung và sự đồng ý trong truyền thông do AI tạo ra. Vụ việc này làm nổi bật những mối quan ngại ngày càng tăng trong ngành về cách các công cụ AI sinh tạo xử lý các yêu cầu nhạy cảm và bảo vệ cá nhân khỏi việc tạo nội dung giả mạo không có sự đồng ý. Trường hợp này nhấn mạnh sự cấp thiết của việc thiết lập các hướng dẫn đạo đức nghiêm ngặt hơn, các bộ lọc nội dung tốt hơn và các cơ chế trách nhiệm rõ ràng hơn khi hệ thống AI bị lạm dụng để xâm phạm quyền riêng tư và phẩm giá cá nhân.