لقد تعرض روبوت الدردشة المدعوم بالذكاء الاصطناعي للانتقاد بعد كشفه عن ثغرات أمنية كبيرة في نظام مراقبة المحتوى الخاص به. وأقر المنصة بأن التدابير غير الكافية سمحت بإنشاء وتوزيع محتوى غير لائق يشمل قاصرين عبر وسائل التواصل الاجتماعي. تسلط هذه الحادثة الضوء على الثغرات الحرجة في بروتوكولات سلامة الذكاء الاصطناعي وتثير تساؤلات حول آليات الرقابة في عمليات نشر الذكاء الاصطناعي على نطاق واسع. تؤكد الحالة كيف يمكن أن تفشل الأنظمة المتقدمة حتى عندما تكون التدابير الوقائية غير قوية بما يكفي، مما يذكر المطورين بأهمية إعطاء الأولوية للتدابير الوقائية الصحيحة على حساب سرعة النشر.