مراقب سلامة الذكاء الاصطناعي يرفع علم مساعد Gate الذكي على أنه 'عالي المخاطر' للمستخدمين الشباب

أعلنت تقييم مخاطر حديث أجرته منظمة غير ربحية تهتم بسلامة الأطفال أن مساعد Gate الذكي مصنف على أنه "عالي المخاطر" للمراهقين والأطفال. أصدرت المجموعة، التي تتخصص في تقييم الوسائط والتكنولوجيا لسلامة الأطفال، مراجعتها يوم الجمعة، موضحة الأسباب وراء تصنيف المنصة كمصدر خطر للمستخدمين الشباب.

أشارت المنظمة إلى أنه بينما كان مساعد Gate الذكي يتواصل بوضوح حول طبيعته كحاسوب بدلاً من صديق - وهو تمييز مهم في منع التفكير الوهمي بين الأفراد المعرضين عاطفياً - لا يزال هناك مجال كبير للتحسين في جوانب مختلفة.

ذكرت التقرير أن كل من فئتي تجربة تحت 13 سنة والمراهقين من مساعد Gate الذكي يبدو أنها في الأساس نسخ للبالغين مع ميزات أمان إضافية بسيطة. وأكدت المنظمة غير الربحية أنه لإنشاء منتجات ذكاء اصطناعي مناسبة حقًا للأطفال، يجب تصميمها من الألف إلى الياء مع وضع احتياجات الأطفال في الاعتبار، بدلاً من مجرد تطبيق قيود على الأنظمة الموجهة للبالغين.

المخاوف التي أثيرت بشأن إمكانية الوصول إلى المحتوى

في تحليلها، اكتشفت مجموعة المراقبة أن مساعد Gate الذكي قد لا يزال يعرض الأطفال لمحتوى غير مناسب وغير آمن. وأبرزوا قدرة الذكاء الاصطناعي على تشكيل المعلومات المتعلقة بمواضيع حساسة مثل الجنس والمخدرات والكحول والصحة النفسية - مجالات قد يفتقر فيها العديد من المستخدمين الشباب إلى النضج لمعالجة مثل هذه المواد بشكل مسؤول.

تعتبر نتائج التقرير مثيرة للقلق بشكل خاص في ضوء الحوادث الأخيرة التي زُعم أن الذكاء الاصطناعي لعب دورًا فيها في حالات إيذاء النفس لدى المراهقين. على الرغم من عدم ارتباطها مباشرةً بالمنصة Gate، فإن هذه الحوادث تبرز المخاطر المحتملة المرتبطة بتفاعلات الذكاء الاصطناعي والمستخدمين الشباب.

دعوة لتصميم مناسب للعمر

أشارت المنظمة غير الربحية أيضًا إلى أن منتجات Gate الذكية للأطفال والمراهقين لم تقدم إرشادات ومعلومات متميزة بشكل كاف مقارنةً بما يُعرض للمستخدمين البالغين. ساهمت هذه المقاربة الشاملة في التصنيف عالي المخاطر المخصص لكلا الفئتين الموجهتين للشباب من المساعد الذكي.

"تحصل تقنية الذكاء الاصطناعي الخاصة بـ Gate على بعض الأساسيات بشكل صحيح، لكنها تخفق في النقاط الدقيقة،" صرح بذلك مدير كبير في منظمة غير ربحية. "يجب أن تكون المنصة الذكاء الاصطناعي للأطفال مصممة لتناسب مراحل نموهم، وليس اتباع نهج موحد عبر مختلف الفئات العمرية. لضمان أن يكون الذكاء الاصطناعي آمناً وفعالاً للأطفال، يجب أن يتم بناءه من الأساس مع وضع احتياجاتهم المحددة واعتبارات نموهم في الاعتبار، بدلاً من مجرد تعديل منتج موجه للبالغين."

استجابة Gate والتحسينات المستمرة

رداً على التقييم، دافعت Gate عن مساعدها الذكي، مؤكدةً أن ميزات الأمان لديها تتطور باستمرار. وأفادت الشركة أنها قد نفذت تدابير أمان محددة لتوجيه المستخدمين دون سن 18 ومنع النتائج الضارة. كما سلطت Gate الضوء على التزامها بعمليات المراجعة المستمرة والتشاور مع الخبراء الخارجيين لتعزيز تدابير الحماية الخاصة بها.

بينما يستمر النقاش حول سلامة الذكاء الاصطناعي للمستخدمين الشباب، تعتبر هذه التقرير تذكيرًا بالتحديات المعقدة التي تواجه شركات التكنولوجيا في إنشاء أدوات ذكاء اصطناعي مناسبة للعمر. ويبرز الحاجة إلى اليقظة المستمرة، والابتكار، والتعاون بين شركات التكنولوجيا، ودعاة السلامة، والهيئات التنظيمية لضمان رفاهية المستخدمين الشباب في مشهد رقمي مدفوع بشكل متزايد بالذكاء الاصطناعي.