أوبن أيه آي تقدم تدابير محسّنة لسلامة المراهقين وأدوات تحكم أبوية لـ ChatGPT

باختصار

تعمل OpenAI على تعزيز أمان ChatGPT للمراهقين من خلال تخصيص التفاعلات، وتنفيذ سياسات مناسبة للعمر، وتقديم أدوات تحكم أبوية لإدارة الاستخدام والاستجابة للضغوط.

أعلنت OpenAI، وهي منظمة بحثية في مجال الذكاء الاصطناعي، عن تحديثات تهدف إلى تعزيز السلامة لمستخدمي المراهقين

شرحت الشركة أن تفاعلات ChatGPT مع شخص يبلغ من العمر 15 عامًا يجب أن تختلف عن تلك مع البالغين، وأنها تعمل على تطوير نظام طويل الأمد لتقييم ما إذا كان المستخدم فوق 18 عامًا أو تحتها بحيث يمكن تخصيص التجربة وفقًا لذلك.

سيتم توجيه المستخدمين الذين يُعرف أنهم دون سن 18 عامًا إلى تجربة ChatGPT مع سياسات مناسبة للعمر، والتي تشمل حظر المحتوى الجنسي الرسومي، وفي حالات نادرة من الضيق الشديد، قد تتضمن اتخاذ إجراءات قانونية لضمان السلامة.

في الحالات التي لا يمكن فيها تحديد العمر بثقة أو تكون المعلومات ناقصة، يت default النظام إلى تجربة تحت سن 18، مع توفير طرق للبالغين للتحقق من أعمارهم للوصول إلى الميزات الخاصة بالبالغين.

في هذه الأثناء، من المتوقع أن تكون أدوات التحكم الأبوية هي الطريقة الأكثر فعالية للعائلات لإدارة كيفية استخدام ChatGPT في المنزل.

ستكون هذه الضوابط متاحة بحلول نهاية الشهر، وستسمح للآباء بربط حسابهم بحساب المراهق، بشرط أن يكون عمر المراهق 13 عامًا على الأقل، باستخدام دعوة بريد إلكتروني بسيطة.

سيكون بإمكان الآباء توجيه كيفية استجابة ChatGPT للمراهقين وفقًا لقواعد سلوك محددة للمراهقين، وإدارة الميزات المفعلة أو المعطلة—بما في ذلك الذاكرة وسجل الدردشة—وتلقي إشعارات إذا اكتشف النظام أن مراهقهم يعاني من ضيق حاد.

في حالات الطوارئ النادرة حيث لا يمكن الوصول إلى الآباء، قد يتم استدعاء جهات إنفاذ القانون، مع إرشادات الخبراء التي تعزز هذه الميزة للحفاظ على الثقة بين الآباء والمراهقين. بالإضافة إلى ذلك، يمكن للآباء تحديد ساعات انقطاع لا يستطيع خلالها المراهق الوصول إلى ChatGPT. تكمل هذه الضوابط الأبوية الميزات الحالية للمنصة، مثل التذكيرات داخل التطبيق التي تشجع على فترات الراحة خلال الجلسات الطويلة.

الذكاء الاصطناعي وصحة المراهقين العقلية: لجنة التجارة الفيدرالية تحقق في منصات الدردشة وسط تزايد المخاوف القانونية والأمنية

شهد هذا الصيف سلسلة من التقارير المثيرة للقلق حول دور الذكاء الاصطناعي في حوادث الصحة النفسية، تزامناً مع زيادة التدقيق التنظيمي والإجراءات القانونية المستمرة.

تم رفع دعاوى قضائية ضد Character.AI و OpenAI، مدعية أن منصاتهما ساهمت في حالات انتحار المراهقين وإيذاء الذات من خلال عدم تقديم الدعم الكافي خلال اللحظات الحرجة. ردًا على ذلك، بدأت لجنة التجارة الفيدرالية الأمريكية (FTC) في التحقيق في كيفية تصميم الشركات التكنولوجية الكبرى والإشراف على روبوتات الدردشة الذكية التي تُسوّق كرفقاء، وخاصةً للمستخدمين الأصغر سنًا.

على الرغم من هذه الجهود، فإن التوفر الواسع للعديد من خيارات الدردشة الآلية، بما في ذلك النماذج مفتوحة المصدر والنماذج الخاصة، يعني أن معالجة هذه المخاطر لا تزال تحديًا معقدًا ودائمًا.