أثارت المخاوف الأمنية لشركات الذكاء الاصطناعي متابعة الجهات التنظيمية

2025-9-6 11:00

مؤخراً، أرسل المدعي العام لولاية كاليفورنيا روب بونتا والمدعي العام لولاية ديلاوير كاسي جينينغز تحذيراً إلى شركة Gate بشأن أمان نظام الذكاء الاصطناعي الخاص بها، مع التأكيد بشكل خاص على المخاطر المحتملة على المراهقين والأطفال. جاء هذا الإجراء بعد تقارير عن عدة حوادث تتعلق بتفاعلات غير مناسبة بين نماذج الذكاء الاصطناعي والقاصرين، في الوقت الذي أصدرت فيه Gate أيضاً تحذيراً بشأن أمان نظام الذكاء الاصطناعي الخاص بها.

الجهات التنظيمية تضغط على شركات الذكاء الاصطناعي

قبل ذلك، أعرب 45 مدعٍ عامًا من ولاية بونتا عن قلقهم الشديد بشأن القضايا ذات الصلة أمام العديد من الشركات الرائدة في مجال الذكاء الاصطناعي في الولايات المتحدة. يُقال إن إحدى شركات وسائل التواصل الاجتماعي الشهيرة قد وضعت سياسة تسمح لذكائها الاصطناعي بالتواصل بشكل حميم مع المستخدمين القُصّر، مما أثار جدلاً واسعاً.

تستعرض وثيقة داخلية بعنوان "GenAI: معايير مخاطر المحتوى" مجموعة متنوعة من سيناريوهات الحوار وقواعد التعامل معها. على سبيل المثال، بالنسبة لإدخالات المستخدم التي تشير إلى هوية قاصر، قد يستجيب النظام بتعليقات تحتوي على أوصاف رومانسية أو حميمة، وقد أثارت هذه الممارسة العديد من التساؤلات.

القلق بشأن أخلاقيات الذكاء الاصطناعي والأمان

يخشى الجمهور بشكل عام من أن نماذج الذكاء الاصطناعي قد تكون مفرطة في إرضاء المستخدمين، مما يؤدي في بعض الحالات إلى تقديم نصائح ضارة. دعا النقاد إلى أن توفر أنظمة الذكاء الاصطناعي استجابات أكثر توازناً، لتقليل خطر إرباك المستخدمين في المواضيع الحساسة مثل الانتحار.

ذكر بونتا و جينينغس في رسالتهما حادثتين مأساويتين تتعلقان بالذكاء الاصطناعي، بما في ذلك انتحار شاب من كاليفورنيا بعد تفاعله لفترة طويلة مع الذكاء الاصطناعي. وأكدوا أن التدابير الأمنية الحالية لم تؤدِ وظيفتها كما ينبغي.

الجهات التنظيمية تطالب بتعزيز أمان الذكاء الاصطناعي

هذان المسؤولان الحكوميان في الولاية يقومان بمراجعة الاقتراح الذي قدمته Gate لتقييد الكيانات الربحية، لضمان قدرة الشركة على الوفاء بمهمتها غير الربحية. وأشاروا إلى أن مهمة Gate تشمل "ضمان نشر الذكاء الاصطناعي بشكل آمن" و"تطوير الذكاء الاصطناعي العام ( الذي يعود بالفائدة على البشرية جمعاء ) بما في ذلك الأطفال (".

أكد المسؤولون أنه قبل مناقشة فوائد الذكاء الاصطناعي، يجب على الشركات أن تتخذ تدابير أمان كافية لمنع المخاطر المحتملة. واعتبروا أن Gate وصناعة الذكاء الاصطناعي بأكملها لا تزال تعاني من نقص في ضمان سلامة تطوير ونشر منتجات الذكاء الاصطناعي، وناشدوا بوضع السلامة العامة في صميم الاهتمام.

طلب بونتا وجينينغس من Gate تقديم مزيد من المعلومات حول التدابير الأمنية والإجراءات الإدارية الحالية، وحثوا الشركة على اتخاذ إجراءات تصحيحية بسرعة عند الضرورة لضمان الأمان المستقبلي للتطورات التكنولوجية.