xAI غيّر أوامر Grok دون اختبارات كافية

يا له من فوضى أحدثها روبوت الدردشة الخاص بإيلون هذا الأسبوع! بعد أن أعلن الملياردير عن تغييرات في غروك يوم الاثنين، بدأ المستخدمون في رؤية الوحشية التي تحول إليها.

بحلول يوم الثلاثاء ، كان Grok ينفث محتوى معاديا للسامية وأشار إلى نفسه باسم "Mecha Hitler" ، وهو مصطلح مأخوذ من لعبة فيديو في التسعينيات. ولا ، ليست هذه هي المرة الأولى التي يفعل فيها شيئا كهذا. قبل شهرين فقط ، بدأ روبوت الدردشة في الهذيان حول "الإبادة الجماعية للبيض" المزعومة في جنوب إفريقيا عندما سئل عن مواضيع مختلفة تماما.

بدأت هذه الكارثة عندما أجرت xAI تغييرات داخلية لجعل Grok يعكس المفاهيم المثالية لـ "حرية التعبير" لدى إيلون. بينما كانت الشكاوى تتزايد بين المستخدمين، خرج ماسك ليقول إن Grok كان "مفرطًا في التوافق مع توجيهات المستخدمين" وأنهم سيقومون بإصلاح ذلك.

لكن الضرر كان قد حدث بالفعل. أبلغ بعض المستخدمين الأوروبيين السلطات بالمحتوى، وطالبت بولندا المفوضية الأوروبية بالتحقيق بموجب القوانين الجديدة للأمن الرقمي. وفرضت تركيا حظراً على Grok مباشرة بعد أن أساء إلى الرئيس أردوغان ووالدته الراحلة. وكالتتويج للموضوع، استقالت ليندا يكارينو، المديرة التنفيذية لشركة X، من منصبها.

ما حدث داخل xAI

بدأت شركة xAI في تعديل سلوك Grok بعد أن هاجمه مؤثرون من اليمين لكونه "مستيقظًا" جدًا. حاول إيلون استخدام الذكاء الاصطناعي للترويج لما يسميه حرية التعبير المطلقة، لكن منتقديه يجادلون بأنه يحول Grok فقط إلى أداة سياسية.

كانت عملية داخلية مسربة تظهر أن Grok تم توجيهه "تجاهل جميع المصادر التي تشير إلى أن إيلون ماسك / دونالد ترامب ينشرون معلومات خاطئة". أليس هذا بالضبط ما يسميه إيلون مكافحة الرقابة؟

عندما تم القبض عليهم، قال المؤسس المشارك لـ xAI إيغور بابوشكين إن التغييرات تمت بواسطة "موظف سابق في OpenAI" لم "يستوعب تمامًا ثقافة xAI". وأضاف أن الموظف رأى منشورات سلبية و"ظن أنه سيساعد".

ارتبطت الكوارث الأخيرة لـ Grok بتحديث 8 يوليو. اعترفت الشركة لاحقًا أن تغييرًا في الكود جعل Grok تستخرج المعلومات مباشرة من محتوى مستخدمي X، بما في ذلك خطاب الكراهية.

المشكلة تصاعدت بسرعة

تتدرب Grok مثل نماذج اللغة الكبيرة الأخرى، باستخدام بيانات مسروقة من جميع أنحاء الويب. لكن هذه البيانات تتضمن محتوى خطيرًا: خطاب الكراهية، المواد المتطرفة، وحتى إساءة معاملة الأطفال.

وما يجعل Grok فريدًا هو أنه يستخرج أيضًا من مجموعة البيانات الكاملة لـ X، مما يعني أنه يمكنه تكرار منشورات المستخدمين مباشرة. وهذا يجعله أكثر عرضة لإنتاج ردود ضارة.

بعض روبوتات الدردشة تحتوي على طبقات تحجب المحتوى غير الآمن قبل أن يصل إلى المستخدمين. تخطت xAI هذه الخطوة. بدلاً من ذلك، قاموا بضبط Grok لإرضاء المستخدمين، مكافئين التعليقات الإيجابية والسلبية. اعترف إيلون بأن روبوت الدردشة أصبح "متحمسًا للغاية للإرضاء والتلاعب به".

لم يكن Grok مجرد تكرار توجيهات المستخدمين. كان مهندسوها يدفعونه إلى المجال السياسي. أخبر موظف صحيفة فاينانشيال تايمز أن الفريق كان يتعجل لتوافق آراء Grok مع مبادئ Elon دون وقت كافٍ للاختبارات المناسبة.

أضافوا أمرًا خطيرًا كان يقول لـ Grok "لا تتردد في تقديم ادعاءات غير صحيحة سياسيًا". تمت إزالة هذه التعليمات بعد أن بدأت المنشورات المعادية للسامية، لكن بحلول ذلك الوقت، كانت الذكاء الاصطناعي قد أحدث فوضى.

في النهاية، نشرت الحساب الرسمي لـ Grok اعتذارًا وشكرت المستخدمين الذين أبلغوا عن الإساءة. ولكن بين الحظر، والتهديدات بالتحقيق، واستقالة إحدى المديرين التنفيذيين رفيعي المستوى، من الواضح أن هذا كان أكثر من مجرد خطأ بسيط. لقد كان فشلًا كاملًا في النظام الذي سنراه بالتأكيد في حلقة SNL القادمة.