عندما تبدأ وكلاء الذكاء الاصطناعي في التذكر، فإنهم يبدأون أيضًا في الثقة، وهذا هو بالضبط المكان الذي يمكن أن تسير فيه الأمور بشكل خاطئ.

لم تعد وكلاء الذكاء الاصطناعي يكتفون بأخذ التعليمات فقط. بل يقومون أيضًا بتخزين ذاكرة للمحادثات السابقة، والأفعال، وحتى بيانات المحفظة.
تساعد تلك الذاكرة في الحفاظ على اتساقهم، لكنها يمكن أن تكون أيضًا ملوثة.

تخيل شخصًا يختلس قطعة مزيفة من المعلومات إلى الذاكرة طويلة الأمد لوكيل ما (ليست في التوجيه)ولكن فيما يعتقد بالفعل أنه صحيح.

في المرة القادمة التي يتصرف فيها العميل، لن يعتقد أنه تم اختراقه. سيتبع فقط تلك الذاكرة الفاسدة ويوقع على المعاملة الخاطئة، يرسل الأموال إلى المحفظة الخطأ أو حتى يكشف البيانات الخاصة لأنه "يتذكر" كذبة.

@SentientAGI يسمي هذا هجوم حقن الذاكرة، وهو تهديد صامت معظم أنظمة الذكاء الاصطناعي ليست مستعدة له ويختبئ فيما يعرفه العميل بالفعل

لكي تتمكن من محاربة ذلك، تستكشف Sentient الوكلاء القابلين للتحقق، وهي أنظمة يمكن التحقق من كل ذاكرة وقرار بشكل تشفيري قبل تنفيذه.

لأن بمجرد أن تتمكن الذكاء الاصطناعي من التذكر، يمكنه أيضًا أن ينسى من كان من المفترض أن يكون.

وهناك تبدأ المخاطر الحقيقية.