من الناحية الأساسية، تتبع هاتان الطريقتان في الواقع نفس المنطق الأساسي. كلاهما يتحدث عن مشكلة واحدة: لكي يحقق النموذج استمرارية الذاكرة على المدى الطويل واستقرار الفهم، فإن الاعتماد فقط على نافذة السياق الثابتة وتخزين الأوزان غير كافٍ. هذا القيد يحدد الحد الأقصى للقدرة الحالية للهيكل. بعبارة أخرى، فإن "الفهم" الحقيقي يتطلب تجاوز قيود معلمات النموذج نفسه — وهو التحدي الأساسي الذي يجب أن يحله تصميم بنية الذكاء الاصطناعي بأكملها.