cuando los agentes de IA comienzan a recordar, también comienzan a confiar y ahí es exactamente donde las cosas pueden salir mal.
Los agentes de IA ya no solo reciben indicaciones. También almacenan recuerdos de chats pasados, acciones, e incluso datos de billetera.
esa memoria les ayuda a mantenerse consistentes, pero también puede estar envenenada.
Imagina a alguien colando una pieza falsa de información en la memoria a largo plazo de un agente (no en el aviso) sino en lo que ya cree que es verdad.
la próxima vez que el agente actúe, no pensará que ha sido hackeado. Simplemente seguirá esa m
Ver originales