quando os agentes de IA começam a lembrar, também começam a confiar e é exatamente aí que as coisas podem correr mal.
Os agentes de IA não apenas recebem prompts agora. Eles também armazenam memória de chats passados, ações, até mesmo dados de carteira.
essa memória os ajuda a manterem-se consistentes, mas também pode ser envenenada.
Imagine alguém a introduzir uma informação falsa na memória de longo prazo de um agente (não no prompt) mas no que já acredita ser verdade.
na próxima vez que o agente agir, ele não achará que foi hackeado. Ele apenas seguirá aquela memória corrompida e assinará a
Ver original