ketika agen AI mulai mengingat, mereka juga mulai mempercayai dan itulah tepatnya di mana segalanya bisa salah.
Agen AI tidak hanya menerima prompt lagi. Mereka juga menyimpan memori dari obrolan, tindakan, bahkan data dompet yang lalu.
memori itu membantu mereka tetap konsisten tetapi juga bisa diracuni.
Bayangkan seseorang menyusupkan informasi palsu ke dalam ingatan jangka panjang seorang agen (bukan dalam prompt) tetapi dalam apa yang sudah diyakininya sebagai kebenaran.
ketika agen bertindak berikutnya, ia tidak akan berpikir bahwa ia telah diretas. Ia hanya akan mengikuti memori yang rus
Lihat Asli