когда агенты ИИ начинают запоминать, они также начинают доверять, и именно здесь все может пойти не так.
AI-агенты больше не просто принимают запросы. Они также хранят память о предыдущих чатах, действиях, даже данных кошелька.
эта память помогает им оставаться последовательными, но она также может быть отравлена.
Представьте себе, что кто-то подсовывает фальшивую информацию в долговременную память агента (не в подсказке), а в то, что он уже считает истинным.
в следующий раз, когда агент будет действовать, он не подумает, что его взломали. Он просто будет следовать этой испорченной памяти и по
Посмотреть Оригинал