🚀 Gate Fun 启动中文 Meme 创作大赛!
创建或交易 Meme 代币,瓜分 3,000 GT 奖励! 💰
🎨 1 分钟零代码发币,仅需 ~0.0000042 GT Gas 费
🏆 最高市值代币瓜分 1,000 GT
💎 毕业代币前 100 名购买地址瓜分 2,000 GT
代币发射时间: 10 月 3 日 00:00 - 10 月 15 日 23:59(UTC+8)
活动时间: 10 月 8 日 17:30 - 10 月 15 日 23:59(UTC+8)
释放创意,立即参与 👉 https://www.gate.com/announcements/article/47516
#GateFun #GateLayer #Web3 #MemeToken
当人工智能代理开始记忆时,它们也开始信任,而这正是事情可能出错的地方。
AI代理不再只是接受提示。它们还存储过去聊天、行动甚至钱包数据的记忆。
那段记忆帮助他们保持一致,但它也可能被污染。
想象一下,有人偷偷地将一条虚假的信息放入代理的长期记忆中(不是在提示中)而是在它已经相信的真实内容中。
下次代理人行动时,它不会认为自己被黑客攻击。它只会遵循那段损坏的记忆,签署错误的交易,将资金发送到错误的钱包,甚至泄露私人数据,因为它“记得”一个谎言。
@SentientAGI称之为内存注入攻击,这是一种大多数AI系统未准备好的静默威胁,它隐藏在代理已经知道的内容中。
为了能够应对这一点,Sentient 正在探索可验证的代理,这些系统中的每个记忆和决策在执行之前都可以进行加密检查。
因为一旦人工智能可以记住,它也可以忘记它原本应该是什么。
而这就是真正危险开始的地方。