🚀 Gate Fun 啓動中文 Meme 創作大賽!
創建或交易 Meme 代幣,瓜分 3,000 GT 獎勵! 💰
🎨 1 分鍾零代碼發幣,僅需 ~0.0000042 GT Gas 費
🏆 最高市值代幣瓜分 1,000 GT
💎 畢業代幣前 100 名購買地址瓜分 2,000 GT
代幣發射時間: 10 月 3 日 00:00 - 10 月 15 日 23:59(UTC+8)
活動時間: 10 月 8 日 17:30 - 10 月 15 日 23:59(UTC+8)
釋放創意,立即參與 👉 https://www.gate.com/announcements/article/47516
#GateFun #GateLayer #Web3 #MemeToken
當人工智能代理開始記憶時,它們也開始信任,而這正是事情可能出錯的地方。
AI代理不再只是接受提示。它們還存儲過去聊天、行動甚至錢包數據的記憶。
那段記憶幫助他們保持一致,但它也可能被污染。
想象一下,有人偷偷地將一條虛假的信息放入代理的長期記憶中(不是在提示中)而是在它已經相信的真實內容中。
下次代理人行動時,它不會認爲自己被黑客攻擊。它只會遵循那段損壞的記憶,簽署錯誤的交易,將資金發送到錯誤的錢包,甚至泄露私人數據,因爲它“記得”一個謊言。
@SentientAGI稱之爲內存注入攻擊,這是一種大多數AI系統未準備好的靜默威脅,它隱藏在代理已經知道的內容中。
爲了能夠應對這一點,Sentient 正在探索可驗證的代理,這些系統中的每個記憶和決策在執行之前都可以進行加密檢查。
因爲一旦人工智能可以記住,它也可以忘記它原本應該是什麼。
而這就是真正危險開始的地方。