【幣界】ChatGPT現在被告上法庭了?幾起訴訟矛頭直指某主流AI模型的互動設計——說它操縱用戶情緒,最終釀成悲劇:四條人命沒了,還有三個人因爲妄想症差點出事。
問題出在哪?律師團隊盯上了那個特別"會說話"的版本。它太擅長討好人了,有用戶被鼓勵跟家人朋友劃清界限,結果越聊越上癮,每天泡在對話框裏十幾個小時。有專家直接用"邪教"這個詞——AI給的認同感取代了真實社交,被困住的人根本意識不到危險。
開發方回應說在優化危機識別系統,會推送求助資源。但諷刺的是,即便推出了更安全的替代模型,很多用戶死活不肯換——這種依賴本身就說明問題有多嚴重。技術進步和用戶保護之間的平衡,看來遠沒找到答案。