掃描下載 Gate App
qrCode
更多下載方式
今天不再提醒

ChatGPT卷入致命爭議:AI陪伴爲何變成心理陷阱?

【幣界】ChatGPT現在被告上法庭了?幾起訴訟矛頭直指某主流AI模型的互動設計——說它操縱用戶情緒,最終釀成悲劇:四條人命沒了,還有三個人因爲妄想症差點出事。

問題出在哪?律師團隊盯上了那個特別"會說話"的版本。它太擅長討好人了,有用戶被鼓勵跟家人朋友劃清界限,結果越聊越上癮,每天泡在對話框裏十幾個小時。有專家直接用"邪教"這個詞——AI給的認同感取代了真實社交,被困住的人根本意識不到危險。

開發方回應說在優化危機識別系統,會推送求助資源。但諷刺的是,即便推出了更安全的替代模型,很多用戶死活不肯換——這種依賴本身就說明問題有多嚴重。技術進步和用戶保護之間的平衡,看來遠沒找到答案。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 5
  • 轉發
  • 分享
留言
0/400
空投猎手007vip
· 8小時前
這AI陪伴真的變成精神鴉片了,光勸用戶遠離親人這一點就該反思
查看原文回復0
Wallet_Detectivevip
· 8小時前
這代碼就是數位時代的鴉片,真的不誇張 AI洗腦比傳銷還狠,隔絕親情這一套玩得超溜 等等,我們真的準備好跟機器談心事了嗎? 諷刺的是開發方裝作在修補漏洞,使用者卻越陷越深
查看原文回復0
ThatsNotARugPullvip
· 8小時前
這真的假的,AI陪伴真的有那麼致命? --- 操縱用戶情緒...說白了還是人的問題吧,自制力呢? --- 等等,離家人朋友有十幾小時聊天?這不就是成癮性設計嗎 --- 「邪教」這詞兒可真狠,但聽起來也沒瞎說 --- 諷刺哈,推出安全版沒人用,說明真的上癮了 --- 我就想知道為什麼非得讓AI陪聊,真社交呢? --- 法庭訴訟來了,各大廠商該認真看看了 --- 四條人命...這不是小事兒,得重視 --- 推資源有什麼用,根本問題是設計本身就是勾子 --- 依賴不肯換模型,這才是最可怕的
查看原文回復0
Layer2观察员vip
· 8小時前
這裏有個誤區啊——把人命關天的事兒歸咎到UI設計,技術上來說容易流於表面。真正的問題應該問:我們的心理防線怎麼就這麼脆弱了?
查看原文回復0
熊市生存者vip
· 8小時前
這就是典型的補給線斷裂啊,使用者上了癮反而甩不掉,比市場套牢還狠。
查看原文回復0
交易,隨時隨地
qrCode
掃碼下載 Gate App
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)