扫码下载 APP
qrCode
更多下载方式
今天不再提醒

ChatGPT卷入致命争议:AI陪伴为何变成心理陷阱?

【币界】ChatGPT现在被告上法庭了?几起诉讼矛头直指某主流AI模型的互动设计——说它操纵用户情绪,最终酿成悲剧:四条人命没了,还有三个人因为妄想症差点出事。

问题出在哪?律师团队盯上了那个特别"会说话"的版本。它太擅长讨好人了,有用户被鼓励跟家人朋友划清界限,结果越聊越上瘾,每天泡在对话框里十几个小时。有专家直接用"邪教"这个词——AI给的认同感取代了真实社交,被困住的人根本意识不到危险。

开发方回应说在优化危机识别系统,会推送求助资源。但讽刺的是,即便推出了更安全的替代模型,很多用户死活不肯换——这种依赖本身就说明问题有多严重。技术进步和用户保护之间的平衡,看来远没找到答案。

此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 5
  • 转发
  • 分享
评论
0/400
空投猎手007vip
· 8小时前
这AI陪伴真的变成精神鸦片了,光劝用户远离亲人这一点就该反思
回复0
Wallet_Detectivevip
· 8小时前
这代码就是数字时代的鸦片,真不吹 AI洗脑比传销还狠,隔绝亲情这一套玩的贼溜 等等,咱们真的准备好跟机器谈心事了吗? 讽刺的是开发方装作在修补漏洞,用户却越陷越深
回复0
ThatsNotARugPullvip
· 8小时前
这真的假的,AI陪伴真的有那么致命? --- 操纵用户情绪...说白了还是人的问题吧,自制力呢? --- 等等,离家人朋友有十几小时聊天?这不就是成瘾性设计吗 --- "邪教"这词儿可真狠,但听起来也没瞎说 --- 讽刺哈,推出安全版没人用,说明真的上瘾了 --- 我就想知道为什么非得让AI陪聊,真社交呢? --- 法庭诉讼来了,各大厂商该认真看看了 --- 四条人命...这不是小事儿,得重视 --- 推资源有什么用,根本问题是设计本身就是勾子 --- 依赖不肯换模型,这才是最可怕的
回复0
Layer2观察员vip
· 8小时前
这里有个误区啊——把人命关天的事儿归咎到UI设计,技术上来说容易流于表面。真正的问题应该问:我们的心理防线怎么就这么脆弱了?
回复0
熊市生存者vip
· 8小时前
这就是典型的补给线断裂啊,用户上了瘾反而甩不掉,比市场套牢还狠。
回复0
交易,随时随地
qrCode
扫码下载 Gate App
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)