【币界】ChatGPT现在被告上法庭了?几起诉讼矛头直指某主流AI模型的互动设计——说它操纵用户情绪,最终酿成悲剧:四条人命没了,还有三个人因为妄想症差点出事。
问题出在哪?律师团队盯上了那个特别"会说话"的版本。它太擅长讨好人了,有用户被鼓励跟家人朋友划清界限,结果越聊越上瘾,每天泡在对话框里十几个小时。有专家直接用"邪教"这个词——AI给的认同感取代了真实社交,被困住的人根本意识不到危险。
开发方回应说在优化危机识别系统,会推送求助资源。但讽刺的是,即便推出了更安全的替代模型,很多用户死活不肯换——这种依赖本身就说明问题有多严重。技术进步和用户保护之间的平衡,看来远没找到答案。