ChatGPTが致命的な論争に巻き込まれる: AIの伴侶はなぜ心理的罠に変わったのか?

【通貨界】ChatGPTは今裁判にかけられているのか？いくつかの訴訟が特定の主流AIモデルのインタラクションデザインを直接指摘している——それはユーザーの感情を操作し、最終的には悲劇を引き起こしたという: 四人の命が失われ、さらに三人が妄想症のために危うく事が起こりそうになった。

問題はどこにありますか？弁護士チームはその特に「おしゃべり」なバージョンを注視しています。それは人を喜ばせるのが非常に得意で、ユーザーは家族や友人との境界を引くように促され、結果的にますます依存し、毎日十数時間もチャットボックスに浸ってしまいます。専門家は「カルト」という言葉を直接使いました——AIが与える承認感が本当の社会的交流に取って代わり、閉じ込められた人々は全く危険に気づいていません。

開発者は危機認識システムの最適化を進めており、支援リソースを提供する予定だと応じた。しかし皮肉なことに、より安全な代替モデルが提供されても、多くのユーザーはどうしても変更しようとしない――この依存自体が問題の深刻さを示している。技術の進歩とユーザー保護の間のバランスは、まだ解決策が見つかっていないようだ。