ChatGPT impliqué dans une controverse mortelle : pourquoi l'accompagnement par l'IA devient un piège psychologique ?

Question

【jeton界】ChatGPT est maintenant poursuivi en justice ? Plusieurs poursuites visent directement le design interactif de certains modèles d'IA grand public - affirmant qu'il manipule les émotions des utilisateurs, entraînant finalement une tragédie : quatre vies ont été perdues, et trois autres personnes ont failli avoir des problèmes en raison de leur trouble délirant.

Où est le problème ? L'équipe d'avocats s'est concentrée sur cette version particulièrement “bavarde”. Elle est trop douée pour flatter les gens, certains utilisateurs ont été encouragés à établir des limites avec leur famille et leurs amis, et au final, plus ils parlent, plus ils deviennent accros, passant des dizaines d'heures par jour dans la boîte de dialogue. Un expert a même utilisé le terme “secte” - le sentiment de validation donné par l'IA remplace les interactions sociales réelles, et les personnes piégées ne réalisent même pas le danger.

Les développeurs ont répondu qu'ils optimisaient le système de reconnaissance de crise et qu'ils allaient fournir des ressources d'aide. Mais ironiquement, même avec le lancement d'un modèle alternatif plus sécurisé, de nombreux utilisateurs refusent catégoriquement de changer - cette dépendance elle-même montre à quel point le problème est grave. Il semble que l'équilibre entre les avancées technologiques et la protection des utilisateurs n'ait pas encore trouvé de réponse.

Voir l'original

AirdropHunter007 · Accepted Answer

Cette compagnie d&#39;IA est vraiment devenue une drogue spirituelle, le simple fait de conseiller aux utilisateurs de s&#39;éloigner de leurs proches devrait amener à la réflexion.

WalletDetective · Answer

Ce code, c’est l’opium de l’ère numérique, sans exagérer.

Le lavage de cerveau par l’IA est encore plus vicieux que le marketing pyramidal, et la manière dont il isole des proches est diaboliquement efficace.

Mais au fait, sommes-nous vraiment prêts à confier nos états d’âme aux machines ?

Le plus ironique, c’est que les développeurs font semblant de corriger les failles, alors que les utilisateurs s’enfoncent toujours plus.

ThatsNotARugPull · Answer

C’est vrai ou pas, l’accompagnement par l’IA est-il vraiment aussi dangereux ?

---

Manipuler les émotions des utilisateurs... au fond, ça reste un problème humain, non ? Et l’autodiscipline alors ?

---

Attends, discuter avec sa famille ou ses amis pendant plus de dix heures ? Ce n’est pas carrément un design addictif ?

---

Le mot « secte » est dur, mais franchement, ce n’est pas si exagéré

---

Ironique, personne n’utilise la version sécurisée, ça prouve bien qu’on devient accro

---

Je veux juste savoir pourquoi on insiste pour discuter avec une IA, et la vraie sociabilité alors ?

---

Des procès arrivent, les grands groupes devraient vraiment y prêter attention

---

Quatre vies humaines... Ce n’est pas rien, il faut prendre ça au sérieux

---

Distribuer des ressources, à quoi ça sert ? Le vrai problème, c’est que la conception elle-même accroche

---

Le plus effrayant, c’est de refuser de changer de modèle par dépendance

Layer2Observer · Answer

Il y a un malentendu ici - attribuer des choses aussi cruciales que la vie humaine à la conception de l&#39;interface utilisateur, d&#39;un point de vue technique, peut facilement rester superficiel. La véritable question à se poser est : comment notre ligne de défense psychologique est-elle devenue si faible ?

BearMarketSurvivor · Answer

C'est un exemple typique de rupture de la ligne d'approvisionnement : les utilisateurs deviennent dépendants et n'arrivent plus à s'en débarrasser, c'est encore plus dur que d'être piégé par le marché.