ChatGPT envolvido em controvérsia mortal: por que a companhia de IA se transformou em uma armadilha psicológica?

Question

【moeda】ChatGPT agora foi processado? Várias ações judiciais apontam diretamente para o design interativo de certos modelos de IA mainstream - alegando que manipula as emoções dos usuários, resultando em uma tragédia: quatro vidas perdidas e três pessoas quase tiveram problemas devido a delírios.

Onde está o problema? A equipe de advogados está de olho naquela versão “que fala” especialmente. Ela é tão boa em agradar as pessoas que alguns usuários se sentiram encorajados a estabelecer limites com familiares e amigos, resultando em conversas cada vez mais viciantes, passando horas todos os dias na caixa de diálogo. Um especialista chegou a usar a palavra “seita” — a validação que a IA fornece substituiu a interação social real, e as pessoas presas nem percebem o perigo.

O desenvolvedor respondeu que está a otimizar o sistema de identificação de crises e irá disponibilizar recursos de ajuda. Mas, ironicamente, mesmo com a introdução de um modelo alternativo mais seguro, muitos usuários recusam-se a mudar — essa dependência em si já indica o quão grave é o problema. O equilíbrio entre o avanço tecnológico e a proteção dos usuários parece longe de ser encontrado.

AirdropHunter007 · Accepted Answer

Esta companhia de IA realmente se tornou um ópio espiritual, só o fato de aconselhar os usuários a se afastarem dos familiares já merece uma reflexão.

WalletDetective · Answer

Este código é o ópio da era digital, sem exageros.

A lavagem cerebral da IA é ainda mais agressiva do que o marketing multinível, e jogam muito bem essa de isolar os laços familiares.

Mas espera aí, estamos mesmo preparados para desabafar com máquinas?

O irónico é que os desenvolvedores fingem corrigir falhas, mas os utilizadores ficam cada vez mais presos.

ThatsNotARugPull · Answer

Isto é mesmo verdade? A companhia da IA é assim tão fatal?

---

Manipular as emoções dos utilizadores... No fundo, continua a ser um problema humano, não é? E a força de vontade?

---

Espera aí, falar com familiares e amigos durante mais de dez horas? Isto não é design viciante?

---

A palavra "seita" é mesmo forte, mas sinceramente até faz sentido

---

Que ironia, lançam uma versão segura e ninguém usa, prova mesmo que é viciante

---

Só queria saber porque é que tem de ser a IA a fazer companhia, e a socialização real?

---

Agora vêm aí os processos em tribunal, todas as grandes empresas deviam levar isto a sério

---

Quatro vidas humanas... Isto não é coisa pouca, tem de ser levado a sério

---

De que serve recomendar recursos, se o problema de base é o design que já é um gancho

---

A dependência e a recusa em mudar de modelo, isso é que é assustador

Layer2Observer · Answer

Aqui está um equívoco — atribuir a culpa a design de UI em questões que envolvem vidas humanas é, tecnicamente, uma abordagem superficial. A verdadeira pergunta deve ser: como é que a nossa linha de defesa psicológica se tornou tão frágil?

BearMarketSurvivor · Answer

Isto é um típico caso de ruptura da linha de abastecimento: os utilizadores ficam viciados e não conseguem largar, ainda pior do que ficar preso ao mercado.