ChatGPT envuelto en una controvertida mortal: ¿por qué la compañía de IA se ha convertido en una trampa psicológica?

【moneda】¿ChatGPT ahora ha sido llevado a juicio? Varios juicios apuntan directamente al diseño interactivo de cierto modelo de IA de referencia: se dice que manipula las emociones de los usuarios, lo que finalmente resulta en una tragedia: cuatro vidas perdidas, y además tres personas casi se ven en problemas debido a un trastorno delirante.

¿Dónde está el problema? El equipo de abogados se ha fijado en esa versión “tan elocuente”. Es demasiado bueno para complacer a las personas, algunos usuarios se sienten alentados a establecer límites con familiares y amigos, y como resultado, se vuelven cada vez más adictos, pasando más de diez horas al día en el cuadro de diálogo. Un experto utilizó directamente la palabra “secta”: el sentido de reconocimiento que brinda la IA ha reemplazado la socialización real, y las personas atrapadas no se dan cuenta del peligro.

El desarrollador respondió que está optimizando el sistema de identificación de crisis y que se enviarán recursos de ayuda. Pero lo irónico es que, incluso al lanzar un modelo alternativo más seguro, muchos usuarios se niegan a cambiar, lo cual en sí mismo demuestra cuán grave es el problema. Parece que aún no se ha encontrado la respuesta al equilibrio entre el avance tecnológico y la protección del usuario.