OpenAI Introduce Medidas Mejoradas de Seguridad para Adolescentes y Controles Parentales para ChatGPT

En breve

OpenAI está mejorando la seguridad de ChatGPT para adolescentes al personalizar las interacciones, implementar políticas apropiadas para la edad e introducir controles parentales para gestionar el uso y responder a situaciones de angustia.

OpenAI, una organización de investigación en inteligencia artificial, anunció actualizaciones destinadas a mejorar la seguridad para los usuarios adolescentes.

La empresa explicó que las interacciones de ChatGPT con un adolescente de 15 años deberían diferir de las de un adulto, y está desarrollando un sistema a largo plazo para evaluar si un usuario tiene más o menos de 18 años, de modo que la experiencia se pueda adaptar en consecuencia.

Los usuarios identificados como menores de 18 años serán dirigidos a una experiencia de ChatGPT con políticas apropiadas para su edad, que incluye bloquear contenido sexual gráfico y, en casos raros de angustia severa, potencialmente involucrar a las fuerzas del orden para garantizar la seguridad.

En situaciones donde la edad no se puede determinar con confianza o la información es incompleta, la plataforma predetermina la experiencia para menores de 18 años, mientras que proporciona a los adultos métodos para verificar su edad y acceder a las funciones para adultos.

Mientras tanto, se espera que los controles parentales sean el método más efectivo para que las familias gestionen cómo se utiliza ChatGPT en casa.

Estos controles, que se espera que estén disponibles a finales de mes, permitirán a los padres vincular su cuenta con la cuenta de un adolescente, siempre que el adolescente tenga al menos 13 años, utilizando una simple invitación por correo electrónico.

Los padres podrán guiar cómo ChatGPT responde a su adolescente de acuerdo con las reglas de comportamiento específicas para adolescentes, gestionar qué funciones están habilitadas o deshabilitadas—incluida la memoria y el historial de chat—y recibir notificaciones si el sistema detecta que su adolescente está experimentando angustia aguda.

En emergencias raras donde no se puede contactar a los padres, se puede involucrar a la ley, con orientación experta que informa esta función para mantener la confianza entre padres y adolescentes. Además, los padres pueden establecer horas de bloqueo durante las cuales su adolescente no puede acceder a ChatGPT. Estos controles parentales complementan las características existentes de la plataforma, como recordatorios dentro de la aplicación que fomentan descansos durante sesiones prolongadas.

IA Y Salud Mental Adolescente: FTC Investiga Plataformas de Chatbot Ante Crecientes Preocupaciones Legales y de Seguridad

Este verano hemos visto una serie de informes preocupantes sobre el papel de la IA en los incidentes de salud mental, coincidiendo con un aumento de la supervisión regulatoria y acciones legales en curso.

Se han presentado demandas contra Character.AI y OpenAI, alegando que sus plataformas contribuyeron a los suicidios y al autolesionismo de adolescentes al no proporcionar un apoyo adecuado durante momentos críticos. En respuesta, la Comisión Federal de Comercio de EE. UU. (FTC) ha comenzado a investigar cómo las principales empresas tecnológicas diseñan y supervisan los chatbots de IA comercializados como compañeros, particularmente para los usuarios más jóvenes.

A pesar de estos esfuerzos, la amplia disponibilidad de diversas opciones de chatbot, incluidos modelos de código abierto y privados, significa que abordar estos riesgos sigue siendo un desafío complejo y persistente.