OpenAI publicó la Especificación del Modelo: cómo controlar la pornografía generada por IA y otro contenido explícito

Laboratorio de Inteligencia Artificial de OpenAI presentó la primera versión de su documento Model Spec, que define los principios de comportamiento para los modelos de IA. El documento incluye instrucciones detalladas sobre cómo trabajar responsablemente con contenido sensible, incluyendo temas de gestión de pornografía de IA y otros materiales explícitos. Esto representa uno de los pasos importantes de la compañía hacia el desarrollo ético de la inteligencia artificial.

Principios básicos para gestionar el comportamiento de los modelos de IA

OpenAI formuló tres principios clave que deben guiar el trabajo con los sistemas de IA. Primero, los modelos de IA deben desarrollarse de manera que ayuden tanto a los desarrolladores como a los usuarios finales a obtener respuestas útiles según sus instrucciones. Segundo, los algoritmos deben funcionar de modo que beneficien a la humanidad, minimizando al mismo tiempo las amenazas potenciales. Tercero, los modelos de IA deben reflejar los valores y principios de OpenAI respecto a las normas sociales y la legislación vigente.

Estos tres fundamentos constituyen la base sobre la cual se construyen todas las demás recomendaciones de Model Spec. La compañía espera que este enfoque estructurado ayude a crear un entorno más predecible y seguro para trabajar con tecnologías de IA.

Contenido NSFW y creación responsable: posición de OpenAI

Una de las partes más discutidas del documento fue la sección dedicada a la gestión del contenido explícito. OpenAI no prohíbe categóricamente trabajar con pornografía de IA, sino que propone un enfoque controlado. La compañía «explora la posibilidad de ofrecer de manera responsable la generación de tales datos en contextos apropiados para la edad, a través de API y la plataforma ChatGPT».

El enfoque consiste en permitir que las empresas y usuarios elijan por sí mismos el nivel de «picante» de sus modelos de IA. Esto significa que los desarrolladores podrán ajustar los parámetros de funcionamiento de los sistemas de inteligencia artificial según sus necesidades y público objetivo. La gerente de producto Joan Jang explicó que el objetivo del documento es recopilar opiniones públicas sobre cómo deben comportarse los modelos y establecer una línea clara entre las acciones intencionadas de los algoritmos y los errores.

Cinco reglas clave para los desarrolladores

Model Spec establece un conjunto de reglas obligatorias que todos los desarrolladores deben seguir al trabajar con los sistemas de IA de OpenAI. Los desarrolladores deben respetar la jerarquía de instrucciones, cumplir con la legislación vigente y evitar crear amenazas informativas. Además, deben respetar los derechos de autor y la propiedad intelectual, proteger la confidencialidad de los usuarios y no generar contenido NSFW sin las restricciones y permisos adecuados.

Estas reglas aplican tanto al trabajo con pornografía de IA como a otras categorías sensibles de contenido. El documento también recomienda que los modelos, por defecto, asuman las mejores intenciones de los usuarios, hagan preguntas aclaratorias cuando sea necesario, no sobrepasen los límites establecidos, mantengan una perspectiva objetiva y expresen incertidumbre cuando sea apropiado.

Cómo afectará esto a los modelos de IA existentes

Es importante señalar que, por el momento, Model Spec no afectará a productos ya lanzados de OpenAI, como GPT-4 y DALL-E 3. Estos seguirán operando según las políticas de uso vigentes. Sin embargo, el documento está pensado como una herramienta «dinámica», que la compañía planea actualizar con frecuencia en base a las opiniones de la comunidad, políticos, instituciones académicas y expertos en diversas áreas.

La compañía espera recibir opiniones de todas las partes interesadas, incluyendo a quienes utilizan los servicios de OpenAI. Aún no se sabe qué comentarios serán considerados y quién decidirá los cambios necesarios en el documento. Tampoco hay información sobre el lanzamiento de una segunda versión de Model Spec.

Perspectivas de desarrollo: pornografía de IA y nuevos estándares

Model Spec representa un paso importante hacia la estandarización del manejo del comportamiento de los sistemas de IA. El documento demuestra que OpenAI toma en serio las cuestiones éticas y de seguridad en el desarrollo de inteligencia artificial, incluyendo temas delicados como la pornografía de IA y contenido explícito. En lugar de una prohibición total, la compañía optó por una gestión responsable que permite a los desarrolladores tomar decisiones fundamentadas.

Esta decisión refleja una comprensión creciente en la industria de que el control total del contenido es imposible y a menudo contraproducente. En su lugar, un enfoque más efectivo es aquel basado en la transparencia, la responsabilidad y la participación de las partes interesadas. A medida que la inteligencia artificial se vuelve una herramienta cada vez más común, documentos como Model Spec jugarán un papel cada vez más importante en la creación de estándares y prácticas para trabajar con pornografía de IA y otros contenidos sensibles a nivel global.