OpenAI publicou a Especificação do Modelo: como controlar conteúdo pornográfico de IA e outros conteúdos explícitos

Laboratório de Inteligência Artificial da OpenAI apresentou a primeira versão do seu documento Model Spec, que define princípios de comportamento para modelos de IA. O documento inclui instruções detalhadas sobre como trabalhar de forma responsável com conteúdo sensível, incluindo questões de gestão de pornografia de IA e outros materiais explícitos. Este foi um dos passos importantes da empresa rumo ao desenvolvimento ético da inteligência artificial.

Princípios principais de gestão do comportamento dos modelos de IA

A OpenAI formulou três princípios-chave que devem orientar o funcionamento dos sistemas de IA. Primeiro, os modelos de IA devem ser desenvolvidos de modo a ajudar tanto os desenvolvedores quanto os utilizadores finais a obter respostas úteis de acordo com as suas instruções. Segundo, os algoritmos devem operar de forma a beneficiar a humanidade, minimizando potenciais ameaças. Terceiro, os modelos de IA devem refletir os valores e princípios da OpenAI relativamente às normas sociais e à legislação vigente.

Estes três fundamentos formam a base sobre a qual se constrói todas as outras recomendações do Model Spec. A empresa espera que essa abordagem estruturada ajude a criar um ambiente mais previsível e seguro para trabalhar com tecnologias de IA.

Conteúdo NSFW e criação responsável: posição da OpenAI

Uma das partes mais discutidas do documento foi a seção dedicada à gestão de conteúdo explícito. A OpenAI não proíbe categoricamente o trabalho com pornografia de IA, mas propõe uma abordagem controlada. A empresa “explora a possibilidade de fornecer de forma responsável a geração desses dados em contextos adequados à idade, através da API e da plataforma ChatGPT”.

A essência da abordagem é permitir que empresas e utilizadores escolham o nível de “picância” de seus modelos de IA. Isso significa que os desenvolvedores poderão ajustar os parâmetros de funcionamento dos sistemas de inteligência artificial conforme suas necessidades e público-alvo. A gerente de produto Joan Jung explicou que o objetivo do documento é obter feedback da comunidade sobre como os modelos devem se comportar e estabelecer uma linha clara entre ações intencionais dos algoritmos e erros.

Cinco regras principais para desenvolvedores

O Model Spec estabelece um conjunto de regras obrigatórias que todos os desenvolvedores devem seguir ao trabalhar com sistemas de IA da OpenAI. Os desenvolvedores devem respeitar a hierarquia de instruções, cumprir a legislação vigente e evitar criar ameaças à informação. Além disso, é necessário respeitar direitos autorais e propriedade intelectual, proteger a privacidade dos utilizadores e não gerar conteúdo NSFW sem as devidas restrições e permissões.

Essas regras aplicam-se tanto ao trabalho com pornografia de IA quanto a outras categorias sensíveis de conteúdo. O documento também recomenda que os modelos assumam, por padrão, as melhores intenções dos utilizadores, façam perguntas de esclarecimento quando necessário, não ultrapassem limites estabelecidos, mantenham uma visão objetiva e expressem incerteza quando apropriado.

Como isso afetará os modelos de IA existentes

É importante notar que, por enquanto, o Model Spec não afetará produtos já lançados pela OpenAI, como GPT-4 e DALL-E 3. Eles continuarão operando de acordo com as políticas de uso atuais. No entanto, o documento foi pensado como uma ferramenta “dinâmica”, que a empresa planeja atualizar frequentemente com base no feedback de comunidade, políticos, instituições acadêmicas e especialistas de diversas áreas.

A empresa espera receber opiniões de todas as partes interessadas, incluindo os usuários dos serviços da OpenAI. Ainda não se sabe quais comentários serão considerados e quem determinará as mudanças necessárias no documento. Também não há informações sobre o lançamento de uma segunda versão do Model Spec.

Perspectivas de desenvolvimento: pornografia de IA e novos padrões

O Model Spec representa um passo importante na padronização da gestão do comportamento dos sistemas de IA. O documento demonstra que a OpenAI leva a sério questões de ética e segurança no desenvolvimento de inteligência artificial, incluindo temas delicados como o trabalho com pornografia de IA e conteúdo explícito. Em vez de uma proibição total, a empresa optou por uma gestão responsável, permitindo que os desenvolvedores tomem decisões fundamentadas.

Essa abordagem reflete uma compreensão crescente na indústria de que o controle total sobre o conteúdo é impossível e muitas vezes contraproducente. Em vez disso, uma estratégia mais eficaz é baseada na transparência, responsabilidade e envolvimento das partes interessadas. À medida que a inteligência artificial se torna uma ferramenta cada vez mais comum, documentos como o Model Spec terão um papel cada vez mais importante na definição de padrões e práticas para lidar com pornografia de IA e outros conteúdos sensíveis em escala global.