Grupo pede à agência federal para suspender o uso da Grok AI de Elon Musk devido a preocupações com racismo

Fonte: CryptoNewsNet Título Original: Grupo Pede à Agência Federal para Interromper o Uso da Grok AI de Elon Musk em Meio a Preocupações com Racismo Link Original: A Public Citizen, uma organização sem fins lucrativos de defesa do consumidor, intensificou seus avisos sobre o Grok AI de Elon Musk na sexta-feira, após publicar novas evidências mostrando que o chatbot citou sites neo-nazistas e nacionalistas brancos como fontes credíveis.

O grupo disse que o comportamento deveria desqualificar Grok de qualquer uso federal e renovou pedidos para que o Gabinete de Gestão e Orçamento dos EUA intervenha após meses sem uma resposta.

Citando um estudo recente da Universidade de Cornell, a Public Citizen afirmou que a Grokipedia, a nova alternativa ao Wikipedia potenciada por IA lançada por Musk em outubro, apresentou repetidamente domínios extremistas, incluindo o Stormfront, reforçando preocupações anteriores que surgiram depois de o modelo se referir a si mesmo como “MechaHitler” na plataforma X de Musk em julho.

As descobertas sublinharam o que os defensores descreveram como um padrão de comportamento racista, antissemita e conspiratório.

“Grok mostrou uma história repetida de estas explosões, seja uma explosão antissemita ou uma explosão racista, uma explosão alimentada por teorias da conspiração,” disse J.B. Branch, defensor da responsabilidade das grandes tecnologias da Public Citizen, ao Decrypt.

O novo aviso seguiu-se a cartas que o Public Citizen e 24 outros grupos de direitos civis, direitos digitais, ambientais e de proteção ao consumidor enviaram ao OMB em agosto e outubro, instando a agência a suspender a disponibilidade do Grok para os departamentos federais através da sua Administração de Serviços Gerais, que gere a propriedade e a aquisição federais. O grupo disse que não houve resposta de nenhuma das abordagens.

Apesar de incidentes repetidos, o alcance da Grok dentro do governo cresceu no último ano. Em julho, a xAI garantiu um contrato de $200 milhões com o Pentágono, e a Administração de Serviços Gerais disponibilizou posteriormente o modelo em todas as agências federais, ao lado do Gemini, Meta AI, ChatGPT e Claude. A adição ocorreu numa altura em que o presidente dos EUA, Donald Trump, ordenou uma proibição da “IA woke” em contratos federais.

Os defensores disseram que essas medidas aumentaram a necessidade de escrutínio, particularmente à medida que surgiam questões sobre os dados de treino e a fiabilidade do Grok.

“Grok foi inicialmente limitado ao Departamento de Defesa, o que já era alarmante, dado quanto dado sensível o departamento detém,” disse Branch. “Expandir para o resto do governo federal levantou um alarme ainda maior.”

Branch disse que o comportamento do Grok se deve em parte aos seus dados de treino e às escolhas de design feitas nas empresas de Musk.

“Há uma diferença de qualidade notável entre o Grok e outros modelos de linguagem, e parte disso vem dos seus dados de treino, que incluem X,” disse ele. “Musk disse que queria que o Grok fosse uma alternativa anti-woke, e isso se reflete nas saídas virulentas.”

A Branch também levantou preocupações sobre o uso potencial do modelo na avaliação de candidaturas federais ou na interação com registos pessoais sensíveis.

“Há uma desconexão de valores entre o que a América representa e o tipo de coisas que Grok está dizendo,” ele disse. “Se você é um indivíduo judeu e está a candidatar-se a um empréstimo federal, você quer que um chatbot antissemita potencialmente considere a sua candidatura? Claro que não.”

Branch disse que o caso Grok expôs lacunas na supervisão federal dos sistemas de IA emergentes, acrescentando que os funcionários do governo poderiam agir e remover o Grok da programação de contratos da Administração de Serviços Gerais a qualquer momento—se assim o desejassem.

“Se eles forem capazes de desplegar tropas da Guarda Nacional em todo o país a um momento's notice, certamente podem derrubar um chatbot com função API em um dia,” disse ele.