El grupo pide a la agencia federal que detenga el uso de Grok AI de Elon Musk en medio de preocupaciones sobre racismo

Fuente: CryptoNewsNet Título original: El grupo pide a la agencia federal que detenga el uso de la IA Grok de Elon Musk en medio de preocupaciones por racismo Enlace original: Public Citizen, una organización sin fines de lucro de defensa del consumidor, intensificó sus advertencias sobre Grok AI de Elon Musk el viernes después de publicar nuevas pruebas que muestran que el chatbot citó sitios web neo-nazis y de nacionalistas blancos como fuentes creíbles.

El grupo dijo que el comportamiento debería descalificar a Grok de cualquier uso federal, y renovó las solicitudes para que la Oficina de Administración y Presupuesto de EE. UU. interviniera después de meses sin respuesta.

Citando un estudio reciente de la Universidad de Cornell, Public Citizen dijo que Grokipedia, la nueva alternativa a Wikipedia impulsada por IA lanzada por Musk en octubre, mostró repetidamente dominios extremistas, incluyendo Stormfront, reforzando preocupaciones anteriores que surgieron después de que el modelo se refiriera a sí mismo como “MechaHitler” en la plataforma X de Musk en julio.

Los hallazgos subrayaron lo que los defensores describieron como un patrón de comportamiento racista, antisemita y conspiratorio.

“Grok ha mostrado una historia repetida de estos colapsos, ya sea un colapso antisemita o un colapso racista, un colapso que está alimentado por teorías de conspiración,” dijo J.B. Branch, defensor de la responsabilidad de las grandes tecnologías de Public Citizen, a Decrypt.

La nueva advertencia siguió a cartas que Public Citizen y 24 otros grupos de derechos civiles, derechos digitales, medioambientales y de protección al consumidor enviaron a la OMB en agosto y octubre, instando a la agencia a suspender la disponibilidad de Grok para los departamentos federales a través de su Administración de Servicios Generales, que gestiona la propiedad y la adquisición federal. El grupo dijo que no recibió respuesta de ninguna de las comunicaciones.

A pesar de los incidentes repetidos, el alcance de Grok dentro del gobierno ha crecido en el último año. En julio, xAI aseguró un contrato de $200 millones con el Pentágono, y la Administración de Servicios Generales posteriormente hizo que el modelo estuviera disponible en todas las agencias federales, junto a Gemini, Meta AI, ChatGPT y Claude. La adición se produjo en un momento en que el presidente de EE. UU., Donald Trump, ordenó una prohibición sobre la “IA woke” en los contratos federales.

Los defensores dijeron que esos movimientos aumentaron la necesidad de escrutinio, particularmente a medida que surgían preguntas sobre los datos de entrenamiento y la fiabilidad de Grok.

“Grok fue inicialmente limitado al Departamento de Defensa, lo cual ya era alarmante dado cuánto dato sensible posee el departamento,” dijo Branch. “Expandirlo al resto del gobierno federal levantó una alarma aún mayor.”

Branch dijo que el comportamiento de Grok se debía en parte a sus datos de entrenamiento y a las decisiones de diseño tomadas dentro de las empresas de Musk.

“Hay una notable diferencia de calidad entre Grok y otros modelos de lenguaje, y parte de eso proviene de sus datos de entrenamiento, que incluyen X,” dijo. “Musk ha dicho que quería que Grok fuera una alternativa anti-woke, y eso se refleja en las salidas viciosas.”

Branch también expresó preocupaciones sobre el uso potencial del modelo para evaluar solicitudes federales o interactuar con registros personales sensibles.

“Hay una desconexión de valores entre lo que representa América y el tipo de cosas que está diciendo Grok,” dijo. “Si eres una persona judía y estás solicitando un préstamo federal, ¿quieres que un chatbot antisemita considere potencialmente tu solicitud? Por supuesto que no.”

Branch dijo que el caso de Grok expuso lagunas en la supervisión federal de los sistemas de IA emergentes, añadiendo que los funcionarios del gobierno podrían actuar y eliminar a Grok del programa de contratos de la Administración de Servicios Generales en cualquier momento, si así lo decidieran.

“Si pueden desplegar tropas de la Guardia Nacional en todo el país en un abrir y cerrar de ojos, ciertamente pueden desactivar un chatbot que funcione con API en un día,” dijo.