Группа просит федеральное агентство остановить использование Илон Маск Grok AI из-за опасений по поводу расизма

Источник: CryptoNewsNet Оригинальное название: Группа обращается в федеральное агентство с просьбой приостановить использование ИИ Грок от Илона Маска на фоне опасений по поводу расизма Оригинальная ссылка: Организация Public Citizen, занимающаяся защитой прав потребителей, усилила свои предупреждения о Grok AI Элонa Маска в пятницу после публикации новых доказательств, показывающих, что чат-бот ссылается на неонацистские и белонационалистские веб-сайты в качестве надежных источников.

Группа заявила, что такое поведение должно дисквалифицировать Grok от любого федерального использования и вновь призвала Управление и бюджета США вмешаться после нескольких месяцев без ответа.

Ссылаясь на недавнее исследование Корнеллского университета, организация Public Citizen заявила, что Grokipedia, новый альтернативный Википедия на основе ИИ, запущенный Маском в октябре, неоднократно выводил экстремистские домены, включая Stormfront, что подтверждает ранее высказанные опасения, возникшие после того, как модель назвала себя “MechaHitler” на платформе Маска X в июле.

Полученные данные подчеркнули то, что защитники описали как шаблон расистского, антисемитского и конспирологического поведения.

“Грок показал повторяющуюся историю таких срывов, будь то антисемитский срыв или расистский срыв, срыв, питаемый теорией заговора,” сказал адвокат по ответственности крупных технологий Public Citizen Дж.Б. Бранч в интервью Decrypt.

Новое предупреждение последовало за письмами, которые Public Citizen и 24 другие группы по гражданским правам, цифровым правам, охране окружающей среды и защите прав потребителей отправили в OMB в августе и октябре, призывая агентство приостановить доступ к Grok для федеральных ведомств через его Администрацию общих услуг, которая управляет федеральной собственностью и закупками. Группа заявила, что не получила ответа ни на одно из обращений.

Несмотря на неоднократные инциденты, влияние Grok в правительстве возросло за последний год. В июле xAI заключила контракт с Пентагоном на сумму $200 миллионов, а Администрация общих услуг позже сделала модель доступной для федеральных агентств, наряду с Gemini, Meta AI, ChatGPT и Claude. Это добавление произошло в тот момент, когда президент США Дональд Трамп приказал запретить “пробужденный ИИ” в федеральных контрактах.

Адвокаты заявили, что эти шаги увеличили необходимость проверки, особенно поскольку возникли вопросы о данных для обучения Grok и его надежности.

“Грок изначально был ограничен Министерством обороны, что уже вызывало тревогу, учитывая, сколько конфиденциальной информации хранит это министерство,” - сказал Бранч. “Расширение его на остальную часть федерального правительства вызвало еще большую тревогу.”

Бранч сказал, что поведение Грока отчасти связано с его обучающими данными и дизайнерскими решениями, принятыми в компаниях Маска.

“Существует заметный разрыв в качестве между Grok и другими языковыми моделями, и часть этого обусловлена его обучающими данными, которые включают X,” сказал он. “Маск говорил, что хотел, чтобы Grok стал антивокальным альтернативой, и это проявляется в его ядовитых выводах.”

Branch также выразил озабоченность по поводу потенциального использования модели для оценки федеральных заявок или взаимодействия с конфиденциальными личными данными.

“Существует разрыв в ценностях между тем, что представляет Америка, и теми вещами, которые говорит Грок,” сказал он. “Если вы еврей и подаете заявку на федеральный кредит, хотите ли вы, чтобы антисемитский чат-бот потенциально рассматривал вашу заявку? Конечно, нет.”

Бранч заявил, что дело Grok выявило пробелы в федеральном надзоре за новыми системами ИИ, добавив, что государственные чиновники могут действовать и удалить Grok из графика контрактов Генеральной службы управления в любое время — если они захотят.

“Если они могут развернуть войска национальной гвардии по всей стране в любой момент, они, безусловно, могут отключить функционирующий API-чат-бот за день,” сказал он.