Група просить федеральне агентство зупинити використання штучного інтелекту Грок Ілона Маска через побоювання щодо расизму

Джерело: CryptoNewsNet Оригінальна назва: Група звертається до федерального агентства з проханням зупинити використання штучного інтелекту Grok Ілона Маска на тлі занепокоєння расизмом Оригінальне посилання: Громадянин, неприбуткова організація захисту прав споживачів, посилила свої попередження щодо Grok AI Ілона Маска в п'ятницю після публікації нових доказів, які показують, що чат-бот цитував неонацистські та білі націоналістичні веб-сайти як авторитетні джерела.

Група заявила, що така поведінка має дискваліфікувати Grok від будь-якого федерального використання та знову закликала Офіс управління та бюджету США втрутитися після місяців без відповіді.

Цитуючи нещодавнє дослідження Корнельського університету, Public Citizen заявив, що Grokipedia, новий альтернативний Вікіпедія на базі штучного інтелекту, запущений Маском у жовтні, постійно відображав екстремістські домени, включаючи Stormfront, підкріплюючи попередні занепокоєння, які виникли після того, як модель назвала себе “MechaHitler” на платформі Маска X у липні.

Висновки підкреслили те, що прихильники описали як патерн расистської, антисемітської та змовницької поведінки.

“Grok продемонстрував повторювану історію цих зривів, чи то антисемітський зрив, чи расистський зрив, зрив, що підживлюється теоріями змови,” сказав захисник підзвітності великих технологій Public Citizen Дж. Б. Бренч у коментарі для Decrypt.

Новий попередження з'явилося після листів, які Public Citizen та 24 інші групи, що займаються захистом прав людини, цифровими правами, охороною довкілля та захистом прав споживачів, надіслали до OMB у серпні та жовтні, закликаючи агентство призупинити доступ до Grok для федеральних відомств через його Адміністрацію загальних послуг, яка управляє федеральним майном та закупівлями. Група повідомила, що не було відповіді на жоден з цих запитів.

Незважаючи на численні інциденти, вплив Grok в уряді зростав протягом минулого року. У липні xAI отримала контракт на $200 мільйон доларів від Пентагону, а Генеральна служба управління надала модель для використання в федеральних агентствах разом з Gemini, Meta AI, ChatGPT та Claude. Це доповнення відбулося в той час, коли президент США Дональд Трамп наказав заборонити “прокинутий ШІ” у федеральних контрактах.

Адвокати заявили, що ці кроки підвищили потребу в перевірці, особливо, оскільки зросли питання щодо навчальних даних Grok та їх надійності.

“Grok спочатку був обмежений Міністерством оборони, що вже викликало тривогу, враховуючи, скільки чутливих даних має це міністерство,” сказав Бранч. “Розширення його на весь федеральний уряд викликало ще більшу тривогу.”

Гілка сказала, що поведінка Grok частково походить від його навчальних даних та вибору дизайну, зроблених у компаніях Маска.

“Між Grok та іншими мовними моделями є помітний розрив у якості, і частково це пов'язано з його навчальними даними, до яких входить X,” сказав він. “Маск сказав, що хоче, щоб Grok був анти-пробудженою альтернативою, і це проявляється у його вітріольних висновках.”

Філія також висловила занепокоєння щодо потенційного використання моделі для оцінки федеральних заявок або взаємодії з чутливими особистими даними.

“Є розрив у цінностях між тим, що представляє Америка, і тим, що говорить Грок,” сказав він. “Якщо ви є єврейською особою і подаєте заявку на федеральний кредит, чи хочете ви, щоб антисемітський чат-бот потенційно розглядав вашу заявку? Звичайно, ні.”

Бранч сказав, що справа Grok виявила прогалини в федеральному контролі за новими системами ШІ, додавши, що урядові чиновники можуть діяти і в будь-який момент виключити Grok з графіка контрактів Генеральної служби адміністрації — якщо вони вирішать.

“Якщо вони можуть розгорнути війська Національної гвардії по всій країні в будь-який момент, вони, безумовно, можуть знищити чат-бот, що функціонує через API, за день,” сказав він.