Grup Meminta Badan Federal untuk Menghentikan Penggunaan AI Grok Elon Musk di Tengah Kekhawatiran Rasialisme

Sumber: CryptoNewsNet Judul Asli: Grup Meminta Badan Federal untuk Menghentikan Penggunaan Grok AI Milik Elon Musk di Tengah Kekhawatiran Rasisme Link Asli: Public Citizen, sebuah organisasi advokasi konsumen nirlaba, meningkatkan peringatannya tentang Grok AI milik Elon Musk pada hari Jumat setelah menerbitkan bukti baru yang menunjukkan bahwa chatbot tersebut mengutip situs web neo-Nazi dan nasionalis kulit putih sebagai sumber yang kredibel.

Grup tersebut mengatakan perilaku itu seharusnya mendiskualifikasi Grok dari penggunaan federal manapun, dan memperbarui permintaan agar Kantor Manajemen dan Anggaran AS turun tangan setelah berbulan-bulan tanpa tanggapan.

Mengutip studi terbaru dari Cornell University, Public Citizen mengatakan bahwa Grokipedia, alternatif Wikipedia yang didorong AI baru yang diluncurkan oleh Musk pada bulan Oktober, secara berulang kali menampilkan domain ekstremis, termasuk Stormfront, memperkuat kekhawatiran sebelumnya yang muncul setelah model tersebut menyebut dirinya “MechaHitler” di platform X milik Musk pada bulan Juli.

Temuan tersebut menekankan apa yang dijelaskan oleh para advokat sebagai pola perilaku rasis, antisemit, dan konspiratorial.

“Grok telah menunjukkan sejarah berulang dari ledakan ini, apakah itu ledakan antisemitisme atau ledakan rasis, ledakan yang dipicu oleh teori konspirasi,” kata J.B. Branch, advokat akuntabilitas teknologi besar Public Citizen kepada Decrypt.

Peringatan baru ini mengikuti surat-surat yang dikirim oleh Public Citizen dan 24 kelompok hak sipil, hak digital, lingkungan, dan perlindungan konsumen kepada OMB pada bulan Agustus dan Oktober, mendesak lembaga tersebut untuk menangguhkan ketersediaan Grok untuk departemen federal melalui Administrasi Layanan Umum, yang mengelola properti dan pengadaan federal. Kelompok tersebut mengatakan tidak ada balasan yang diterima dari kedua upaya tersebut.

Meskipun terjadi insiden berulang, jangkauan Grok di dalam pemerintah telah tumbuh selama setahun terakhir. Pada bulan Juli, xAI mengamankan kontrak Pentagon senilai $200 juta, dan Administrasi Layanan Umum kemudian membuat model tersebut tersedia di seluruh agensi federal, bersama dengan Gemini, Meta AI, ChatGPT, dan Claude. Penambahan ini terjadi pada saat Presiden AS Donald Trump memerintahkan larangan terhadap “AI woke” dalam kontrak federal.

Para pendukung mengatakan bahwa langkah-langkah tersebut meningkatkan kebutuhan untuk pengawasan, terutama karena pertanyaan meningkat tentang data pelatihan Grok dan keandalannya.

“Grok awalnya terbatas pada Departemen Pertahanan, yang sudah mengkhawatirkan mengingat seberapa banyak data sensitif yang dimiliki departemen tersebut,” kata Branch. “Memperluasnya ke seluruh pemerintah federal menimbulkan alarm yang lebih besar lagi.”

Branch mengatakan bahwa perilaku Grok sebagian berasal dari data pelatihan dan pilihan desain yang dibuat di dalam perusahaan Musk.

“Ada kesenjangan kualitas yang nyata antara Grok dan model bahasa lainnya, dan sebagian dari itu berasal dari data latihnya, yang mencakup X,” katanya. “Musk telah mengatakan bahwa ia ingin Grok menjadi alternatif anti-woke, dan itu terlihat dalam keluaran yang penuh vitriol.”

Branch juga mengungkapkan keprihatinan tentang potensi penggunaan model tersebut dalam mengevaluasi aplikasi federal atau berinteraksi dengan catatan pribadi yang sensitif.

“Ada ketidaksesuaian nilai antara apa yang diperjuangkan Amerika dan jenis hal yang dikatakan Grok,” katanya. “Jika Anda adalah individu Yahudi dan Anda mengajukan permohonan pinjaman federal, apakah Anda ingin chatbot antisemitis yang mungkin mempertimbangkan aplikasi Anda? Tentu saja tidak.”

Branch mengatakan bahwa kasus Grok mengungkapkan kekurangan dalam pengawasan federal terhadap sistem AI yang muncul, menambahkan bahwa pejabat pemerintah dapat bertindak dan menghapus Grok dari jadwal kontrak Administrasi Layanan Umum kapan saja—jika mereka memilih untuk melakukannya.

“Jika mereka mampu mengerahkan pasukan Garda Nasional di seluruh negeri dalam sekejap, mereka tentu bisa menonaktifkan chatbot yang berfungsi dengan API dalam sehari,” katanya.