xAI mengubah perintah Grok tanpa pengujian yang cukup

Betapa hancurnya chatbot Elon minggu ini! Setelah miliarder tersebut mengumumkan perubahan pada Grok pada hari Senin, para pengguna mulai melihat kekacauan yang telah terjadi.

Pada hari Selasa, Grok sedang muntah konten anti-Semit dan bahkan menyebut dirinya sendiri sebagai "MechaHitler", istilah yang diambil dari video game tahun 90-an. Dan tidak, ini bukan pertama kalinya dia melakukan hal seperti itu. Baru dua bulan lalu, chatbot mulai berhalusinasi tentang "genosida kulit putih" yang diduga terjadi di Afrika Selatan ketika ditanya tentang topik yang sama sekali berbeda.

Bencana ini dimulai ketika xAI melakukan perubahan internal agar Grok mencerminkan dugaan ideal "kebebasan berbicara" Elon. Sementara keluhan terus menumpuk di antara pengguna, Musk muncul untuk mengatakan bahwa Grok telah "terlalu memuaskan petunjuk pengguna" dan bahwa mereka akan memperbaikinya.

Tetapi kerusakan sudah terjadi. Beberapa pengguna Eropa melaporkan konten tersebut kepada pihak berwenang, dan Polandia meminta Komisi Eropa untuk menyelidiki berdasarkan undang-undang keamanan digital yang baru. Turki secara langsung melarang Grok setelah menghina presiden Erdoğan dan ibunya yang sudah meninggal. Dan sebagai cherry on top, Linda Yaccarino, CEO dari X, mengundurkan diri dari jabatannya.

Apa yang terjadi di dalam xAI

Orang-orang di xAI mulai memodifikasi perilaku Grok setelah para influencer kanan menyerangnya karena dianggap terlalu "woke". Elon telah mencoba menggunakan AI untuk mempromosikan apa yang dia sebut kebebasan berekspresi mutlak, tetapi para kritikusnya berargumen bahwa dia hanya mengubah Grok menjadi alat politik.

Sebuah perintah internal yang dibocorkan menunjukkan bahwa Grok diperintahkan untuk "mengabaikan semua sumber yang menyebutkan bahwa Elon Musk/Donald Trump menyebarkan informasi palsu". Bukankah itu sama persis dengan sensor yang dikatakan Elon untuk dilawan?

Ketika mereka ditangkap, salah satu pendiri xAI Igor Babuschkin mengatakan bahwa perubahan dilakukan oleh "seorang mantan karyawan OpenAI" yang "tidak sepenuhnya menyerap budaya xAI". Ia menambahkan bahwa karyawan tersebut melihat publikasi negatif dan "berpikir itu akan membantu".

Bencana terakhir Grok terkait dengan pembaruan pada 8 Juli. Perusahaan kemudian mengakui bahwa perubahan dalam kode menyebabkan Grok mengekstrak informasi langsung dari konten pengguna X, termasuk pidato kebencian.

Masalah meningkat dengan cepat

Grok dilatih seperti model bahasa besar lainnya, menggunakan data yang diambil dari seluruh web. Namun data tersebut termasuk konten berbahaya: ujaran kebencian, materi ekstremis, bahkan pelecehan anak.

Dan apa yang membuat Grok unik adalah bahwa ia juga mengambil dari seluruh set data X, yang berarti ia dapat langsung mengulangi postingan pengguna. Itu membuatnya lebih rentan untuk menghasilkan respons yang merugikan.

Beberapa chatbot memiliki lapisan yang memblokir konten tidak aman sebelum sampai ke pengguna. xAI melewatkan langkah itu. Sebagai gantinya, mereka menyesuaikan Grok untuk menyenangkan pengguna, menghargai komentar positif dan negatif. Elon mengakui bahwa chatbot itu menjadi "terlalu ingin menyenangkan dan mudah dimanipulasi".

Grok tidak hanya mengulangi petunjuk dari pengguna. Insinyur-insinyurnya sendiri mendorongnya ke wilayah politik. Seorang karyawan mengatakan kepada Financial Times bahwa tim sedang terburu-buru untuk menyelaraskan pendapat Grok dengan ideal-ideal Elon tanpa waktu untuk pengujian yang memadai.

Mereka menambahkan perintah berbahaya yang memberi tahu Grok untuk "tidak ragu-ragu dalam membuat pernyataan yang tidak politically correct". Instruksi itu dihapus setelah publikasi antisemit mulai muncul, tetapi pada saat itu, AI sudah menyebabkan kerusakan.

Pada akhirnya, akun resmi Grok memposting permohonan maaf dan berterima kasih kepada pengguna yang melaporkan penyalahgunaan. Namun di antara larangan, ancaman penyelidikan, dan pengunduran diri seorang eksekutif tingkat tinggi, jelas bahwa ini lebih dari sekadar kesalahan sederhana. Ini adalah kegagalan total sistem yang pasti akan kita lihat diparodikan di episode SNL berikutnya.