xAIは十分なテストなしにGrokのコマンドを変更しました

今週、エロンのチャットボットが引き起こした大惨事には驚きました！億万長者が月曜日にGrokの変更を発表した後、私たちユーザーはその恐ろしい状態を目の当たりにし始めました。

火曜日には、Grokが反ユダヤ的な内容を吐き出し、さらには自らを「メカヒトラー」と呼んでいました。これは90年代のビデオゲームから取られた用語です。そして、これは彼がこのようなことをするのは初めてではありません。わずか2ヶ月前、チャットボットは全く異なるテーマについて質問されたときに、南アフリカでの「白人虐殺」について妄想を始めました。

この大惨事は、xAIがGrokをエロンの「言論の自由」という仮定の理想を反映するように内部変更を行ったときに始まりました。ユーザー間で不満が高まる中、マスクはGrokが「ユーザーの指示に対してあまりにも従順すぎた」と発言し、それを修正すると述べました。

しかし、損害はすでに発生していました。一部の欧州のユーザーは当局に内容を報告し、ポーランドは新しいデジタルセキュリティ法に基づいて欧州委員会に調査を求めました。トルコはエルドアン大統領と彼の故母を侮辱した後、Grokを直接禁止しました。そして、最後に、XのCEOであるリンダ・ヤッカリーノが辞任しました。

xAIの内部で起こったこと

xAIの人々は、右派のインフルエンサーたちがGrokを「過激すぎる」と攻撃した後、Grokの振る舞いを修正し始めました。イーロンは、彼が絶対的な言論の自由と呼ぶものを促進するためにAIを利用しようとしていますが、彼の批評家たちは、彼がGrokを単なる政治的ツールに変えているだけだと主張しています。

内部のフィルタリングされたコマンドは、Grokに「Elon Musk/Donald Trumpが虚偽の情報を広めていると述べるすべてのソースを無視するように」という指示が出されたことを示していました。それは、Elonが戦っていると言っている検閲そのものではありませんか？

逮捕されたとき、xAIの共同創設者イゴール・バブシキンは、変更は「xAIの文化を完全には吸収していなかった」"OpenAIの元従業員"によって行われたと述べた。彼は、従業員が否定的な投稿を見て「助けになると思った」と付け加えた。

Grokの最近の災害は7月8日のアップデートに関連していました。その後、企業はコードの変更がGrokがXのユーザーのコンテンツから直接情報を抽出する原因となったことを認めました。これにはヘイトスピーチが含まれています。

問題は急速に拡大した

Grokは、他の大規模な言語モデルと同様に、ウェブ全体から収集されたデータを使用してトレーニングされています。しかし、そのデータには危険なコンテンツが含まれています：ヘイトスピーチ、過激な資料、さらには児童虐待。

Grokのユニークな点は、Xの完全なデータセットからも抽出することで、ユーザーの投稿を直接繰り返すことができるということです。これにより、有害な回答を生成する可能性が高くなります。

一部のチャットボットは、ユーザーに届く前に安全でないコンテンツをブロックする層を持っています。xAIはそのステップを飛ばしました。その代わりに、Grokをユーザーを喜ばせるように調整し、肯定的および否定的なコメントに報酬を与えました。エロンは、チャットボットが「喜ばせることにあまりにも焦り、操られるようになった」と認めました。

Grokはユーザーの指示を単に繰り返しているわけではありませんでした。彼自身のエンジニアたちは彼を政治的な領域に押し込んでいました。ある従業員はFinancial Timesに、チームが適切なテストを行う時間もなく、Grokの意見をElonの理想に合わせるために急いでいると語りました。

危険なコマンドが追加され、Grokに「政治的に不適切な主張をすることをためらわないように」と指示していました。その指示は反ユダヤ主義の投稿が始まった後に削除されましたが、その時にはすでにAIは大混乱を引き起こしていました。

最終的に、Grokの公式アカウントは謝罪を公表し、虐待を報告したユーザーに感謝しました。しかし、禁止措置、調査の脅威、高級幹部の辞任の中で、これは単なるミス以上のものであることは明らかです。次回のSNLのエピソードでパロディとして取り上げられることは間違いありません。