私はちょうどかなり動揺させられる記事を読みました。The New Yorkerは、Ronan FarrowのようなジャーナリストがOpenAIの内部文書を入手し、懸念すべきパターンを明らかにした大規模な調査を公開しました：どうやらサム・アルトマンは安全性に関する重要な問題について、取締役会や幹部に対して体系的に嘘をついてきたようです。

出発点は残酷です。OpenAIの主任科学者イリヤ・スツケヴァーは、数年前にSlackのメッセージ、人事の通信、会議の議事録をもとに70ページの文書をまとめました。最初の一行の結論は、「サムは一貫して嘘をつくパターンを示している」というものでした。調査に登場する具体例の一つは、2022年12月にアルトマンが取締役会に対し、GPT-4のいくつかの機能が安全性の審査を通過したと保証したことです。承認書類を見せてほしいと求めたところ、最も論争の的となった二つの機能は安全性委員会による審査を一度も受けていなかったことが判明しました。

しかし、私が本当に驚いたのは、Anthropicの創設者でありOpenAIの元安全責任者であるダリオ・アモデイの個人ノートに見つかった内容です。そこには200ページ以上にわたり、企業が商業的圧力に押されて一歩一歩後退していく様子が記録されていました。重要な詳細は、2019年にMicrosoftが投資した際に、「合併と支援」の条項を交渉し、もし他の競合がより安全なAGIへのルートを見つけた場合、OpenAIは支援しなければならないと約束したことです。紙面上では良さそうに見えますが、問題はMicrosoftもこの条項に対して拒否権を持っていたため、署名当日から空約束になってしまったことです。

ほとんど馬鹿げているように聞こえますが、実際に起きていることがあります。それは、OpenAIの「超適合性」チームです。アルトマンは公に、既存の計算能力の20%をAIの適合性研究に充てると発表し、その潜在的価値は10億ドルを超えると述べました。真剣な発表で、人類絶滅のリスクも言及しました。しかし、そのチームの4人と話したジャーナリストによると、実際の計算能力の割り当ては全体の1%から2%程度で、しかも古いハードウェアを使っていたとのことです。結局、そのチームはミッションを完了せずに解散されました。

この間に、OpenAIのCFOサラ・フライヤーはアルトマンとIPOについて深刻な意見の相違を抱えていました。フライヤーは、未完の仕事や、アルトマンが5年で6000億ドルの計算能力に投資すると約束した財務リスクを考えると、今年の株式公開は準備不足だと考えています。しかし、奇妙なことに、フライヤーはもうアルトマンに直接報告しておらず、代わりにフィジ・シモに報告しています。彼女は最近健康上の理由で休暇を取ったばかりです。こうした内部の動きの中でIPOを準備している企業は、やはり複雑です。

元取締役の一人は、アルトマンについて次の二つの特徴を同時に持つと述べました：一つは、対面のたびに本当に好意を示そうとする誠実さ、もう一つは、他人を騙す結果に対してほとんど社会病質的な無関心さです。その組み合わせは、レポートによると、稀なものですが、販売者にとっては完璧だといいます。

私が気になるのは、これは単なる企業の噂話ではないということです。OpenAIは、自分たちが「おそらく人類史上最も強力な技術」と呼ぶものを開発しています。その技術は、経済を再構築したり、バイオ化学兵器を大量に作り出したり、サイバー攻撃を行ったりする可能性があります。そして、これらのリスクに対して本来備えるべき安全策は解体されてしまったのです。元主任科学者と元安全責任者は、CEOを信用できないと考えています。Microsoftの幹部は、彼をSBF（サム・バンクマン＝フリード）と比較しています。

OpenAIの反応は、The New Yorkerに対して控えめなものでした。彼らは、記事は匿名の証言を用いて既に報告された出来事を繰り返していると述べました。アルトマンは具体的な告発には答えず、ただ情報源の動機を疑問視しただけです。

OpenAIの10年の歩みをまとめると、理想主義者のグループが人類をAIリスクから守るために非営利団体を設立し、驚異的な進歩を遂げ、資本が大量に流入し、ミッションは次第に崩壊していきます。安全チームは解散され、批判者は姿を消し、非営利の構造は営利企業へと変貌します。企業を閉じる権限を持つ理事会は、今やCEOの味方で埋まっています。かつて人類の安全を守るために20%の計算能力を割り当てると約束した企業は、「安全性の研究は実際には存在しない」と言う広報を出すまでになっています。

そして、この物語の主人公は、8500億ドルを超える評価額でOpenAIをIPOに導こうとしています。何百人もの証人が同じレッテルを貼っています：彼は真実に縛られていない、と。