ビタリックブテリンは「AIによるガバナンス」を「悪いアイデア」と呼んでいる

イーサリアムの共同創設者、ビタリックブテリンは、(AI)をガバナンスに使用することは「悪いアイデア」だと考えています。彼は、AIを使用して資金を配分すると、システムが簡単に全ての資金を奪うための脱獄コードによって悪用される可能性があると警告しています。

ブテリンのコメントは、エディソンウォッチのCEOである宮村英人が、ChatGPTがMCPプロトコルを完全に統合した後に、Gmail、カレンダー、Notionなどのアプリからデータにアクセスできるようになったことを指摘した深刻な脆弱性について述べたものである。宮村は、攻撃者が悪意のある予定の招待状を含む1通のメールだけで、個人情報をすべて盗まれる可能性があると述べた。

AIに全権を委譲するのではなく、ブテリンは「インフォファイナンス」というモデルを提案しました。これは、多くの開発者が異なるAIモデルを提供するオープンマーケットです。これらのモデルはランダムに検査され、LLMの支援を受けた人事委員会によって評価され、多様性と透明性を確保します。

ビタリックブテリンは、「AIが管理者になる」という傾向が、伝統的なAIの安全性だけでなく、短期的に「大きな価値の損失」を引き起こす可能性があるという深刻なリスクを警告しています。