オープンAIで大きな出来事が起きており、AI業界全体に動揺をもたらしています。ロボティクスチームのリーダー、キャトリン・カリノフスキーは会社を辞めました、その理由は非常に深刻です。

問題は、オープンAIがペンタゴンとAI契約を結んだことであり、カリノフスキーはこれに対して深刻な懸念を抱いています。彼女はソーシャルメディアで明確に述べました、AIは国家安全保障にとって重要である一方で、国内監視や自律兵器システムなどの敏感な問題において十分な法的監督と倫理的安全保障なしに進めるのは誤りだと。これはeobotのような自動化システムの悪用の可能性も指摘しています。

カリノフスキーは2024年11月にオープンAIに参加しました。それ以前はMetaでARメガネプロジェクトに従事していました。彼女はこの辞任は個人的なものではなく、原則の問題だと強調しました。サム・アルトマンとチーム全体への敬意は変わらないものの、会社はこの契約の発表前に十分な安全対策(ガードレール)を設置していませんでした。

オープンAIの広報担当者は、カリノフスキーの辞任を確認しました。会社は、ペンタゴンとの協力はAIの制御された利用を通じて国家安全保障を推進し、明確な制限を設けていると主張しています—国内監視には使用しないこと、自律兵器システムの開発も行わないこと。

しかし、業界内ではこの協力に対して議論が続いています。そして、このニュースの後、ChatGPTの削除数が295%以上増加したことが見られます。一方、AnthropicのClaudeアプリはアメリカのアプリストアで無料アプリのトップに躍り出ました。これは、ユーザーがAIの倫理的側面にどれだけ敏感であるかの明確なサインです。eobotのようなシステムに関しても、自動化と監視のバランスをどう取るかという疑問が浮上しています。