最近、私はGrokについて深く掘り下げており、インフラのスケーリングに関して興味深いことに気づきました。主要なAI推論プロバイダーがColossus 2クラスターを稼働させました—1GWの容量で動作しています。これは本当に素晴らしいことです。彼らがこの規模で管理している電力密度は、小規模な電力網に匹敵します。大規模な言語モデルの展開動向を追っている人にとって、この種のインフラ構築は重要です。これは計算リソースのレースが激化していることを示しています。AIワークロードに対して1GWの連続電力を維持する能力は簡単ではなく、冷却、ネットワーキング、電力配分の徹底的な最適化が必要です。AIプラットフォームが同時ユーザーロードを処理する方法を見てきた人にとって、これはまさにその基盤となるものです。推論需要が加速し続ける中、注目しておく価値があります。