Googleのエンジニアは、人工知能（AI）が生成する新コードの割合がわずか6か月前の50%から75%に急増したことで、コンピューティング能力の限界に直面している。内部データによると、この急増は同社のインフラに負荷をかけ、チームはリソースの割り当て方法を再考せざるを得なくなっている。
AI支援コーディングへの移行
6か月前、Googleの新コードの半分はAIによるものだった。現在は4分の3に達している。つまり、社内システムはAIによる提案、補完、自動パッチをはるかに大量に処理している。この変化は、テクノロジー業界全体でAIツールを日常的な開発ワークフローに組み込む動きを反映している。Googleでは、大規模言語モデルの社内版などのツールが、定型コードの作成、バグ修正、さらには関数全体の生成に標準的に使用されている。
しかし、この増加には代償が伴っている。AIクエリのたびに計算サイクルを消費し、モデルが生成するコードが増えるにつれて、処理能力への需要が急増している。エンジニアは、社内AIツールの応答時間が遅くなったり、ピーク時に一時的な停止が発生したりしていると報告している。
社内インフラへの負荷
コンピューティングの限界は、AIモデルを実行するデータセンターで最も顕著に現れている。TPUやGPUを含むGoogleのハードウェアは、コード生成タスクで現在高い負荷がかかっている。一部のチームはジョブをキューに入れたり、エンジニアあたりのAIリクエスト数を制限したりせざるを得なくなっている。また、同社はセキュリティパッチや重要なバグ修正など、緊急性の高いコード生成を優先し、重要度の低い補助関数を後回しにし始めている。
このようなひっ迫に直面しているのはGoogleだけではない。他の大手テクノロジー企業も、AIを開発に統合する過程で同様の成長痛を報告している。しかし、Googleにおける変化の速さ（6か月で25ポイント増）は、一部の社内チームを不意を突いた。
エンジニアへの影響
コードを書くエンジニアにとって、この新しい現実はワークフローの調整を意味する。もはや計算制限を考慮せずにAIツールに即座にコードを生成させることはできない。一部のエンジニアはリクエストをオフピーク時間にまとめて送信している。また、制限された条件下でモデルが非効率なコードやバグのあるコードを生成することがあるため、AI生成コードをより注意深くレビューする者もいる。
Googleは、インフラの負荷にどう対処するかについて詳細を公表していない。同社はおそらく、ハードウェアへの追加投資、モデルの効率化、またはAI使用の厳格な制限のいずれかを選択せざるを得ないだろう。それぞれの選択肢にはトレードオフがある。ハードウェアの追加はコストがかかり、導入に時間がかかる。モデルの効率化は改善のペースを鈍らせる可能性がある。使用制限は、ツールに依存するようになったエンジニアをいら立たせるかもしれない。
現時点では、状況は未解決のままである。エンジニアは制約の中で回避策を講じているが、AIが生成するコードへの根本的な需要は衰える兆しを見せていない。問題は、Googleのインフラがいつまでこの需要に耐えられるかだ。
