Інженери Google стикаються з обмеженнями обчислювальних потужностей, оскільки частка нового коду, написаного штучним інтелектом, зросла до 75% — з 50% лише шість місяців тому. Це стрімке зростання навантажує внутрішню інфраструктуру компанії та змушує команди переглядати підходи до розподілу ресурсів.
Перехід до кодування за допомогою ШІ
Шість місяців тому половина нового коду Google створювалася за допомогою ШІ. Тепер — три чверті. Це означає, що внутрішні системи компанії обробляють значно більший обсяг пропозицій, доповнень та автоматичних виправлень, згенерованих ШІ. Цей зсув відображає ширшу тенденцію в технологічній галузі — впровадження інструментів ШІ в повсякденні робочі процеси розробників. У Google внутрішні версії великих мовних моделей стали стандартом для написання шаблонного коду, виправлення помилок і навіть генерації цілих функцій.
Однак таке зростання не обійшлося без витрат. Кожен запит до ШІ споживає обчислювальні цикли, і зі збільшенням обсягу коду, згенерованого моделями, попит на обчислювальну потужність різко зріс. Інженери повідомляють про повільніший час відповіді внутрішніх інструментів ШІ та періодичні збої в години пік.
Навантаження на внутрішню інфраструктуру
Обмеження обчислювальних потужностей найбільш помітні в дата-центрах, де запускаються моделі ШІ. Власне обладнання Google, зокрема TPU та GPU, зараз працює з великим навантаженням через завдання з генерації коду. Деякі команди змушені ставити завдання в чергу або обмежувати кількість запитів до ШІ на одного інженера. Компанія також почала пріоритезувати певні типи генерації коду — наприклад, патчі безпеки або критичні виправлення помилок — над менш терміновими допоміжними функціями.
Google не єдина, хто стикається з такою кризою. Інші великі технологічні компанії також повідомляють про подібні труднощі зростання під час інтеграції ШІ в розробку. Але швидкість змін у Google — зростання на 25 відсоткових пунктів за шість місяців — застала деякі внутрішні команди зненацька.
Що це означає для інженерів
Для інженерів, які пишуть код, нова реальність означає необхідність адаптувати робочі процеси. Вони більше не можуть покладатися на миттєву генерацію коду ШІ без урахування обмежень обчислювальних потужностей. Деякі почали групувати свої запити на непікові години. Інші ретельніше перевіряють код, згенерований ШІ, знаючи, що моделі іноді створюють неефективний або помилковий код при роботі в умовах обмежених ресурсів.
Google публічно не розкривав плани щодо вирішення проблеми навантаження на інфраструктуру. Компанія, ймовірно, стоїть перед вибором: інвестувати в більше обладнання, вдосконалити моделі для підвищення ефективності або запровадити суворіші обмеження на використання ШІ. Кожен варіант має компроміси. Більше обладнання коштує грошей і потребує часу на розгортання. Підвищення ефективності моделей може сповільнити темпи вдосконалень. Обмеження використання можуть викликати невдоволення інженерів, які звикли покладатися на ці інструменти.
Наразі ситуація залишається невирішеною. Інженери працюють в умовах обмежень, але попит на код, згенерований ШІ, не демонструє ознак спаду. Питання в тому, як довго інфраструктура Google зможе витримувати таке навантаження.
