Inżynierowie Google napotykają ograniczenia mocy obliczeniowej, ponieważ udział nowego kodu pisanego przez sztuczną inteligencję wzrósł do 75%, z 50% zaledwie sześć miesięcy temu – wynika z wewnętrznych danych. Gwałtowny wzrost obciąża infrastrukturę firmy i zmusza zespoły do przemyślenia alokacji zasobów.
Przejście na kodowanie wspomagane AI
Pół roku temu połowa nowego kodu Google pochodziła z AI. Teraz to trzy czwarte. Oznacza to, że wewnętrzne systemy firmy obsługują znacznie większą liczbę sugestii, uzupełnień i automatycznych poprawek generowanych przez AI. Zmiana ta odzwierciedla szerszy trend w branży technologicznej, polegający na włączaniu narzędzi AI do codziennych procesów programistycznych. W Google narzędzia takie jak wewnętrzne wersje dużych modeli językowych stały się standardem przy pisaniu kodu szablonowego, naprawianiu błędów, a nawet generowaniu całych funkcji.
Jednak ten wzrost nie obył się bez kosztów. Każde zapytanie do AI zużywa cykle obliczeniowe, a wraz z większą ilością kodu generowanego przez modele, zapotrzebowanie na moc obliczeniową gwałtownie wzrosło. Inżynierowie zgłaszają dłuższe czasy odpowiedzi z wewnętrznych narzędzi AI oraz sporadyczne awarie w godzinach szczytu.
Obciążenie wewnętrznej infrastruktury
Ograniczenia obliczeniowe są najbardziej widoczne w centrach danych obsługujących modele AI. Własny sprzęt Google, w tym TPU i GPU, jest teraz mocno obciążony zadaniami generowania kodu. Niektóre zespoły muszą kolejkować zadania lub ograniczać liczbę zapytań AI na inżyniera. Firma zaczęła także priorytetyzować pewne rodzaje generowania kodu – takie jak łatki bezpieczeństwa czy krytyczne poprawki błędów – kosztem mniej pilnych funkcji pomocniczych.
Google nie jest jedyną firmą borykającą się z tym problemem. Inne duże koncerny technologiczne również zgłaszają podobne trudności związane z integracją AI w procesie tworzenia oprogramowania. Jednak tempo zmian w Google – wzrost o 25 punktów procentowych w ciągu sześciu miesięcy – zaskoczyło niektóre wewnętrzne zespoły.
Co to oznacza dla inżynierów
Dla inżynierów piszących kod nowa rzeczywistość oznacza dostosowanie przepływów pracy. Nie mogą już polegać na natychmiastowym generowaniu kodu przez AI bez planowania z uwzględnieniem limitów obliczeniowych. Niektórzy zaczęli grupować swoje zapytania w godzinach poza szczytem. Inni dokładniej przeglądają kod generowany przez AI, wiedząc, że modele czasami produkują nieefektywny lub błędny kod w warunkach ograniczonej wydajności.
Google nie ujawniło publicznie, jak planuje rozwiązać problem obciążenia infrastruktury. Firma stoi przed wyborem: zainwestować w więcej sprzętu, udoskonalić modele, aby były bardziej wydajne, lub nałożyć surowsze ograniczenia na użycie AI. Każda opcja wiąże się z kompromisami. Więcej sprzętu kosztuje i wymaga czasu na wdrożenie. Zwiększenie wydajności modeli może spowolnić tempo ulepszeń. Ograniczenia użycia mogą frustrować inżynierów, którzy przyzwyczaili się do tych narzędzi.
Na razie sytuacja pozostaje nierozwiązana. Inżynierowie pracują w ramach ograniczeń, ale podstawowe zapotrzebowanie na kod generowany przez AI nie wykazuje oznak spowolnienia. Pytanie brzmi, jak długo infrastruktura Google będzie w stanie nadążyć.
