Google mühendisleri, yapay zeka tarafından yazılan yeni kod oranının sadece altı ay önce %50 iken %75'e yükselmesiyle hesaplama gücü sınırlarına dayandı. İç verilere göre bu hızlı artış, şirketin altyapısını zorluyor ve ekipleri kaynakları nasıl tahsis edeceklerini yeniden düşünmeye itiyor.
Yapay zeka destekli kodlamaya geçiş
Altı ay önce Google'ın yeni kodunun yarısı yapay zekadan geliyordu. Şimdi bu oran dörtte üç. Bu, şirketin iç sistemlerinin çok daha büyük miktarda yapay zeka tarafından üretilen öneri, tamamlama ve otomatik yamaları işlediği anlamına geliyor. Bu değişim, teknoloji sektöründe yapay zeka araçlarını günlük geliştirme iş akışlarına yerleştirme yönündeki daha geniş bir çabayı yansıtıyor. Google'da, büyük dil modellerinin dahili sürümleri gibi araçlar, standart kod yazma, hata düzeltme ve hatta tüm fonksiyonları oluşturma için standart hale geldi.
Ancak bu sıçrama bedelsiz olmadı. Her yapay zeka sorgusu işlem döngüsü tüketiyor ve modeller tarafından daha fazla kod üretildikçe işlem gücü talebi arttı. Mühendisler, dahili yapay zeka araçlarından daha yavaş yanıt süreleri ve yoğun kullanım sırasında ara sıra kesintiler bildirdi.
İç altyapı üzerindeki baskı
Hesaplama sınırlamaları en çok yapay zeka modellerini çalıştıran veri merkezlerinde görülüyor. Google'ın TPU ve GPU'ları da dahil olmak üzere kendi donanımı artık kod oluşturma görevlerinden ağır yük altında. Bazı ekipler, işleri sıraya koymak veya mühendis başına AI istek sayısını sınırlamak zorunda kaldı. Şirket ayrıca, güvenlik yamaları veya kritik hata düzeltmeleri gibi belirli kod oluşturma türlerine, daha az acil yardımcı işlevlere kıyasla öncelik vermeye başladı.
Bu sıkışıklıkla karşı karşıya kalan tek şirket Google değil. Diğer büyük teknoloji firmaları da yapay zekayı geliştirmeye entegre ederken benzer büyüme sancıları bildirdi. Ancak Google'daki değişimin hızı - altı ayda 25 puanlık bir artış - bazı iç ekipleri hazırlıksız yakaladı.
Bu mühendisler için ne anlama geliyor
Kodu yazan mühendisler için yeni gerçeklik, iş akışlarını ayarlamak anlamına geliyor. Hesaplama sınırlarını hesaba katmadan yapay zeka araçlarının anında kod oluşturmasına artık güvenemezler. Bazıları isteklerini yoğun olmayan saatlere toplamaya başladı. Diğerleri, modellerin kısıtlı koşullar altında çalışırken bazen verimsiz veya hatalı çıktı üretebileceğini bilerek yapay zeka tarafından oluşturulan kodu daha dikkatli inceliyor.
Google, altyapı yükünü nasıl ele almayı planladığını kamuya açıklamadı. Şirket muhtemelen bir seçimle karşı karşıya: daha fazla donanıma yatırım yapmak, modelleri daha verimli hale getirmek için iyileştirmek veya yapay zeka kullanımına daha katı sınırlamalar getirmek. Her seçeneğin ödünleşimleri var. Daha fazla donanım para gerektirir ve dağıtımı zaman alır. Model verimliliği kazanımları iyileştirme hızını yavaşlatabilir. Kullanım sınırlamaları, araçlara güvenmeye başlayan mühendisleri hayal kırıklığına uğratabilir.
Şimdilik durum çözülmemiş durumda. Mühendisler kısıtlamalar etrafında çalışıyor, ancak yapay zeka tarafından oluşturulan koda olan temel talep yavaşlama belirtisi göstermiyor. Soru, Google'ın altyapısının ne kadar süre dayanabileceği.
