Insinyur Google mulai mengalami keterbatasan daya komputasi seiring dengan lonjakan porsi kode baru yang ditulis oleh kecerdasan buatan (AI) menjadi 75%, naik dari 50% hanya enam bulan lalu, menurut data internal. Peningkatan pesat ini membebani infrastruktur perusahaan dan memaksa tim untuk memikirkan ulang cara mengalokasikan sumber daya.
Pergeseran ke pengkodean berbantuan AI
Enam bulan lalu, setengah dari kode baru Google berasal dari AI. Sekarang menjadi tiga perempat. Artinya, sistem internal perusahaan menangani volume saran, penyelesaian, dan tambalan otomatis yang jauh lebih besar dari AI. Pergeseran ini mencerminkan dorongan yang lebih luas di seluruh industri teknologi untuk menyematkan alat AI ke dalam alur kerja pengembangan sehari-hari. Di Google, alat seperti versi internal model bahasa besar telah menjadi standar untuk menulis kode boilerplate, memperbaiki bug, dan bahkan menghasilkan fungsi utuh.
Namun, lonjakan ini tidak datang tanpa biaya. Setiap permintaan AI menghabiskan siklus komputasi, dan dengan semakin banyak kode yang dihasilkan oleh model, permintaan akan daya pemrosesan melonjak. Para insinyur melaporkan waktu respons yang lebih lambat dari alat AI internal dan pemadaman sesekali selama penggunaan puncak.
Tekanan pada infrastruktur internal
Keterbatasan komputasi paling terlihat di pusat data yang menjalankan model AI. Perangkat keras Google sendiri, termasuk TPU dan GPU, kini berada di bawah beban berat dari tugas pembuatan kode. Beberapa tim harus mengantrekan pekerjaan atau membatasi jumlah permintaan AI per insinyur. Perusahaan juga mulai memprioritaskan jenis pembuatan kode tertentu — seperti tambalan keamanan atau perbaikan bug kritis — di atas fungsi pembantu yang kurang mendesak.
Google tidak sendirian dalam menghadapi tekanan ini. Perusahaan teknologi besar lainnya melaporkan masalah pertumbuhan serupa saat mereka mengintegrasikan AI ke dalam alur kerja pengembangan. Namun, kecepatan perubahan di Google — peningkatan 25 poin persentase dalam enam bulan — membuat beberapa tim internal terkejut.
Apa artinya bagi para insinyur
Bagi para insinyur yang menulis kode, realitas baru ini berarti menyesuaikan alur kerja. Mereka tidak bisa lagi mengandalkan alat AI untuk menghasilkan kode secara instan tanpa merencanakan batasan komputasi. Beberapa mulai mengelompokkan permintaan mereka ke jam-jam di luar puncak. Yang lain meninjau kode yang dihasilkan AI dengan lebih hati-hati, karena model terkadang menghasilkan keluaran yang tidak efisien atau bermasalah saat berjalan dalam kondisi terbatas.
Google belum merinci secara publik bagaimana mereka akan mengatasi tekanan infrastruktur. Perusahaan kemungkinan menghadapi pilihan: berinvestasi pada lebih banyak perangkat keras, menyempurnakan model agar lebih efisien, atau menerapkan batasan yang lebih ketat pada penggunaan AI. Setiap opsi memiliki konsekuensi. Lebih banyak perangkat keras membutuhkan biaya dan waktu untuk diterapkan. Peningkatan efisiensi model dapat memperlambat laju pengembangan. Batasan penggunaan mungkin membuat frustrasi para insinyur yang telah bergantung pada alat tersebut.
Untuk saat ini, situasi masih belum terselesaikan. Para insinyur bekerja di sekitar keterbatasan, tetapi permintaan dasar untuk kode yang dihasilkan AI tidak menunjukkan tanda-tanda melambat. Pertanyaannya adalah berapa lama infrastruktur Google dapat bertahan.
