Các kỹ sư của Google đang chạm phải giới hạn về sức mạnh tính toán khi tỷ lệ mã nguồn mới do trí tuệ nhân tạo (AI) viết đã tăng lên 75%, so với 50% chỉ sáu tháng trước, theo dữ liệu nội bộ. Sự gia tăng nhanh chóng này đang gây áp lực lên cơ sở hạ tầng của công ty và buộc các nhóm phải suy nghĩ lại cách phân bổ tài nguyên.
Sự chuyển dịch sang viết mã có hỗ trợ AI
Sáu tháng trước, một nửa số mã nguồn mới của Google đến từ AI. Giờ đây, con số đó là ba phần tư. Điều này có nghĩa là các hệ thống nội bộ của công ty đang xử lý khối lượng lớn hơn nhiều các đề xuất, hoàn thiện và bản vá tự động do AI tạo ra. Sự thay đổi này phản ánh xu hướng rộng hơn trong toàn ngành công nghệ là tích hợp các công cụ AI vào quy trình phát triển hàng ngày. Tại Google, các công cụ như phiên bản nội bộ của mô hình ngôn ngữ lớn đã trở thành tiêu chuẩn để viết mã mẫu, sửa lỗi và thậm chí tạo ra toàn bộ hàm.
Tuy nhiên, bước nhảy vọt này không phải không có cái giá. Mỗi truy vấn AI đều tiêu tốn chu kỳ tính toán, và với lượng mã được tạo ra bởi các mô hình ngày càng nhiều, nhu cầu về sức mạnh xử lý đã tăng vọt. Các kỹ sư đã báo cáo thời gian phản hồi chậm hơn từ các công cụ AI nội bộ và thỉnh thoảng xảy ra gián đoạn trong giờ cao điểm.
Áp lực lên cơ sở hạ tầng nội bộ
Giới hạn tính toán rõ ràng nhất là ở các trung tâm dữ liệu vận hành các mô hình AI. Phần cứng của Google, bao gồm TPU và GPU, hiện đang chịu tải nặng từ các tác vụ tạo mã. Một số nhóm đã phải xếp hàng công việc hoặc giới hạn số lượng yêu cầu AI trên mỗi kỹ sư. Công ty cũng bắt đầu ưu tiên một số loại tạo mã nhất định — như bản vá bảo mật hoặc sửa lỗi nghiêm trọng — hơn các hàm hỗ trợ ít khẩn cấp hơn.
Google không phải là công ty duy nhất gặp phải tình trạng quá tải này. Các hãng công nghệ lớn khác cũng báo cáo những khó khăn tương tự khi tích hợp AI vào phát triển. Nhưng tốc độ thay đổi tại Google — tăng 25 điểm phần trăm trong sáu tháng — đã khiến một số nhóm nội bộ bất ngờ.
Điều này có ý nghĩa gì đối với các kỹ sư
Đối với các kỹ sư viết mã, thực tế mới này đồng nghĩa với việc điều chỉnh quy trình làm việc. Họ không còn có thể dựa vào các công cụ AI để tạo mã ngay lập tức mà không tính đến giới hạn tính toán. Một số đã bắt đầu gộp các yêu cầu của họ vào giờ thấp điểm. Những người khác đang xem xét mã do AI tạo ra cẩn thận hơn, biết rằng các mô hình đôi khi tạo ra đầu ra kém hiệu quả hoặc có lỗi khi hoạt động trong điều kiện hạn chế.
Google chưa công bố chi tiết kế hoạch giải quyết tình trạng căng thẳng cơ sở hạ tầng. Công ty có thể phải đối mặt với một lựa chọn: đầu tư thêm phần cứng, tinh chỉnh các mô hình để hiệu quả hơn, hoặc áp đặt các giới hạn chặt chẽ hơn đối với việc sử dụng AI. Mỗi lựa chọn đều có những đánh đổi. Thêm phần cứng tốn kém và mất thời gian triển khai. Cải thiện hiệu quả mô hình có thể làm chậm tốc độ cải tiến. Giới hạn sử dụng có thể gây khó chịu cho các kỹ sư đã quen với các công cụ này.
Hiện tại, tình hình vẫn chưa được giải quyết. Các kỹ sư đang làm việc xung quanh các ràng buộc, nhưng nhu cầu cơ bản về mã do AI tạo ra không có dấu hiệu chậm lại. Câu hỏi đặt ra là cơ sở hạ tầng của Google có thể theo kịp trong bao lâu.
