วิศวกรของ Google กำลังเผชิญกับข้อจำกัดด้านพลังประมวลผล เนื่องจากสัดส่วนของโค้ดใหม่ที่เขียนโดยปัญญาประดิษฐ์ (AI) เพิ่มขึ้นเป็น 75% จากเดิม 50% เมื่อหกเดือนที่แล้ว ตามข้อมูลภายใน การเพิ่มขึ้นอย่างรวดเร็วนี้สร้างแรงกดดันต่อโครงสร้างพื้นฐานของบริษัท และทำให้ทีมงานต้องปรับเปลี่ยนวิธีการจัดสรรทรัพยากร
การเปลี่ยนแปลงสู่การเขียนโค้ดด้วย AI
เมื่อหกเดือนก่อน โค้ดใหม่ของ Google ครึ่งหนึ่งมาจาก AI แต่ตอนนี้เพิ่มเป็นสามในสี่ นั่นหมายความว่าระบบภายในของบริษัทต้องจัดการกับข้อเสนอแนะ การเติมโค้ดอัตโนมัติ และการแก้ไขข้อบกพร่องที่สร้างโดย AI ในปริมาณที่มากขึ้นอย่างมาก การเปลี่ยนแปลงนี้สะท้อนถึงแนวโน้มในวงการเทคโนโลยีที่นำเครื่องมือ AI มาผนวกเข้ากับขั้นตอนการทำงานของนักพัฒนา โดยที่ Google เองก็ใช้เครื่องมืออย่างโมเดลภาษาขนาดใหญ่ภายในองค์กรเป็นมาตรฐานในการเขียนโค้ดพื้นฐาน แก้ไขบั๊ก และแม้แต่สร้างฟังก์ชันทั้งหมด
แต่การเพิ่มขึ้นนี้ก็มาพร้อมกับต้นทุน การสอบถาม AI แต่ละครั้งใช้รอบการประมวลผล และเมื่อมีโค้ดที่สร้างโดยโมเดลมากขึ้น ความต้องการพลังประมวลผลก็พุ่งสูงขึ้น วิศวกรรายงานว่าเครื่องมือ AI ภายในตอบสนองช้าลง และบางครั้งเกิดการหยุดชะงักในช่วงที่มีการใช้งานสูง
แรงกดดันต่อโครงสร้างพื้นฐานภายใน
ข้อจำกัดด้านการประมวลผลเห็นได้ชัดเจนที่สุดในศูนย์ข้อมูลที่รันโมเดล AI ฮาร์ดแวร์ของ Google เอง รวมถึง TPU และ GPU กำลังรับภาระหนักจากงานสร้างโค้ด บางทีมต้องจัดคิวงานหรือจำกัดจำนวนคำขอ AI ต่อวิศวกรหนึ่งคน บริษัทยังเริ่มจัดลำดับความสำคัญของการสร้างโค้ดบางประเภท เช่น การแก้ไขความปลอดภัยหรือการแก้ไขบั๊กที่สำคัญ ก่อนฟังก์ชันช่วยเหลืออื่นๆ ที่เร่งด่วนน้อยกว่า
Google ไม่ใช่บริษัทเดียวที่เผชิญปัญหานี้ บริษัทเทคโนโลยียักษ์ใหญ่อื่นๆ ก็รายงานปัญหาการเติบโตที่คล้ายกันเมื่อนำ AI มาใช้ในการพัฒนา แต่ความเร็วของการเปลี่ยนแปลงที่ Google ซึ่งเพิ่มขึ้นถึง 25 จุดเปอร์เซ็นต์ในหกเดือน ทำให้บางทีมภายในเซอร์ไพรส์
ผลกระทบต่อวิศวกร
สำหรับวิศวกรที่เขียนโค้ด ความจริงใหม่นี้หมายถึงการปรับเปลี่ยนขั้นตอนการทำงาน พวกเขาไม่สามารถพึ่งพาเครื่องมือ AI ในการสร้างโค้ดทันทีโดยไม่ต้องวางแผนรอบข้อจำกัดด้านการประมวลผลอีกต่อไป บางคนเริ่มรวมคำขอของตนไว้ในช่วงเวลาที่มีการใช้งานน้อย คนอื่นๆ ตรวจสอบโค้ดที่ AI สร้างขึ้นอย่างละเอียดมากขึ้น โดยรู้ว่าโมเดลอาจสร้างผลลัพธ์ที่ไม่มีประสิทธิภาพหรือมีบั๊กเมื่อทำงานภายใต้เงื่อนไขที่ถูกจำกัด
Google ยังไม่ได้เปิดเผยต่อสาธารณะว่าจะแก้ไขปัญหาความตึงเครียดด้านโครงสร้างพื้นฐานอย่างไร บริษัทน่าจะต้องเลือก: ลงทุนในฮาร์ดแวร์เพิ่ม ปรับปรุงโมเดลให้มีประสิทธิภาพมากขึ้น หรือกำหนดข้อจำกัดที่เข้มงวดยิ่งขึ้นในการใช้ AI แต่ละทางเลือกมีข้อแลกเปลี่ยน ฮาร์ดแวร์เพิ่มต้องใช้เงินและเวลาในการติดตั้ง การปรับปรุงประสิทธิภาพของโมเดลอาจทำให้ความก้าวหน้าช้าลง ส่วนข้อจำกัดการใช้งานอาจทำให้นัก工程师ที่พึ่งพาเครื่องมือเหล่านี้ไม่พอใจ
ในตอนนี้ สถานการณ์ยังไม่ได้รับการแก้ไข วิศวกรกำลังทำงานภายใต้ข้อจำกัด แต่ความต้องการโค้ดที่สร้างโดย AI ยังไม่มีทีท่าว่าจะลดลง คำถามคือโครงสร้างพื้นฐานของ Google จะรับมือได้นานแค่ไหน
