ทำไมประสิทธิภาพด้านพลังงานจึงเป็นคอขวดในตอนนี้
Agentic AI แตกต่างจากแชทบอททั่วไป ระบบเหล่านี้วางแผน เรียกใช้เครื่องมือ และดำเนินงานหลายขั้นตอน ดังนั้นจึงต้องการพลังการประมวลผลต่อคำขอมากกว่ามาก แต่ละขั้นตอนหมายถึงการประมวลผลโทเคนมากขึ้นและใช้พลังงานมากขึ้น ปริมาณงานต่อวัตต์วัดว่าชิปทำงานได้มากเพียงใดต่อหน่วยไฟฟ้า ดังนั้นการเพิ่มขึ้น 30 เท่าหมายความว่างานเดียวกันสามารถทำได้ด้วยพลังงานเพียงเศษเสี้ยว
เรื่องนี้สำคัญเพราะค่าใช้จ่ายด้านพลังงานของศูนย์ข้อมูลกลายเป็นกำแพงสำหรับการขยายตัวของ AI บริษัทที่รันระบบ agentic ขนาดใหญ่อาจเห็นค่าไฟฟ้าของตนแซงหน้าต้นทุนฮาร์ดแวร์
