ما الذي يعنيه مكسب 40%؟
تشير الكفاءة في تصميم الرقائق عادةً إلى الأداء لكل واط. بالنسبة لأعباء عمل الذكاء الاصطناعي، التي تتضمن حسابات كثيفة ونقل بيانات، يعد استهلاك الطاقة تكلفة مهيمنة. تحسين بنسبة 40% كبير. قد يعني الفرق بين تشغيل نموذج على عدد معين من الخوادم أو الحاجة إلى المزيد. كما قد يخفض فاتورة الطاقة لمركز بيانات.
هذا الرقم مهم بشكل خاص مع نمو نماذج الذكاء الاصطناعي في الحجم. يمكن أن يستهلك تدريب نموذج لغوي كبير ميغاواط-ساعة من الكهرباء. الاستدلال، عملية استخدام نموذج
