Loading market data...

دراسة مايكروسوفت لـ 13.5 مليون جلسة كوبايلوت تكشف عن اختناقات في البنية التحتية للذكاء الاصطناعي

دراسة مايكروسوفت لـ 13.5 مليون جلسة كوبايلوت تكشف عن اختناقات في البنية التحتية للذكاء الاصطناعي

قام باحثو مايكروسوفت بتحليل 13.5 مليون جلسة عمل في GitHub Copilot وخرجوا برسالة واضحة: البنية التحتية التي تقوم عليها أدوات البرمجة بالذكاء الاصطناعي ليست مصممة للطريقة التي تعمل بها فعليًا. وتشير الورقة البحثية، المبنية على هذه المجموعة الضخمة من البيانات، إلى ثلاث مشكلات محددة — أوجه القصور في التخزين المؤقت، والتتابعات المتكررة للمحاولات، ووقت الخمول — التي تحتاج إلى إعادة تفكير إذا كانت المساعدات الذكية ستتوسع بسلاسة.

ما تظهره البيانات

تعتبر هذه الدراسة واحدة من أكبر الدراسات حتى الآن حول كيفية استخدام المطورين فعليًا للمبرمجين المساعدين بالذكاء الاصطناعي. من خلال تحليل ملايين الجلسات، تمكن الباحثون من رؤية أنماط تفوت الاختبارات الأصغر. ووجدوا أن الطريقة التي تصل بها الطلبات إلى النظام — وكيف يستجيب النظام — تخلق أوجه قصور تتراكم بسرعة.

واحدة من أكبر المشكلات هي التخزين المؤقت. عندما يطرح العديد من المطورين أسئلة متشابهة، يجب أن يخدمهم التخزين المؤقت المصمم جيدًا بسرعة. لكن الورقة البحثية تجادل بأن استراتيجيات التخزين المؤقت الحالية لا تتعامل مع الذيل الطويل من الطلبات الفريدة والمثقلة بالسياق التي يولدها كوبايلوت. وهذا يؤدي إلى عمليات حسابية مكلفة متكررة.

التتابعات المتكررة ووقت الخمول

اكتشاف آخر يتعلق بما يحدث عندما يفشل الطلب أو تنتهي مهلته. بدلاً من محاولة واحدة، يمكن أن يؤدي النظام إلى تتابع — محاولات متعددة تتراكم وتثقل كاهل الخادم الخلفي. يقول الباحثون إن هذه ليست مجرد مشكلة شبكة؛ إنها عيب تصميمي في كيفية تفاعل منطق إعادة المحاولة مع خدمة نماذج الذكاء الاصطناعي.

ثم هناك وقت الخمول. نماذج الذكاء الاصطناعي ليست مثل خوادم الويب التقليدية. إنها تحتاج إلى البقاء دافئة للاستجابة بسرعة، لكن إبقائها دافئة يكلف مالًا وطاقة. تقترح الدراسة أن النهج الحالي لإدارة الموارد الخاملة غير فعال، مما يؤدي إما إلى استجابات بطيئة أو هدر في الحوسبة.

لماذا يجب أن تتغير البنية التحتية

الحجة الأساسية للورقة هي أن البنية التحتية للذكاء الاصطناعي لا يمكن أن تكون مجرد نسخة موسعة من ما نجح في الخدمات السحابية العادية. الأنماط في أعباء عمل الذكاء الاصطناعي — المتقطعة، المعتمدة على السياق، والعرضة للفشل — تتطلب بنى مختلفة. يوصي المؤلفون بأن يستثمر مقدمو الخدمات في تخزين مؤقت أذكى، وآليات إعادة محاولة أكثر مرونة، وإدارة خاملة تكيفية.

هذه ليست مجرد تفاصيل تقنية. مع أن تصبح أدوات البرمجة بالذكاء الاصطناعي معيارية في التطوير، ستشكل تكلفة وأداء هذه الأنظمة مدى انتشارها. إذا كانت الأداة بطيئة جدًا أو مكلفة جدًا في التشغيل، سيبحث المطورون في مكان آخر.

الدراسة لا تسمي موردين أو منتجات محددة بخلاف كوبايلوت، لكن نتائجها تنطبق على نطاق واسع على أي شخص يبني مساعدات ذكاء اصطناعي. البيانات من تلك الجلسات البالغ عددها 13.5 مليون هي دعوة للاستيقاظ للصناعة.

الورقة متاحة للباحثين والمهندسين للاطلاع عليها. السؤال المفتوح هو مدى سرعة تصرف مقدمي البنية التحتية بناءً على هذه النتائج — وما إذا كان الجيل القادم من أنظمة الذكاء الاصطناعي يمكنه تجنب نفس الاختناقات.