تقنية جديدة تدعى AutoTTS تدعي تحقيق تخفيض بنسبة 69.5% في استخدام الرموز لاستراتيجيات التفكير في النماذج اللغوية الكبيرة. الطريقة، التي طورها فريق غير معلوم، تستهدف عدم الكفاءة الجوهري في كيفية تفكيك النماذج اللغوية الكبيرة للتفكير المعقد إلى خطوات — وتقوم بذلك دون أي تغيير في بنية النموذج الأساسية.
ما يفعله AutoTTS بشكل مختلف
AutoTTS اختصار لـ Automatic Token Truncation Strategy (استراتيجية اقتطاع الرموز التلقائية). النهج يقصر تسلسلات التفكير بسلسلة الأفكار التي تولدها النماذج اللغوية الكبيرة عند حل المشكلات متعددة الخطوات. بدلاً من إنتاج خطوات وسيطة مطولة، يقوم AutoTTS بقص الرموز الزائدة مع الحفاظ على التدفق المنطقي. النتيجة: بيانات أقل تُرسل عبر النموذج لكل استعلام.
الرقم 69.5% يأتي من اختبارات داخلية عبر مجموعة من معايير التفكير. الفريق لم يكشف عن المعايير الدقيقة المستخدمة أو ما إذا تم تطبيق التقنية على أي حجم أو عائلة نموذج محددة.
لماذا يهم عدد الرموز
كل رمز يعالجه النموذج اللغوي الكبير يكلف مالاً ووقتًا. بالنسبة للشركات التي تدير الاستدلال على نطاق واسع، حتى التخفيض المتواضع في استخدام الرموز يمكن أن يقلص فواتير السحابة. تخفيض بنسبة 70% تقريبًا يعني ناتجًا أكبر بثلاث مرات تقريبًا لكل دولار يُنفق على الحوسبة. كما ينخفض زمن الوصول (Latency)، حيث أن التسلسلات الأقصر تنتهي أسرع على نفس الأجهزة.
المطورون للأدوات المدعومة بالذكاء الاصطناعي يدركون جيدًا اقتصاديات الرموز. تقليل النفقات العامة للرموز دون التضحية بجودة التفكير كان هدفًا هندسيًا رئيسيًا. إذا عملت AutoTTS كما هو مزعوم، فقد تغير كيفية قيام الشركات بتحسين خطوط أنابيب النماذج اللغوية الكبيرة الخاصة بها.
الأسئلة المتبقية
المجهول الكبير هو الدقة. الحقائق تذكر فقط رقم تخفيض الرموز. الفريق لم ينشر نتائج تظهر ما إذا كانت سلاسل التفكير المقتطعة تنتج نفس الإجابات النهائية مثل الإصدارات الكاملة. المحاولات السابقة لضغط سلسلة الأفكار أدت أحيانًا إلى فجوات منطقية أو استنتاجات خاطئة.
سؤال آخر مفتوح هو القابلية للتعميم. هل تعمل AutoTTS عبر هياكل نماذج مختلفة — من النماذج مفتوحة الأوزان إلى النماذج المملوكة؟ الفريق لم يشارك تفاصيل حول النماذج التي تم اختبارها أو أنواع مهام التفكير التي تستفيد أكثر. بدون تلك البيانات، من السابق لأوانه تسمية التقنية حلاً جاهزًا للتشغيل.
الباحثون الذين يرغبون في تكرار النتائج سيحتاجون إلى المنهجية الكاملة. الفريق لم يشر إلى متى أو إذا كانوا يخططون لنشر ورقة بحثية أو إصدار كود. حتى ذلك الحين، يبقى التخفيض بنسبة 69.5% ادعاءً مثيرًا للاهتمام ينتظر التحقق الأوسع.
