Loading market data...

تطلق Together خدمة حاويات للنشر السريع لنماذج Hugging Face

تطلق Together خدمة حاويات للنشر السريع لنماذج Hugging Face

أطلقت شركة Together AI خدمة الاستدلال المحوسب المخصص (DCI)، وهي خدمة تتيح للمطورين نشر أي نموذج من Hugging Face في دقائق. تستخدم الخدمة أداة تُدعى Goose لإدارة عملية النشر، ويُستشهد بنموذج Void-Model من Netflix كمثال على ما يمكن نشره.

كيف تعمل عملية النشر

تعتمد DCI على الاستدلال المحوسب القائم على الحاويات — حيث يقوم المطورون بتغليف نموذج من Hugging Face ودفعه إلى الخدمة، حيث تتولى Goose المهمة. تقوم Goose بأتمتة الخطوات اللازمة لتشغيل النموذج داخل حاوية مخصصة. وتقول Together إن العملية برمتها تستغرق دقائق، وليس ساعات أو أيامًا.

لم تصدر الشركة أسعارًا أو موعدًا محددًا للإطلاق العام، لكن المختبرين الأوائل استخدموا الخدمة لتشغيل نماذج مثل Void-Model من Netflix. هذا النموذج، الذي نشرته Netflix كمصدر مفتوح على Hugging Face، مصمم لمهمة محددة تتعلق بالفيديو — التفاصيل الدقيقة لوظيفته ليست جزءًا من الإعلان.

لماذا تعتبر Goose مهمة

Goose هي الأداة التي تسد الفجوة بين نموذج على Hugging Face وحاوية قيد التشغيل على بنية Together التحتية. بدلاً من تكوين الخوادم يدويًا، يوجه المطورون Goose نحو النموذج الذي يريدونه، وهي تتولى الباقي. ويشمل ذلك سحب النموذج، وإعداد البيئة، وكشف نقطة نهاية.

بالنسبة للمطورين الذين يعملون بالفعل مع Hugging Face، يعني هذا التكامل أنهم يستطيعون تخطي معظم أعمال DevOps. لا يحتاجون إلى القلق بشأن صور الحاويات أو التوسع أو موازنة التحميل — على الأقل من الناحية النظرية. تراهن Together على أن البساطة ستكسب المطورين الذين سئموا من الصراع مع بنية النشر التحتية.

نموذج Void-Model من Netflix كعرض توضيحي

نموذج Void-Model من Netflix ليس عرضًا توضيحيًا عاديًا — إنه نموذج إنتاج حقيقي نشرته Netflix بالفعل. من خلال إتاحته على Hugging Face وإظهار أنه يمكن تشغيله على DCI، تحاول Together إثبات أن الخدمة تعمل مع نماذج جادة، وليست مجرد أمثلة بسيطة.

لم تذكر أي من الشركتين ما إذا كانت Netflix نفسها تستخدم DCI من Together في الإنتاج. يؤطر الإعلان نموذج Void-Model فقط كمثال على ما يمكن للخدمة التعامل معه. وهذا يترك السؤال مفتوحًا حول ما إذا كانت Netflix عميلة أم مجرد مزود نموذج مرجعي.

لم تحدد Together موعدًا لخروج الخدمة من مرحلتها الحالية ذات الوصول المحدود. يمكن للمطورين الذين يرغبون في تجربة DCI طلب الوصول عبر موقع Together الإلكتروني. من المحتمل أن تراقب الشركة كيفية تعامل المستخدمين الأوائل مع خط أنابيب النشر قبل فتح الأبواب على مصراعيها.

أحد الأسئلة غير المحسومة هو كيفية مقارنة DCI بخدمات الاستدلال المحوسب الأخرى القائمة على الحاويات من منافسين مثل Replicate أو AWS SageMaker. لم تقدم Together معايير أو أسعارًا في الإعلان. حتى تصدر هذه الأرقام، ليس لدى المطورين سوى ادعاء السرعة — دقائق — للحكم عليه.