डिप्लॉयमेंट प्रक्रिया कैसे काम करती है
DCI कंटेनरीकृत इन्फरेंस पर आधारित है — डेवलपर्स एक Hugging Face मॉडल को पैकेज करके सेवा में पुश करते हैं, जहाँ Goose कार्यभार संभाल लेता है। Goose मॉडल को एक समर्पित कंटेनर में चलाने के लिए आवश्यक कदमों को स्वचालित करता है। Together का कहना है कि पूरी प्रक्रिया में मिनट लगते हैं, घंटे या दिन नहीं।
कंपनी ने सामान्य उपलब्धता के लिए मूल्य निर्धारण या कोई विशिष्ट लॉन्च तिथि जारी नहीं की है, लेकिन प्रारंभिक परीक्षक Netflix के Void-Model जैसे मॉडल चलाने के लिए सेवा का उपयोग कर रहे हैं। वह मॉडल, जिसे Netflix ने Hugging Face पर ओपन-सोर्स किया है, एक विशिष्ट वीडियो-संबंधित कार्य के लिए डिज़ाइन किया गया है — इसके कार्य के सटीक विवरण घोषणा का हिस्सा नहीं हैं।
Goose क्यों महत्वपूर्ण है
Goose वह टूल है जो Hugging Face पर एक मॉडल और Together के बुनियादी ढांचे पर चलने वाले कंटेनर के बीच की खाई को पाटता है। सर्वरों को मैन्युअल रूप से कॉन्फ़िगर करने के बजाय, डेवलपर्स Goose को वांछित मॉडल पर इंगित करते हैं, और यह बाकी काम संभाल लेता है। इसमें मॉडल को खींचना, वातावरण स्थापित करना और एक एंडपॉइंट को उजागर करना शामिल है।
जो डेवलपर्स पहले से Hugging Face के साथ काम करते हैं, उनके लिए यह एकीकरण का मतलब है कि वे अधिकांश DevOps काम को छोड़ सकते हैं। उन्हें कंटेनर इमेज, स्केलिंग या लोड बैलेंसिंग के बारे में चिंता करने की आवश्यकता नहीं है — कम से कम सिद्धांत रूप में। Together शर्त लगा रहा है कि सरलता उन डेवलपर्स को जीत लेगी जो डिप्लॉयमेंट बुनियादी ढांचे से जूझते-जूझते थक गए हैं।
Netflix का Void-Model एक शोकेस के रूप में
Netflix का Void-Model एक सामान्य डेमो नहीं है — यह एक वास्तविक प्रोडक्शन मॉडल है जिसे Netflix पहले ही डिप्लॉय कर चुका है। इसे Hugging Face पर उपलब्ध कराकर और यह दिखाकर कि यह DCI पर चल सकता है, Together यह साबित करने की कोशिश कर रहा है कि सेवा गंभीर मॉडलों के साथ काम करती है, न कि केवल खिलौना उदाहरणों के साथ।
किसी भी कंपनी ने यह नहीं बताया है कि Netflix स्वयं प्रोडक्शन में Together के DCI का उपयोग करता है या नहीं। घोषणा में Void-Model को केवल एक उदाहरण के रूप में प्रस्तुत किया गया है जिसे सेवा संभाल सकती है। यह सवाल खुला छोड़ देता है कि Netflix एक ग्राहक है या केवल एक संदर्भ मॉडल प्रदाता है।
Together ने अपनी वर्तमान सीमित-पहुंच अवस्था से सेवा के बाहर निकलने की कोई तिथि निर्धारित नहीं की है। जो डेवलपर्स DCI आज़माना चाहते हैं, वे Together की वेबसाइट के माध्यम से पहुँच का अनुरोध कर सकते हैं। कंपनी संभवतः देख रही है कि प्रारंभिक उपयोगकर्ता डिप्लॉयमेंट पाइपलाइन को कैसे संभालते हैं, इससे पहले कि वह गेट खोले।
एक अनसुलझा प्रश्न यह है कि DCI प्रतिस्पर्धियों जैसे Replicate या AWS SageMaker की अन्य कंटेनर-आधारित इन्फरेंस सेवाओं से कैसे तुलना करता है। Together ने घोषणा में बेंचमार्क या मूल्य निर्धारण प्रदान नहीं किया। जब तक
