. We'll translate the text inside.
Let's translate paragraph by paragraph.
First paragraph: "Microsoft researchers dug into 13.5 million GitHub Copilot sessions and came away with a clear message: the infrastructure underneath AI coding tools isn't built for the way they actually work. The paper, based on that massive dataset, points to three specific problem areas — cache inefficiencies, retry cascades, and idle time — that need to be rethought if AI assistants are going to scale smoothly."
Translation: "माइक्रोसॉफ्ट के शोधकर्ताओं ने 13.5 मिलियन GitHub Copilot सत्रों की गहराई से जांच की और एक स्पष्ट संदेश के साथ निकले: AI कोडिंग टूल्स के अंतर्निहित इंफ्रास्ट्रक्चर उस तरीके के लिए नहीं बनाए गए हैं जिस तरह से वे वास्तव में काम करते हैं। इस विशाल डेटासेट पर आधारित पेपर, तीन विशिष्ट समस्या क्षेत्रों की ओर इशारा करता है — कैश अक्षमताएं, रीट्राई कैस्केड, और निष्क्रिय समय — जिन्हें फिर से सोचने की आवश्यकता है यदि AI सहायकों को सुचारू रूप से स्केल करना है।"
We'll keep "GitHub" as is, "Copilot" as is, "AI" as is. "cache" can be "कैश", "retry cascades" -> "रीट्राई कैस्केड", "idle time" -> "निष्क्रिय समय". We'll use "इंफ्रास्ट्रक्चर" for infrastructure.
Second paragraph: "The study is one of the largest looks yet at how developers really use AI pair programmers. By analyzing millions of sessions, the researchers could see patterns that smaller tests miss. They found that the way requests hit the system — and how the system responds — creates inefficiencies that add up fast."
Translation: "यह अध्ययन अब तक के सबसे बड़े अध्ययनों में से एक है कि डेवलपर्स वास्तव में AI पेयर प्रोग्रामर्स का उपयोग कैसे करते हैं। लाखों सत्रों का विश्लेषण करके, शोधकर्ता उन पैटर्नों को देख सकते थे जो छोटे परीक्षणों से छूट जाते हैं। उन्होंने पाया कि जिस तरह से अनुरोध सिस्टम पर पहुंचते हैं — और सिस्टम कैसे प्रतिक्रिया देता है — ऐसी अक्षमताएं पैदा करता है जो तेजी से बढ़ती हैं।"
Third paragraph: "One of the biggest issues is caching. When many developers ask similar questions, a well-designed cache should serve them quickly. But the paper argues that current caching strategies don't handle the long-tail of unique, context-heavy requests that Copilot generates. That leads to repeated expensive computations."
Translation: "सबसे बड़ी समस्याओं में से एक कैशिंग है। जब कई डेवलपर्स समान प्रश्न पूछते हैं, तो एक अच्छी तरह से डिज़ाइन किया गया कैश उन्हें जल्दी से सेवा प्रदान करना चाहिए। लेकिन पेपर का तर्क है कि वर्तमान कैशिंग रणनीतियाँ उन अद्वितीय, संदर्भ-भारी अनुरोधों की लंबी पूंछ को संभाल नहीं पाती हैं जो Copilot उत्पन्न करता है। इससे बार-बार महंगी गणनाएं होती हैं।"
Fourth paragraph: "Another finding involves what happens when a request fails or times out. Instead of a single retry, the system can trigger a cascade — multiple retries that pile up and overload the backend. The researchers say this isn't just a network problem; it's a design flaw in how retry logic interacts with AI model serving."
Translation: "एक और खोज में यह शामिल है कि जब कोई अनुरोध विफल हो जाता है या समय समाप्त हो जाता है तो क्या होता है। एकल रीट्राई के बजाय, सिस्टम एक कैस्केड ट्रिगर कर सकता है — कई रीट्राई जो ढेर हो जाते हैं और बैकएंड को अधिभारित करते हैं। शोधकर्ताओं का कहना है कि यह केवल एक नेटवर्क समस्या नहीं है; यह रीट्राई लॉजिक और AI मॉडल सर्विंग के बीच परस्पर क्रिया में एक डिज़ाइन दोष है।"
Fifth paragraph: "Then there's idle time. AI models aren't like traditional web servers. They need to stay warm to respond quickly, but keeping them warm costs money and energy. The study suggests that the current approach to managing idle resources is inefficient, leading to either slow responses or wasted compute."
Translation: "फिर निष्क्रिय समय है। AI मॉडल पारंपरिक वेब सर्वर की तरह नहीं हैं। उन्हें तेजी से प्रतिक्रिया देने के लिए गर्म रहने की आवश्यकता होती है, लेकिन उन्हें गर्म रखने में पैसा और ऊर्जा खर्च होती है। अध्ययन से पता चलता है कि निष्क्रिय संसाधनों के प्रबंधन का वर्तमान दृष्टिकोण अक्षम है, जिससे या तो धीमी प्रतिक्रियाएं होती हैं या बर्बाद कंप्यूट संसाधन होते हैं।"
Sixth paragraph: "The paper's core argument is that AI infrastructure can't just be a scaled-up version of what worked for regular cloud services. The patterns in AI workloads — bursty, context-dependent, and failure-prone — demand different architectures. The authors recommend that providers invest in smarter caching, more resilient retry mechanisms, and adaptive idle management."
Translation: "पेपर का मुख्य तर्क यह है कि AI इंफ्रास्ट्रक्चर केवल नियमित क्लाउड सेवाओं के लिए काम करने वाले का एक बड़ा संस्करण नहीं हो सकता है। AI वर्कलोड में पैटर्न — विस्फोटक, संदर्भ-निर्भर, और विफलता-प्रवण — विभिन्न आर्किटेक्चर की मांग करते हैं। लेखक सलाह देते हैं कि प्रदाता स्मार्ट कैशिंग, अधिक लचीले रीट्राई तंत्र, और अनुकूली निष्क्रिय प्रबंधन में निवेश करें।"
Seventh paragraph: "That's not just a technical detail. As AI coding tools become standard in development, the cost and performance of these systems will
