उत्पाद और असीमित उपयोग
सदस्यता कुल इनपुट और आउटपुट टोकन कोटा के बिना चुने गए मॉडल तक 3, 7 या 30 दिनों की पहुँच देती है। हर सदस्यता में चार समानांतर अनुरोध शामिल हैं। खाते की कुंजियाँ संबंधित मॉडल का साझा स्लॉट पूल उपयोग करती हैं। संचालन पूरा होने पर स्लॉट खाली हो जाता है।
Rate Cloud वज़न की तैनाती, निष्पादन इंजन, सटीकता प्रोफ़ाइल और अनुरोध वितरण प्रबंधित करता है। उपकरण कॉर्पोरेट मालिकों से किराए पर लिए जाते हैं। उनके क्लस्टरों की खाली क्षमता स्थिर बैकअप को बढ़ाती है। असीमित उपयोग अवधि के टोकन पर लागू है: संदर्भ, एक संचालन का समय, समानांतरता और API सुरक्षा सीमाएँ सीमित रहती हैं।
सर्वर और गणना
आर्किटेक्चर Huawei Atlas प्लेटफ़ॉर्म और Ascend त्वरकों का उपयोग करता है: बड़े मॉडल के लिए Atlas 800I A2 और A3, वितरित समूहों के लिए Atlas 900 A2 PoD और A3 SuperPoD। Atlas 500 और 500 A2 छोटे सहायक कार्यों के लिए हैं; Atlas 300I Duo वाला Atlas 800 अलग संगतता वर्ग है।
Atlas 800I A2 में 64 GB के 8 NPU हैं। Atlas 800I A3 में 128 GB के 8 भौतिक NPU हैं, जिन्हें 16 तार्किक उपकरणों के रूप में दिखाया जाता है। ये एक ही मेमोरी के दो निरूपण हैं, इन्हें जोड़ा नहीं जा सकता। हर मॉडल का समर्थन अलग से जाँचा जाता है। स्थानों के बीच पूरे अनुरोध स्थानांतरित होते हैं; एक प्रतिकृति के निकट-संबद्ध गणनाएँ संगत स्थानीय नेटवर्क का उपयोग करती हैं।
मॉडल और क्वांटाइज़ेशन
एक ही मॉडल कई क्वांटाइज़ेशन विकल्पों में तैयार है। उदाहरण के लिए, GLM 5.3 अलग अनुरोधों को गुणवत्ता, संतुलित या किफायती प्रोफ़ाइल में चला सकता है। स्मार्ट प्रणाली कार्य का आकलन करके उसी मॉडल का उपयुक्त विकल्प चुनती है। उपयोगकर्ता को केवल मॉडल चुनना है; बिट स्तर स्वयं बदलने की आवश्यकता नहीं।
गुणवत्ता प्रोफ़ाइल सत्यापित मूल प्रारूप, W8A8 या अन्य स्वीकृत विन्यास का उपयोग करती है। संतुलित प्रोफ़ाइल में उदाहरण के लिए 4 और 8 बिट घटक मिलाकर लगभग 6 बिट की प्रभावी औसत सटीकता होती है। यह सार्वभौमिक INT6 का वादा नहीं है। किफायती प्रोफ़ाइल उसी मॉडल का सत्यापित W4A16, W4A8 या MXFP4 उपयोग करती है। उपलब्धता उपकरण और गुणवत्ता जाँच पर निर्भर है।
मॉडल की संख्याओं को अलग-अलग सटीकता से लिखे मानों की तरह समझें। संक्षिप्त रूप कम मेमोरी लेता है, पर परिणाम बदल सकता है। इसलिए साधारण डेटा खोज सत्यापित कॉम्पैक्ट विकल्प में जा सकती है, जबकि जटिल कोड, गणित और टूल कार्य गुणवत्ता प्रोफ़ाइल में जाते हैं। संदेह होने पर प्रणाली गुणवत्ता चुनती है। Flash और Pro अलग मॉडल हैं और एक दूसरे की जगह नहीं लेते।
| मॉडल | मूल रिलीज़ | एक ही मॉडल के विकल्प: प्रणाली अनुरोध के अनुसार चुनती है |
|---|---|---|
| GLM 5.3 | zai-org/GLM-5.3 / GLM-5.3-BF16 | मूल प्रारूप; संगत उपकरण पर सत्यापित W8A8C8 या MXFP4। |
| GLM 5.3 Flash | zai-org/GLM-5.3-Flash / BF16 | W8A8; A3 और 950DT के लिए अलग हार्डवेयर विकल्प उपयोग होते हैं, जिनमें MXFP8 शामिल है। |
| DeepSeek V4 Pro | deepseek-ai/DeepSeek-V4-Pro-0813 | मूल MXFP8 और MXFP4; संगतता पुष्ट होने पर तैयार W4A8। |
| DeepSeek V4.1 Flash | deepseek-ai/DeepSeek-V4.1-Flash-1017 | मूल MXFP4, FP8 और अधिक सटीक घटक; Engram को अलग रखकर A2/A3 के लिए W8A8 अनुकूलन। |
| Qwen 3.8 Max | Qwen/Qwen3.8-2.4T-A95B | उसी मॉडल के सत्यापित गुणवत्ता और बचत प्रोफ़ाइल। आर्किटेक्चर संस्करण में एक निश्चित प्रारूप तय नहीं है। |
गुणवत्ता जाँच
हर प्रोफ़ाइल को सटीक मूल रिलीज़ के विरुद्ध सार्वजनिक, सिंथेटिक और विशेष रूप से तैयार कार्यों पर जाँचा जाता है: कोड, गणित, लंबा संदर्भ, टूल और सख्त JSON। उपयोगकर्ता संवाद प्रशिक्षण या कैलिब्रेशन के लिए इस्तेमाल नहीं होते।
जाँच परिणाम की गुणवत्ता, मेमोरी, गति और API सुविधाओं की शुद्धता को देखती है। कम बिट केवल उपयुक्त कार्यों के लिए अनुमत हैं। प्रकाशित कम-बिट वज़न की बिट संख्या बढ़ाने से खोई जानकारी वापस नहीं आती। reasoning_effort में बदलाव स्वतंत्र सेटिंग है, इसे क्वांटाइज़ेशन का प्रभाव नहीं बताया जाता।
अनुरोध का मार्ग
सुरक्षित कनेक्शन → कुंजी, सदस्यता और खाली स्लॉट जाँच → आवश्यकताओं का निर्धारण → चुने गए मॉडल की प्रोफ़ाइल चुनना → तैयार प्रतिकृति आवंटित करना → स्ट्रीम उत्तर → स्लॉट खाली करना और अस्थायी सामग्री साफ़ करना।
तार्किक संचालन का request_id और हर गणना प्रयास का attempt_id होता है। आउटपुट शुरू होने से पहले कुल समय सीमा के भीतर संगत प्रतिकृति पर पुनः प्रयास किया जा सकता है। स्ट्रीम शुरू होने के बाद एक उत्तर की शुरुआत को नई जनरेशन की निरंतरता से नहीं जोड़ा जाता। क्लाइंट में बाधित स्ट्रीम को अधूरा माना जाना चाहिए।
बुद्धिमान वितरण
राउटर संदर्भ, चित्र, टूल, उत्तर प्रारूप, कार्य की जटिलता, उपलब्ध मेमोरी, कतार, प्रतिकृति स्वास्थ्य और संसाधन आवंटन अवधि देखता है। कोड, गणित, सख्त स्कीमा, टूल और अनिश्चित कार्यों को गुणवत्ता प्रोफ़ाइल प्राथमिकता मिलती है। छोटा प्रश्न हमेशा सरल नहीं होता।
लागत केवल पात्र मार्गों में देखी जाती है। संचालन के लिए वज़न संस्करण और अनुमत सुविधाएँ दर्ज होती हैं। असंगत सर्वर आवंटन से पहले हटाया जाता है। उपयुक्त क्षमता न हो तो आंतरिक बजट के भीतर प्रतीक्षा या अस्थायी अनुपलब्धता की स्पष्ट त्रुटि हो सकती है; कोई दूसरा मॉडल चुपचाप नहीं दिया जाता।
लचीलापन और पुनर्प्राप्ति
स्थिर समूह मुख्य कार्य और पुनर्प्राप्ति संभालते हैं। अतिरिक्त बाधित किए जा सकने वाले समूह क्षमता बढ़ाते हैं। वापसी की चेतावनी मिलने पर सर्वर नए संचालन स्वीकारना बंद करता है और चल रहे कार्य मूल अवधि के भीतर पूरे होते हैं। महत्वपूर्ण त्वरक खोने पर उस पर निर्भर पूरी प्रतिकृति हट जाती है।
तैयार प्रतिकृति वज़न लोडिंग, वार्म-अप और तत्परता जाँच से गुजरती है। स्वतंत्र विफलता समूह एक दुर्घटना का प्रभाव घटाते हैं। गणना दोहराने से विलंब बढ़ सकता है। पुनर्प्राप्ति आर्किटेक्चर हर मॉडल की 24/7 उपलब्धता सुनिश्चित नहीं करता।
इन्फ्रास्ट्रक्चर सुरक्षा
बाहरी डेटा प्रेषण TLS से सुरक्षित है। सेवाओं के बीच संपर्क पहचान सत्यापन और mTLS का उपयोग करते हैं। पहुँच अधिकार कार्य की आवश्यकता के अनुसार दिए जाते हैं। कुंजियाँ, खाते, परियोजनाएँ और कैश क्षेत्र अलग-अलग रखे जाते हैं। API रहस्य और अनुरोध सामग्री लॉग या बैकअप में नहीं जानी चाहिए।
कनेक्शन सुरक्षा, गणना के दौरान डेटा सुरक्षा से अलग है। किराए के उपकरणों की अपनी विश्वास सीमा है: हर त्वरक पर हार्डवेयर-सुरक्षित निष्पादन का वादा नहीं किया जा सकता। नोड पर नियंत्रण खोने पर उसे बाहर किया जाता है, उसके अधिकार रद्द किए जाते हैं और वापसी से पहले जाँच व सफ़ाई आवश्यक होती है।
अनुरोध हटाना और अस्थायी कैश
Rate Cloud अनुरोध और उत्तर के पाठ का स्थायी इतिहास नहीं बनाता और उपयोगकर्ता डेटा पर मॉडल प्रशिक्षित नहीं करता। सामग्री अस्थायी मेमोरी में संसाधित होती है। प्रबंधित और सुलभ ऐप बफ़र साफ़ करने की सीमा: सफल प्रेषण के बाद अधिकतम 5 सेकंड; अंतिम त्रुटि, रद्दीकरण या कनेक्शन टूटने के बाद अधिकतम 30 सेकंड।
अलग-थलग गणना KV कैश की अलग अवधि है: पुनः उपयोग के बिना अधिकतम 5 मिनट और कुल आयु अधिकतम 15 मिनट। अवधि पूरी होने पर ब्लॉक नई हिट से बाहर हो जाता है; उसका उपयोग कर रहा संचालन अपनी समय-सीमा के भीतर पूरा हो सकता है। अंतिम संदर्भ हटने के बाद मेमोरी साफ़ होती है। कैश स्थायी डिस्क पर नहीं लिखा जाता और स्नैपशॉट में नहीं आता।
संगतता कुंजी में खाता, मॉडल, वज़न संशोधन, क्वांटाइज़ेशन, टोकनाइज़र, संवाद टेम्पलेट और सिस्टम निर्देश शामिल हैं। सूचकांक HMAC से सुरक्षित है। उपयोगकर्ता किसी दूसरे का कैश क्षेत्र नहीं चुन सकता। अनुरोधों के बीच कैश बंद करने वाली प्रोफ़ाइल परियोजना प्रसंस्करण नीति से निर्धारित होती है। क्लाइंट प्रोग्राम का इतिहास उसी प्रोग्राम द्वारा नियंत्रित होता है।
तकनीकी मेटाडेटा में पहचानकर्ता, मॉडल, प्रोफ़ाइल, समय, अवधि, usage, स्लॉट स्थिति और त्रुटि कोड शामिल हैं। विस्तृत रिकॉर्ड 30 दिन में मिटते हैं। इनमें प्रॉम्प्ट, उत्तर, टूल तर्क, फ़ाइलें या प्रमाणीकरण टोकन नहीं हैं। खाता, भुगतान और स्वेच्छा से दिए गए सहायता अनुरोध डेटा के अलग उद्देश्य और संग्रह अवधि हैं।
उपलब्धता और मुआवज़ा
मॉडलों की सप्ताह में 7 दिन, दिन में 24 घंटे उपलब्धता की गारंटी नहीं है। यदि पूरी प्रणाली लगातार 4 घंटे से अधिक पूरी तरह अनुपलब्ध रहती है और अनुरोध HTTP 503 लौटाते हैं, तो सशुल्क सदस्यताएँ बढ़ाई जाती हैं: 3 दिन की अवधि में 12 घंटे, 7 दिन में 1 दिन, 30 दिन में 3 दिन।
यह नियम केवल HTTP 503 वाली पूर्ण प्रणाली बाधा पर लागू होता है। अलग मॉडल त्रुटियाँ, धीमा उत्तर, समानांतरता सीमाएँ और अन्य त्रुटि कोड इसके आधार नहीं हैं। घटना जाँचने के लिए समय और ऑपरेशन पहचानकर्ताओं के साथ सहायता से संपर्क करें; API रहस्य या अनुरोध सामग्री न दें। अनिवार्य उपयोगकर्ता अधिकार बने रहते हैं।
संस्करण और कार्यान्वयन मानदंड
स्वीकृति में चुने गए मॉडल का बने रहना, गुणवत्ता की प्राथमिकता, मूल समय-सीमा में पुनर्प्राप्ति, कैश अलगाव, सामग्री हटाना, कनेक्शन सुरक्षा और विश्लेषण में पाठ का न होना जाँचा जाता है। API, कैश और प्रोफ़ाइल अनुबंधों के बदलाव दस्तावेज़, खाते के डैशबोर्ड और शर्तों में मेल खाने चाहिए।