मिस्ट्रल api: सामान्य गलतियां और समाधान

बेस यूआरएल को एंडपॉइंट्स से भ्रमित करना

हमारे API का बेस यूआरएल HTTPS://api.mistralllmapi.com/v1 है, न कि मानक OpenAI एंडपॉइंट। आपको क्लाइंट कॉन्फ़िगरेशन को अपडेट करने की आवश्यकता है ताकि यह विशिष्ट पते की ओर इशारा करे। यदि आप डिफ़ॉल्ट बेस यूआरएल छोड़ देते हैं, तो प्रत्येक अनुरोध 404 त्रुटि के साथ विफल हो जाएगा। एंडपॉइंट POST /v1/chat/completions रहता है। यह संरचना मानक OpenAI SDKs के साथ संगतता सुनिश्चित करती है। डेवलपर्स अक्सर प्रारंभिक सेटअप के दौरान इस सरल बदलाव को चूक जाते हैं। तुरंत अपनी base_url वेरिएबल की जांच करें। यह सभी कनेक्टिविटी की नींव है।

संदर्भ विंडो सीमाओं को अनदेखा करें

मॉडल संयुक्त प्रॉम्प्ट और पूर्णता के लिए 100,000 टोकन संदर्भ विंडो का समर्थन करता है। हालांकि, प्रति अनुरोध अधिकतम आउटपुट 16,000 टोकन है। यदि आप max_tokens सेट नहीं करते हैं, तो सीमा 2,048 टोकन पर आ जाती है। इन सीमाओं से अधिक होने पर प्रतिक्रियाएं ट्रंक हो सकती हैं या त्रुटियां आ सकती हैं। अपनी प्रॉम्प्ट लंबाई का सावधानीपूर्वक योजना बनाएं। छोटी प्रॉम्प्ट लंबे आउटपुट की अनुमति देती हैं। लंबी प्रॉम्प्ट प्रतिक्रिया की लंबाई को सीमित करती हैं। अपने टोकन उपयोग की निकट से निगरानी करें।

मानते हुए कि सभी मॉडल अनसेंसर्ड हैं

अन्य वेंडर्स द्वारा पेश किए गए हर मॉडल में सामग्री फिल्टर नहीं होते हैं। हमारा एकल मॉडल आईडी "अनकैप्ड" है। इसे कानूनी वयक्त उपयोग के लिए बिना अस्वीकृति के जवाब देने के लिए ट्यून किया गया है। यह GPT, क्लॉड, या लामा नहीं है। मानने की गलती न करें कि अन्य मॉडल समान व्यवहार करते हैं। अपनी अनुरोध में मॉडल आईडी की जांच करें। हमारा मॉडल विवादास्पद विषयों को अस्वीकार नहीं करता है। यह सूक्ष्म प्रॉम्प्ट्स को प्रभावी ढंग से संभालता है। अपने कोड में मॉडल नाम की पुष्टि करें।

स्ट्रीमिंग इम्प्लीमेंटेशन को नजरअंदाज करना

Server-Sent Events के माध्यम से स्ट्रीमिंग का समर्थन किया जाता है। सटीक टोकन उपयोग प्राप्त करने के लिए आपको अंतिम चंक को पार्स करना होगा। टोकन गणना हमेशा इंटरमीडिएट चंक्स में सटीक नहीं होती है। प्रोसेस करने के लिए stop_reason का इंतज़ार करें। इससे सुनिश्चित होता है कि आप केवल पूर्ण रिक्वेस्ट के लिए भुगतान करें। त्रुटियां और रिफ्यूजल मुफ्त हैं। स्ट्रीमिंग लंबे आउटपुट के लिए विलंबता कम करती है। यह उपयोगकर्ता अनुभव को काफी बेहतर बनाता है। आंशिक प्रतिक्रियाओं को सावधानी से हैंडल करें। उपयोग डेटा के लिए आखिरी चंक की जांच करें।

टोकन लागत को गलत समझना

हमारे LLM API मूल्य निर्धारण $0.15 प्रति 1M इनपुट टोकन के लिए है। आउटपुट टोकन की लागत $0.50 प्रति 1M टोकन है। कोई मासिक शुल्क या सदस्यता नहीं है। क्रेडिट कभी समाप्त नहीं होता है। त्रुटियाँ क्रेडिट खर्च नहीं करती हैं। यह मॉडल पारदर्शी और पूर्वानुमेय है। स्केल करने से पहले अपनी लागत की गणना करें। टोकन गणना की निगरानी करने के लिए स्ट्रीमिंग का उपयोग करें। क्रेडिट बचाने के लिए अनावश्यक पुनः प्रयासों से बचें। पूर्वभुगतान क्रेडिट वास्तविक उपयोग के अनुसार चार्ज किया जाता है। अपनी खर्च की नियमित निगरानी करें।

कंटेंट फिल्टर्स को GPT की तरह व्यवहार करने की उम्मीद

हमारा अनसेंसर्ड AI मॉडल GPT की तरह समान फिल्टर का उपयोग नहीं करता है। यह कानूनी वयस्क सामग्री की अनुमति देता है। यह मानक विवादास्पद विषयों को रिफ्यूज नहीं करता है। डिफ़ॉल्ट प्रतिबंधों की कल्पना न करें। अपने प्रॉम्प्ट को अच्छी तरह से परीक्षण करें। मॉडल सीधा और अनफिल्टर्ड है। यह बिना किसी हिजिंग के प्रश्नों का उत्तर देता है। सुरक्षा परतों की उम्मीद न करें। अपने विशिष्ट उपयोग मामले के साथ व्यवहार की पुष्टि करें। इसे असीमित जनरेशन के लिए डिज़ाइन किया गया है। मानक सामग्री के लिए कोई छिपा ब्लॉक नहीं है।

रेट लिमिट्स को सही ढंग से हैंडल नहीं करना

प्रत्येक कुंजी प्रति मिनट 300 अनुरोधों की अनुमति देती है। आपके पास 8 समवर्ती अनुरोध हो सकते हैं। अनुरोध बॉसी लिमिट 8 MB है। इन सीमाओं से अधिक होने पर 429 त्रुटि लौटाई जाती है। अपने क्लाइंट में एक्सपोनेंशियल बैकऑफ लागू करें। समानांतर थ्रेड्स के साथ API पर जबरदस्ती न करें। अपनी उपयोग डैशबोर्ड की निगरानी करें। रेट लिमिट सेवा स्थिरता की रक्षा करते हैं। अपनी समवर्ता सेटिंग्स को उसी अनुसार समायोजित करें। रीट्राइ लॉजिक मजबूत ऐप्स के लिए आवश्यक है। विलंबों से बचने के लिए सीमाओं का सम्मान करें।

मॉडल IDs और कीज़ में भ्रम

आपका API कुंजी अनुरोध को प्रमाणीकृत करता है। मॉडल ID "uncensored" मॉडल का चयन करता है। इन दोनों को भ्रमित न करें। मॉडल फ़ील्ड में "uncensored" का उपयोग करें। आपकी कुंजी Authorization हेडर में जाती है। डैशबोर्ड में अपनी कुंजी जांचें। यदि आवश्यक हो तो एक नई कुंजी जनरेट करें। प्रत्येक खाते के लिए एक सक्रिय कुंजी। एक नई कुंजी पुरानी कुंजी को प्रतिस्थापित करती है। अपनी कुंजियों को सुरक्षित रखें। भंडारण के लिए पर्यावरण चर का उपयोग करें।