API Mistral: اشتباهات رایج و راه‌حل‌ها

اشتباه گرفتن URLهای پایه با endpointها

آدرس پایه API ما HTTPS://api.mistralllmapi.com/v1 است، نه endpoint استاندارد OpenAI. باید پیکربندی کلاینت خود را به این آدرس خاص به‌روز کنید. اگر آدرس پایه پیش‌فرض را رها کنید، هر درخواست با خطای 404 شکست می‌خورد. endpoint خود POST /v1/chat/completions باقی می‌ماند. این ساختار سازگاری با SDKهای استاندارد OpenAI را تضمین می‌کند. توسعه‌دهندگان اغلب این تغییر ساده را در راه‌اندازی اولیه فراموش می‌کنند. متغیر base_url خود را فوراً بررسی کنید. این پایه تمام اتصالات است.

نادیده گرفتن محدودیت‌های پنجره زمینه

مدل از پنجره زمینه ۱۰۰,۰۰۰ توکنی برای ترکیب prompt و completion پشتیبانی می‌کند. با این حال، حداکثر خروجی در هر درخواست ۱۶,۰۰۰ توکن است. اگر max_tokens را تنظیم نکنید، حد به ۲,۰۴۸ توکن کاهش می‌یابد. تجاوز از این حدود منجر به پاسخ‌های truncated یا خطا می‌شود. طول prompt خود را با دقت برنامه‌ریزی کنید. promptهای کوتاه اجازه خروجی‌های طولانی‌تر می‌دهند. promptهای طولانی طول پاسخ را محدود می‌کنند. مصرف توکن خود را به دقت پایش کنید.

فرض بر اینکه همه مدل‌ها بدون سانسور هستند

همه مدل‌های ارائه شده توسط فروشندگان دیگر فاقد فیلترهای محتوا نیستند. شناسه مدل واحد ما «بدون سانسور» است. این مدل برای پاسخ دادن بدون رد پاسخ برای استفاده بزرگسالان قانونی تنظیم شده است. این GPT، Claude یا Llama نیست. فرض نکنید که مدل‌های دیگر به یک شکل رفتار می‌کنند. شناسه مدل را در درخواست خود بررسی کنید. مدل ما موضوعات جنجالی را رد نمی‌کند. پرامپت‌های ظریف را به طور موثر مدیریت می‌کند. نام مدل را در کد خود بررسی کنید.

نادیده گرفتن پیاده‌سازی استریمینگ

پشتیبانی از استریم از طریق رویدادهای ارسالی سرور (SSE) وجود دارد. باید قطعه نهایی را تجزیه کنید تا مصرف دقیق توکن را دریافت نمایید. شمارش توکن‌ها همیشه در قطعات میانی دقیق نیست. منتظر stop_reason بمانید تا پردازش انجام شود. این تضمین می‌کند که فقط برای درخواست‌های تکمیل‌شده هزینه پرداخت می‌کنید. خطاها و رد شدن‌ها (refusals) رایگان هستند. استریم تأخیر را برای خروجی‌های طولانی کاهش می‌دهد. تجربه کاربری را به طور قابل توجهی بهبود می‌بخشد. پاسخ‌های جزئی را با دقت مدیریت کنید. برای دریافت داده‌های مصرف، به آخرین قطعه مراجعه کنید.

سوءتفاهم در مورد هزینه‌های توکن

قیمت‌گذاری API LLM ما $0.15 به ازای هر 1M توکن ورودی است. توکن‌های خروجی $0.50 به ازای هر 1M توکن هزینه دارند. هیچ هزینه یا اشتراک ماهانه‌ای وجود ندارد. اعتبار منقضی نمی‌شود. خطاها اعتبار مصرف نمی‌کنند. این مدل شفاف و قابل پیش‌بینی است. هزینه‌های خود را قبل از مقیاس‌دهی محاسبه کنید. از پخش برای نظارت بر تعداد توکن‌ها استفاده کنید. از تلاش‌های اضافی غیرضروری برای صرفه‌جویی در اعتبار خودداری کنید. اعتبار پیش‌پرداخت بر اساس مصرف واقعی شارژ می‌شود. هزینه‌های خود را به طور منظم ردیابی کنید.

انتظار رفتار فیلترهای محتوا مشابه GPT

مدل هوش مصنوعی بدون سانسور از فیلترهای مشابه GPT استفاده نمی‌کند. محتوای بزرگسالان قانونی را مجاز می‌داند. موضوعات جنجالی استاندارد را رد نمی‌کند. فرض کنید محدودیت پیش‌فرضی وجود ندارد. پرامپت‌های خود را به دقت آزمایش کنید. مدل مستقیم و بدون فیلتر است. سوالات را بدون تعارف پاسخ می‌دهد. انتظار لایه‌های ایمنی را نداشته باشید. رفتار را با مورد استفاده خاص خود بررسی کنید. این مدل برای تولید نامحدود طراحی شده است. بلوک پنهانی برای محتوای استاندارد وجود ندارد.

مدیریت صحیح نرخ محدودیت‌ها

هر کلید اجازه ۳۰۰ درخواست در دقیقه را می‌دهد. می‌توانید ۸ درخواست همزمان داشته باشید. محدودیت بدنه درخواست ۸ مگابایت است. عبور از این محدودیت‌ها خطای ۴۲۹ را برمی‌گرداند. بازگشت نمایی را در کلاینت خود پیاده‌سازی کنید. API را با رشته‌های موازی کوبیدن نکنید. داشبورد استفاده خود را نظارت کنید. محدودیت‌های نرخ پایداری سرویس را محافظت می‌کنند. تنظیمات همزمانی خود را متناسب تنظیم کنید. منطق تلاش مجدد برای برنامه‌های مقاوم ضروری است. به محدودیت‌ها احترام بگذارید تا از تأخیرها اجتناب کنید.

اشتباه گرفتن شناسه‌های مدل و کلیدها

کلید API شما درخواست را احراز هویت می‌کند. شناسه مدل "uncensored" مدل را انتخاب می‌کند. این دو را اشتباه نگیرید. از "uncensored" در فیلد مدل استفاده کنید. کلید شما در هدر Authorization قرار می‌گیرد. کلید خود را در داشبورد بررسی کنید. در صورت نیاز کلید جدیدی ایجاد کنید. یک کلید فعال برای هر حساب. کلید جدید کلید قبلی را جایگزین می‌کند. کلیدهای خود را امن نگه دارید. برای ذخیره‌سازی از متغیرهای محیطی استفاده کنید.