Mistral api：常見錯誤與修復

混淆基礎 URL 與端點

我們的 API 基礎 URL 為 HTTPS://api.mistralllmapi.com/v1，而非標準的 OpenAI 端點。您必須更新客戶端配置以指向此特定地址。如果您保留預設基礎 URL，每個請求都會因 404 錯誤而失敗。端點本身仍為 POST /v1/chat/completions。此結構確保了與標準 OpenAI SDK 的兼容性。開發人員在初始設置期間經常錯過這個簡單的更改。立即驗證您的 base_url 變量。這是所有連接的基礎。

忽略上下文視窗限制

該模型支援 100,000 token 的上下文視窗，用於提示詞與補全的總和。然而，每個請求的最大輸出為 16,000 token。若未設定 max_tokens，限制將降至 2,048 token。超過這些限制會導致回應被截斷或產生錯誤。請仔細規劃提示詞長度。短提示詞允許更長的輸出。長提示詞會限制回應長度。請密切監控您的 token 使用量。

假設所有模型都是無審查的

並非其他供應商提供的每種模型都沒有內容過濾器。我們的單一模型 ID 為「無審查」。它經過微調，可在合法成人用途下無拒絕地回答。它不是 GPT、Claude 或 Llama。不要假設其他模型具有相同的行為。請在請求中檢查模型 ID。我們的模型不會拒絕爭議性主題。它能有效處理細微的提示詞。請在程式碼中驗證模型名稱。

忽略串流實作

支援透過 Server-Sent Events 進行串流傳輸。您必須解析最後一個區塊才能取得準確的 token 用量。中間區塊的 token 計數並不總是準確。請等待 stop_reason 出現後再進行處理。這確保您只為已完成的請求付費。錯誤和拒絕回應均免費。串流傳輸可降低長輸出內容的延遲。這顯著改善了使用者體驗。請謹慎處理部分回應。請檢查最後一個區塊以取得用量資料。

誤解 Token 成本

我們的 LLM API 計費為每百萬輸入 Token $0.15。輸出 Token 每百萬 Token 費用為 $0.50。無月費或訂閱費。額度永不過期。錯誤不會消耗額度。此模式透明且可預測。在擴展之前計算您的成本。使用串流監控 Token 計數。避免不必要的重試以節省額度。預付額度按實際使用量收費。定期追蹤您的支出。

預期內容過濾器的行為與 GPT 類似

我們的無審查 AI 模型不使用與 GPT 相同的過濾器。它允許合法的成人內容。它不會拒絕標準的爭議性主題。假設沒有預設限制。仔細測試您的提示詞。該模型直接且未經過濾。它不加修飾地回答問題。不要期待安全層。針對您的特定使用案例驗證行為。它專為無限制生成而設計。標準內容沒有隱藏的阻擋。

未正確處理速率限制

每個金鑰允許每分鐘 300 次請求。您可以進行 8 個併發請求。請求主體上限為 8 MB。超出這些限制將返回 429 錯誤。在您的客戶端實作指數退避。不要以平行執行緒轟炸 API。監控您的使用儀表板。速率限制保護服務穩定性。請相應調整併發設定。重試邏輯對於健壯的應用程式至關重要。遵守限制以避免延遲。

混淆模型 ID 與金鑰

您的 API 金鑰用於驗證請求。模型 ID "uncensored" 用於選擇模型。請勿將兩者混淆。請在 model 欄位使用 "uncensored"。您的金鑰應放在 Authorization 標頭中。請在儀表板檢查您的金鑰。如有需要可產生新金鑰。每個帳戶一個有效金鑰。新金鑰會取代舊金鑰。請妥善保管金鑰。建議使用環境變數進行儲存。