Mistral api：常见错误及修复

混淆基础 URL 与端点

我们的 API 基础 URL 是 HTTPS://api.mistralllmapi.com/v1，而不是标准的 OpenAI 端点。您必须更新客户端配置以指向此特定地址。如果您保留默认的基础 URL，每个请求都会因 404 错误而失败。端点本身保持为 POST /v1/chat/completions。这种结构确保了与标准 OpenAI SDK 的兼容性。开发人员在初始设置期间经常忽略这一简单更改。立即验证您的 base_url 变量。它是所有连接的基础。

忽略上下文窗口限制

该模型支持 100,000 token 的上下文窗口，用于提示词和补全的总和。但是，每次请求的最大输出为 16,000 token。如果不设置 max_tokens，限制将降至 2,048 token。超出这些限制会导致响应被截断或出现错误。请仔细规划提示词长度。短提示词允许更长的输出。长提示词会限制响应长度。请密切关注 token 使用情况。

假设所有模型都是无审查的

并非其他供应商提供的每个模型都没有内容过滤器。我们的单个模型 ID 是“无审查”的。它经过调优，可以在合法成人使用时无拒绝地回答。它不是 GPT、Claude 或 Llama。不要假设其他模型行为相同。检查请求中的模型 ID。我们的模型不拒绝争议性话题。它能有效处理细微的提示词。验证代码中的模型名称。

忽略流式传输实现

支持通过 Server-Sent Events 进行流式传输。您必须解析最后一个数据块以获取准确的 token 用量。中间数据块的 token 计数并不总是准确的。等待 stop_reason 进行处理。这确保您只为完成的请求付费。错误和拒绝是免费的。流式传输降低了长输出的延迟。它显著改善了用户体验。仔细处理部分响应。检查最后一个数据块以获取用量数据。

误解 Token 成本

我们的 LLM API 定价为每 1M 输入令牌 $0.15。输出令牌每 1M 令牌费用为 $0.50。无月度费用或订阅费。额度永不过期。错误不消耗额度。此模式透明且可预测。在扩展前计算您的成本。使用流式传输监控令牌计数。避免不必要的重试以节省额度。预付费额度按实际使用情况收费。定期跟踪您的支出。

预期内容过滤器的行为像 GPT

我们的无审查 AI 模型不使用与 GPT 相同的过滤器。它允许合法的成人内容。它不会拒绝标准的争议话题。假设没有默认限制。彻底测试您的提示词。该模型直接且无过滤。它不加修饰地回答问题。不要期望安全层。通过您的特定用例验证其行为。它专为无限制生成而设计。标准内容没有隐藏的屏蔽。

未正确处理速率限制

每个密钥允许每分钟 300 次请求。您可以拥有 8 个并发请求。请求正文限制为 8 MB。超出这些限制将返回 429 错误。在客户端实现指数退避。不要使用并行线程猛击 API。监控您的使用仪表板。速率限制保护服务稳定性。相应调整并发设置。重试逻辑对于健壮的应用程序至关重要。尊重限制以避免延迟。

混淆模型 ID 和密钥

您的 API 密钥对请求进行身份验证。模型 ID "uncensored" 用于选择模型。请勿混淆两者。在 model 字段中使用 "uncensored"。您的密钥放在 Authorization 头中。在仪表板中检查您的密钥。如有需要，生成新密钥。每个账户一个有效密钥。新密钥替换旧密钥。请保持密钥安全。使用环境变量进行存储。