Mistral API：よくあるミスと修正方法

ベースURLとエンドポイントの混同

当社のAPIのベースURLは HTTPS://api.mistralllmapi.com/v1 で、標準のOpenAIエンドポイントではありません。クライアント設定を更新して、この特定のアドレスを指す必要があります。デフォルトのベースURLのままにすると、すべてのリクエストが404エラーで失敗します。エンドポイント自体は POST /v1/chat/completions のままです。この構造は標準のOpenAI SDKとの互換性を確保します。開発者は初期セットアップ中にこの簡単な変更を見逃すことがよくあります。base_url変数を直ちに確認してください。これがすべての接続の基盤です。

コンテキストウィンドウの制限を無視

このモデルは、プロンプトとコンプリーションを合わせた合計で100,000トークンのコンテキストウィンドウをサポートします。ただし、1リクエストあたりの最大出力は16,000トークンです。max_tokensを設定しない場合、制限は2,048トークンに低下します。これらの制限を超えると、レスポンスが切り捨てられたりエラーが発生したりします。プロンプトの長さを慎重に計画してください。短いプロンプトは長い出力を可能にし、長いプロンプトはレスポンスの長さを制限します。トークン使用量を注意深く監視してください。

すべてのモデルがuncensoredであると想定する

他のベンダーが提供するすべてのモデルがコンテンツフィルタを備えているわけではありません。当社の単一のモデルIDは「アンセーサード」です。法的な大人向け用途で拒否なしで回答するようにチューニングされています。GPT、Claude、Llamaではありません。他のモデルが同じように動作すると想定しないでください。リクエスト内のモデルIDを確認してください。当社のモデルは論争的なトピックを拒否しません。ニュアンスのあるプロンプトを効果的に処理します。コード内のモデル名を確認してください。

ストリーミングの実装を見逃す

Server-Sent Eventsを介したストリーミングに対応しています。正確なトークン使用量を取得するには、最後のチャンクを解析する必要があります。中間チャンクでのトークン数は必ずしも正確ではありません。stop_reasonを確認するまで待機してください。これにより、完了したリクエストに対してのみ課金されることを保証します。エラーや拒否は無料です。ストリーミングは長い出力のレイテンシーを削減します。ユーザーエクスペリエンスが大幅に向上します。部分的な応答は慎重に処理してください。使用状況データは最後のチャンクで確認してください。

トークンコストの誤解

当社のLLM APIの料金は、入力トークン1Mあたり$0.15です。出力トークンは1Mあたり$0.50です。月額料金やサブスクリプションはありません。クレジットの有効期限はありません。エラーが発生してもクレジットは消費されません。このモデルは透明性が高く、予測可能です。スケーリング前にコストを計算してください。ストリーミングを使用してトークン数を監視してください。不要なリトライを避けてクレジットを節約してください。前払いクレジットは実際の使用量に応じて課金されます。支出を定期的に追跡してください。

コンテンツフィルタがGPTのように動作することを期待します

当社の無制限AIモデルはGPTと同じフィルタを使用しません。法的な成人向けコンテンツを許可します。標準的なcontroversialなトピックを拒否しません。デフォルトの制限はないと想定してください。プロンプトを十分にテストしてください。モデルは直接的でフィルタリングされていません。遠慮なく質問に回答します。安全レイヤーを期待しないでください。特定のユースケースで動作を確認してください。制限のない生成向けに設計されています。標準コンテンツに対する隠れたブロックはありません。

レート制限の処理が正しくありません

各キーは1分あたり300リクエストまで処理可能です。同時に8リクエストを実行できます。リクエストボディの制限は8 MBです。これらの制限を超えると429エラーが返されます。クライアントで指数バックオフを実装してください。APIに並列スレッドで過負荷をかけないでください。使用状況ダッシュボードを監視してください。レート制限はサービスの安定性を保護します。並列設定を適切に調整してください。リトライロジックは堅牢なアプリに不可欠です。制限を尊重して遅延を回避してください。

モデルIDとキーの混同

APIキーはリクエストを認証します。モデルID "uncensored" はモデルを選択します。これらを混同しないでください。modelフィールドには "uncensored" を使用してください。キーは Authorization ヘッダーに設定します。ダッシュボードでキーを確認してください。必要に応じて新しいキーを生成してください。アカウントごとに有効なキーは1つです。新しいキーは古いキーを置き換えます。キーは安全に保管してください。環境変数を使用して保存してください。