Mistral API: Yaygın Hatalar ve Çözümler

Temel URL'leri uç noktalarla karıştırmak

API'mizin temel URL'si HTTPS://api.mistralllmapi.com/v1'dir; standart OpenAI uç noktası değildir. İstemci yapılandırmanızı bu belirli adrese işaret edecek şekilde güncellemeniz gerekir. Varsayılan temel URL'yi bırakırsanız, her istek 404 hatası ile başarısız olur. Uç nokta POST /v1/chat/completions olarak kalır. Bu yapı, standart OpenAI SDK'larıyla uyumluluğu sağlar. Geliştiricler genellikle ilk kurulum sırasında bu basit değişikliği kaçırır. Temel_url değişkeninizi hemen doğrulayın. Tüm bağlantıların temelidir.

Bağlam penceresi sınırlarını yok say

Model, birleşik istek ve tamamlama için 100.000 token'lık bir bağlam penceresi destekler. Ancak, istek başına maksimum çıktı 16.000 token'dır. max_tokens ayarlanmazsa, sınır 2.048 token'a düşer. Bu sınırları aşmak yanıtın kesilmesine veya hatalara neden olur. İstek uzunluğunuzu dikkatlice planlayın. Kısa istekler daha uzun çıktılara olanak tanır. Uzun istekler yanıt uzunluğunu kısıtlar. Token kullanımınızı yakından izleyin.

Tüm modellerin sansürsüz olduğu varsayılıyor

Diğer satıcıların sunduğu her model içerik filtrelerine sahip değildir. Tek model kimliğimiz "uncensored"dur. Yasal yetişkin kullanım için reddetmeler olmadan cevap verecek şekilde ayarlanmıştır. GPT, Claude veya Llama değildir. Diğer modellerin aynı şekilde davrandığını varsaymayın. İsteğinizdeki model kimliğini kontrol edin. Modelimiz tartışmalı konuları reddetmez. İnce detaylı prompt'ları etkili bir şekilde yönetir. Kodunuzdaki model adını doğrulayın.

Akış uygulamasını göz ardı etme

Sunucu Tarafından Gönderilen Etkinlikler (SSE) üzerinden streaming desteklenir. Doğru token kullanımını almak için son chunk'ı ayrıştırmalısınız. Token sayıları ara chunk'larda her zaman doğru olmayabilir. İşleme için stop_reason'u bekleyin. Bu, yalnızca tamamlanan istekler için ödeme yapmanızı sağlar. Hatalar ve reddetmeler ücretsizdir. Streaming, uzun çıktılar için gecikmeyi azaltır. Kullanıcı deneyimini önemli ölçüde iyileştirir. Kısmi yanıtları dikkatlice işleyin. Kullanım verileri için son chunk'a bakın.

Token maliyetlerini yanlış anlama

LLM API fiyatlandırması, 1M giriş token'ı başına $0.15'tir. Çıkış token'ları, 1M token başına $0.50'dir. Aylık ücret veya abonelik yoktur. Kredi süresi dolmaz. Hatalar krediyi tüketmez. Bu model şeffaf ve öngörülebilirdir. Ölçeklendirmeden önce maliyetlerinizi hesaplayın. Token sayılarını izlemek için akışı kullanın. Kredileri korumak için gereksiz yeniden denemelerden kaçının. Ön ödemeli kredi, gerçek kullanım tarafından faturalandırılır. Harcamalarınızı düzenli olarak takip edin.

İçerik filtrelerinin GPT gibi davranmasını bekleniyor

Filtresiz AI modeli, GPT'nin kullandığı filtreleri kullanmaz. Yasal yetişkin içeriğe izin verir. Standart çelişkili konuları reddetmez. Varsayılan kısıtlamalar olmadığını varsayın. Promptlarınızı dikkatlice test edin. Model doğrudan ve süzgeçten geçirilmemişdir. Soruları çekinmeden yanıtlar. Güvenlik katmanları beklemeyin. Davranışı özel kullanım durumunuzla doğrulayın. Sınırsız üretim için tasarlanmıştır. Standart içerikler için gizli engeller yoktur.

Oran sınırlamalarını (rate limits) doğru şekilde işlemiyor

Her anahtar dakikada 300 istek yapmanıza olanak tanır. 8 eşzamanlı istek yapabilirsiniz. İstek gövdesi limiti 8 MB'dır. Bu limitleri aşmak bir 429 hatası döndürür. İstemcinizde üstel geri çekilme uygulayın. API'yi paralel iş parçacıklarıyla yığmayın. Kullanım panelinizi izleyin. Hız limitleri hizmet kararlılığını korur. Eşzamanlılık ayarlarınızı buna göre ayarlayın. Yeniden deneme mantığı sağlam uygulamalar için esastır. Gecikmelerden kaçınmak için limitlere saygı gösterin.

Model kimliklerini ve anahtarları karıştırmak

API anahtarınız isteği doğrular. "uncensored" model kimliği modeli seçer. İkisini karıştırmayın. Model alanında "uncensored" kullanın. Anahtarınız Authorization başlığında olmalıdır. Anahtarınızı kontrol panelinde kontrol edin. Gerekirse yeni bir anahtar oluşturun. Hesap başına bir aktif anahtar. Yeni anahtar eskisini değiştirir. Anahtarlarınızı güvenli tutun. Depolama için ortam değişkenlerini kullanın.