API dokumentáció
Kezdje el a szöveggenerálást azonnal OpenAI-kompatibilis API-nk segítségével. Ez az útmutató az azonosítást, végpontokat és streamelést tárgyalja a cenzúra nélküli modellhez.
Hitelesítés és Base URL
Használja API-kulcsát az HTTPS://api.mistralllmapi.com/v1 alap URL-lel. Azonnal generálhatja Google-fiókkal vagy e-maillel a 'Get API key' oldalon. Adja át a kulcsot az Authorization fejlécben Bearer tokenként. Ez működik bármely szabványos OpenAI SDK klienssel.
- Regisztráljon telefonszám nélkül.
- Tartsa meg egy aktív kulcsot fiontonként.
- Cserélje ki a régi kulcsokat, amikor cseréli őket.
curl https://api.mistralllmapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Check if port 8080 is open on 10.0.0.5"}]
}'
Chat Completions végpont
Küldjön POST kéréseket a /v1/chat/completions végpontra. Adja meg a modellazonosítót „uncensored” néven. Adjon meg üzeneteket role és content mezőkkel tartalmazó tömbben. A modell szöveget ad vissza a szokásos tartalomszűrők nélkül jogi felnőtt felhasználáshoz. A kontextusablak összesen 100 000 token, beleértve a bemenetet és a kimenetet.
from openai import OpenAI
client = OpenAI(base_url="https://api.mistralllmapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Models Végpont
Query GET /v1/models a elérhető modellek listázásához. Ellenőrizze, hogy a modell azonosító egyezik-e "uncensored"-rel. Ez a végpont megerősíti, hogy a kapcsolat működik. Használja a hitelesítés hibakeresésére nehéz terhek küldése előtt. Az API csak ezt az egyetlen uncensored modellt szolgálja ki.
Streamelési válaszok
A streamelés engedélyezéséhez állítsa a stream paramétert true értékre. Fogadja a Server-Sent Events (SSE) formátumot. A token-használati részletek az utolsó chunkban jelennek meg. Ez a módszer csökkenti az észlelt késleltetést hosszú kimenetek esetén. A részleges tokeneket óvatosan kezelje a kliens kódjában.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Függvényhívás és JSON mód
Határozzon meg eszközöket a kérés törzsében a függvényhíváshoz. Állítsa be a tool_choice értéket specifikus függvények kikényszerítéséhez. Használja a response_format paramétert json_object értékkel a szigorú JSON kimenethez. A temperature és top_p paraméterek szabályozzák a véletlenszerűséget. Ezek a funkciók támogatják a szerkezetes adat kinyerését.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.mistralllmapi.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Sebességkorlátok és hibák
Várhatóan percenként 300 kérés kulcsonként. Korlátozza a párhuzamos kérések számát 8-ra. A 8 MB-nál nagyobb törzsméretű kérések. 401-es hibát ad vissza érvénytelen kulcsok esetén. 402-es hibát ad vissza, ha a kredit nem elegendő. 429-es hibát ad vissza az átfolyási korlátok esetén. A hibák nem fogyasztanak tokeneket. A kredit nem jár le.
GYIK
Hogyan szerezhetem meg a mistral API-kulcsomat?
Jelentkezz be Google-fióllal vagy e-mail-címmel az API-kulcs oldalán. A kulcs azonnal megjelenik. Nem szükséges telefonszám. Szükség esetén cserélheted a kulcsokat, de csak egy marad aktív.
Mekkora a kontextusablak mérete?
A modell 100 000 token teljes kapacitást támogat. Ez magában foglalja a prompt és a completion együttvéve. A maximális kimenet kérésenként 16 000 token. Ha nincs megadva, a kimenet alapértelmezett értéke 2 048 token.
Mennyibe kerül az uncensored LLM API?
Az árak $0.15/1M bemeneti token és $0.50/1M kimeneti token. A hibák és visszautasítások ingyenesek. Kizárólag kriptovalutával töltheted fel a számlát. Kezdéshez $0.50 próbahitel áll rendelkezésre.
Szerezze be az API-kulcsát
Jelentkezz be, másold ki a kulcsot, frissítsd az alap URL-det. Ennyi.
Szerezze meg a kulcsát