API-dokumentaatio
Aloita tekstin luominen heti OpenAI-yhteensopivalla API:llamme. Tämä opas kattaa todennuksen, päätepisteet ja virtaustuen sisällöntarkastukset ohittavalle mallille.
Todennus ja base URL
Käytä API-avaintasi perus-URL:n HTTPS://api.mistralllmapi.com/v1 kanssa. Luo se välittömästi Google- tai sähköpostitunnuksella Get API key -sivulla. Lähetä avain Authorization-headerissa Bearer-tokenina. Tämä toimii minkä tahansa standardin OpenAI-SDK-asiakkaan kanssa.
- Rekisteröidy ilman puhelinnumeroa.
- Pidä yksi aktiivinen avin tiliä kohden.
- Korvaa vanhat avaimet, kun kierrätät niitä.
curl https://api.mistralllmapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Check if port 8080 is open on 10.0.0.5"}]
}'
Chat Completions Endpoint
Lähetä POST-pyyntöjä osoitteeseen /v1/chat/completions. Anna mallin tunnus arvoksi "uncensored". Anna viestit taulikkona, jossa on rooli- ja sisältökentät. Malli palauttaa tekstin ilman tyypillisiä sisältösuodattimia lailliseen aikuiskäyttöön. Kontesttiluukku on yhteensä 100 000 tokenia sisältäen syötteen ja tulosteen.
from openai import OpenAI
client = OpenAI(base_url="https://api.mistralllmapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Mallien päätepiste
Kysy GET /v1/models -päätepisteestä saatavilla olevat mallit. Varmista, että mallin tunnus vastaa "uncensored". Tämä päätepiste vahvistaa, että yhteytesi toimii. Käytä sitä todennuksen vianmääritykseen ennen raskaiden kuormien lähettämistä. API tarjoaa vain tämän yhden uncensored-mallin.
Streamausvastaukset
Ota käyttöön suoratoisto asettamalla stream arvoon true. Vastaanota palvelimen lähettämiä tapahtumia (SSE). Tokenkäyttötilastot ilmestyvät viimeisessä lohkossa. Tämä menetelmä vähentää koettua viivettä pitkissä tulosteissa. Käsittele osittaisia tokenit huolellisesti asiakaskoodissasi.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Funktikutsut ja JSON-tila
Määritä työkalut pyynnön runkoon funktiokutsuja varten. Aseta tool_choice pakottaaksesi tiettyjä funktioita. Käytä response_format-parametria arvoon json_object tiukan JSON-tulosteen saamiseksi. Parametrit kuten temperature ja top_p säätävät satunnaisuutta. Nämä ominaisuudet tukevat rakenteista datan erottelua.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.mistralllmapi.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Nopeusrajoitukset ja virheet
Oleta 300 pyyntöä minuutissa per avain. Rajoita samanaikaiset pyynnöt 8:aan. Pyynnöt, joiden runko on yli 8 Mt. Palauta 401 virheellisille avaimille. Palauta 402, jos kreditti ei riitä. Palauta 429 nopeusrajoitusten ylittyessä. Virheet eivät kuluta tokeniä. Kreditti vanhenee koskaan.
UKK
Miten saan mistral API -avaimeni?
Rekisteröidy Google-tilillä tai sähköpostiosoitteella API-avainsivulla. Avain näkyy välittömästi. Puhelinnumeroa ei tarvita. Voit kiertää avaimia, mutta vain yksi pysyy aktiivisena.
Mikä on kontekstiikkunan koko?
Malli tukee yhteensä 100 000 tokenia. Tämä sisältää sekä syötteen että tuloksen. Tulostekstin enimmäismäärä pyyntöä kohden on 16 000 tokenia. Oletustulos on 2 048 tokenia, jos sitä ei määritetä.
Kuinka paljon uncensored LLM API maksaa?
Hinta on $0,15 per 1M syöttötokenia ja $0,50 per 1M tulostustokenia. Virheet ja hylkäykset ovat ilmaisia. Lataa vain kryptolla. Aloita $0,50 kokeilusaldo.