Документация API
Начните генерацию текста немедленно с нашим API, совместимым с OpenAI. Это руководство охватывает аутентификацию, конечные точки и потоковую передачу для uncensored модели.
Аутентификация и базовый URL
Используйте свой API-ключ с базовым URL HTTPS://api.mistralllmapi.com/v1. Сгенерируйте его мгновенно через Google или электронную почту на странице получения API-ключа. Передавайте ключ в заголовке Authorization в виде токена Bearer. Это работает с любым стандартным клиентом SDK OpenAI.
- Зарегистрируйтесь без номера телефона.
- Держите один активный ключ на аккаунт.
- Замените старые ключи при их ротации.
curl https://api.mistralllmapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Check if port 8080 is open on 10.0.0.5"}]
}'
Эндпоинт Chat Completions
Отправляйте запросы POST на /v1/chat/completions. Передайте идентификатор модели как "uncensored". Предоставьте сообщения в виде массива с полями role и content. Модель возвращает текст без стандартных фильтров контента для законного использования в взрослых целях. Размер контекстного окна составляет 100 000 токенов, включая входные и выходные данные.
from openai import OpenAI
client = OpenAI(base_url="https://api.mistralllmapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Эндпоинт Модели
Запрос GET /v1/models для получения списка доступных моделей. Убедитесь, что идентификатор модели соответствует "uncensored". Этот эндпоинт подтверждает работоспособность подключения. Используйте его для отладки аутентификации перед отправкой больших запросов. API обслуживает только одну эту uncensored модель.
Потоковые ответы
Включите потоковую передачу, установив stream в true. Получайте события, отправляемые сервером (SSE). Данные об использовании токенов появляются в последнем фрагменте. Этот метод снижает воспринимаемую задержку для длинных выводов. Тщательно обрабатывайте частичные токены в коде клиента.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Function Calling и режим JSON
Определите инструменты в теле запроса для вызова функций. Установите tool_choice для принудительного использования конкретных функций. Используйте response_format с json_object для строгого вывода JSON. Параметры, такие как temperature и top_p, регулируют случайность. Эти функции поддерживают извлечение структурированных данных.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.mistralllmapi.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Лимиты запросов и ошибки
Ожидайте 300 запросов в минуту на ключ. Ограничьте количество одновременных запросов до 8. Запросы с размером тела более 8 МБ. Возвращайте 401 для недействительных ключей. Возвращайте 402, если недостаточно средств. Возвращайте 429 при превышении лимитов. Ошибки не потребляют токены. Кредит не истекает.
FAQ
Как получить API-ключ mistral?
Зарегистрируйтесь через Google или email на странице получения API-ключа. Ключ отобразится сразу. Номер телефона не требуется. Вы можете сгенерировать новый ключ, но только один останется активным.
Каков размер контекстного окна?
Модель поддерживает 100,000 токенов в сумме. Это включает промпт и завершение. Максимальный объем вывода за запрос — 16,000 токенов. По умолчанию вывод составляет 2,048 токенов, если не указано иное.
Сколько стоит uncensored LLM API?
Тарифы: $0.15 за 1M входных токенов и $0.50 за 1M выходных токенов. Ошибки и отказы бесплатны. Пополнение только криптовалютой. Начните с пробного кредита на $0.50.
Получите API-ключ
Зарегистрируйтесь, скопируйте ключ, обновите базовый URL. Это всё.
Получите свой ключ