Характеристики Mixtral 8x22B Instruct
Контекстное окно 66K
Дата релиза 17 апреля 2024
Мультимодальность
Входящие данные:
- Текст
- Файл
Исходящие данные:
- Текст
Цены Mixtral 8x22B Instruct в рублях
Оплата производится по факту за использованные токены.
Цены по провайдерам
RouterAI работает с несколькими провайдерами для обеспечения максимальной доступности и оптимальных цен.
-
1Mistral217 ₽Входящие
Умная маршрутизация запросов
Ваши запросы автоматически направляются к провайдеру с самой низкой ценой. Если провайдер недоступен, система мгновенно переключается на следующего по цене, обеспечивая непрерывную работу вашего приложения без потери запросов.
- Автоматический выбор
- Отказоустойчивость
- Лучшая цена
Цены по провайдерам
RouterAI работает с несколькими провайдерами для обеспечения максимальной доступности и оптимальных цен.
-
1Mistral653 ₽Исходящие
Умная маршрутизация запросов
Ваши запросы автоматически направляются к провайдеру с самой низкой ценой. Если провайдер недоступен, система мгновенно переключается на следующего по цене, обеспечивая непрерывную работу вашего приложения без потери запросов.
- Автоматический выбор
- Отказоустойчивость
- Лучшая цена
Цены по провайдерам
RouterAI работает с несколькими провайдерами для обеспечения максимальной доступности и оптимальных цен.
-
1Mistral21 ₽Чтение кеша
Умная маршрутизация запросов
Ваши запросы автоматически направляются к провайдеру с самой низкой ценой. Если провайдер недоступен, система мгновенно переключается на следующего по цене, обеспечивая непрерывную работу вашего приложения без потери запросов.
- Автоматический выбор
- Отказоустойчивость
- Лучшая цена
Цены указаны в рублях и могут меняться в зависимости от курса валют
Что умеет Mixtral 8x22B Instruct
Официальная обученная версия Mistral Mixtral 8x22B. Она использует 39 миллиардов активных параметров из 141 миллиарда, предлагая непревзойденную экономическую эффективность для своего размера. Ее сильные стороны включают: - сильные навыки в математике, программировании и рассуждениях - большая длина контекста (64k) - свободное владение английским, французским, итальянским, немецким и испанским языками
Смотрите результаты тестирования в объявлении о запуске здесь.
API Mixtral 8x22B Instruct: подключение и примеры кода
Наш сервис предоставляет единый API, совместимый с OpenAI SDK. Просто укажите наш base_url и используйте ключ, полученный в личном кабинете.
from openai import OpenAI
client = OpenAI(
api_key="YOUR_API_KEY",
base_url="https://routerai.ru/api/v1"
)
response = client.chat.completions.create(
model="mistralai/mixtral-8x22b-instruct",
messages=[
{"role": "user", "content": "Hello, how are you?"}
]
)
print(response.choices[0].message.content)
import requests
import json
url = "https://routerai.ru/api/v1/chat/completions"
headers = {
"Authorization": "Bearer YOUR_API_KEY",
"Content-Type": "application/json"
}
data = {
"model": "mistralai/mixtral-8x22b-instruct",
"messages": [
{"role": "user", "content": "Hello, how are you?"}
]
}
response = requests.post(url, headers=headers, json=data)
result = response.json()
print(json.dumps(result, indent=2))
curl -X POST "https://routerai.ru/api/v1/chat/completions" \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "mistralai/mixtral-8x22b-instruct",
"messages": [
{"role": "user", "content": "Hello, how are you?"}
]
}'
Эндпоинты API
Chat Completions
Основной эндпоинт: принимает историю сообщений и возвращает ответ модели. Поддерживает потоковый (SSE) и обычный режимы.
https://routerai.ru/api/v1/chat/completions
Поддерживаемые параметры запроса
max_tokens
temperature
top_p
seed
response_format
stop
frequency_penalty
presence_penalty
structured_outputs
tool_choice
tools
Responses API
Создаёт ответ в формате OpenAI Responses API — для агентных сценариев и работы с инструментами. Поддерживает потоковый и обычный режимы.
https://routerai.ru/api/v1/responses
Поддерживаемые параметры запроса
max_tokens
temperature
top_p
seed
response_format
stop
frequency_penalty
presence_penalty
structured_outputs
tool_choice
tools
Messages API
Создаёт сообщение в формате Anthropic Messages API. Поддерживает текст, изображения, инструменты и размышления (thinking).
https://routerai.ru/api/v1/messages
Поддерживаемые параметры запроса
max_tokens
temperature
top_p
seed
response_format
stop
frequency_penalty
presence_penalty
structured_outputs
tool_choice
tools