Карточка модели

Mixtral 8x22B Instruct

Официальная версия Mixtral 8x22B, дообученная Mistral для выполнения инструкций. Она использует 39B активных параметров из 141B, обеспечивая непревзойденную экономическую эффективность для своего размера.

текстДоступна для запросов аптайм скоро

Вызов инструментов

Контекст: 66 тыс. токенов. Учитывайте лимит модели при отправке длинного текста.

ID модели для API

mistralai/mixtral-8x22b-instruct

Цена в рублях

Входные токены

253,81 ₽

за 1 млн токенов

Выходные токены

761,42 ₽

за 1 млн токенов

Цены из публичного каталога.

Как рассчитывается списание →

Контекст

66 тыс. токенов

вход и выход вместе

Маршрут

OpenRouter

резервный маршрут · скоро

Возможности

текст · Вызов инструментов

Модальность

мультимодальная

текст и файлы на входе

Вышла

17 апреля 2024 г.

у провайдера

Знания

31 января 2024 г.

дата обрыва знаний

Как оплачивается запрос

курс пересчёта · 1 $ = 84,6 ₽

Вход

253,81 ₽

промпт, изображения, системные сообщения

Выход

761,42 ₽

сгенерированный ответ модели

Чтение кэша

25,38 ₽

повторно отправленный префикс промпта

цены пересчитываются при обновлении курса ЦБ · публичный тариф, у вашего аккаунта цена может отличаться

Сколько стоит один запрос

итого за запрос

1,12 ₽

0,51 ₽ вход · 0,61 ₽ выход

Оценка по токенной цене. Списывается стоимость, которую сообщил провайдер, — в неё могут входить веб-поиск, картинки, звук и ступенчатые тарифы. Резервируем под максимум, после ответа возвращаем разницу, а если вышло дороже — списываем факт.

Как подключить модель

документация →
from openai import OpenAI

client = OpenAI(
    api_key="sk-air-…",
    base_url="https://api.aireplica.ru/v1"
)

resp = client.chat.completions.create(
    model="mistralai/mixtral-8x22b-instruct",
    messages=[{"role": "user", "content": "Привет"}]
)

Куда слать запрос

базовый адрес

https://api.aireplica.ru/v1

POST /v1/chat/completionsформат OpenAI

заголовок авторизации

Authorization: Bearer sk-air-…

Резервный маршрут в обход OpenRouter скоро

Проверьте параметры перед переносом

Не все модели поддерживают одинаковые настройки. Возможности конкретной модели важнее совместимости формата запроса.

Похожие модели

весь каталог →

Ограничения частоты

Своих ограничений частоты запросов у нас нет. Если частоту ограничит провайдер, его ответ 429 придёт к вам как есть.

Что происходит с данными

Тела запросов и ответов мы не сохраняем. Для биллинга остаётся идентификатор модели, количество токенов, сумма и время.

Если модель снимут

Провайдеры снимают модели с публикации. Каталог сверяется с провайдером каждую ночь: снятая модель гаснет, и её страница перестаёт предлагать запросы.