/ API

Карточка модели

Magnum v4 72B

Это серия моделей, разработанных для воспроизведения качества прозы моделей Claude 3, в частности Sonnet и Opus. Модель дообучена на базе Qwen2.5 72B.

текстДоступна для запросов аптайм скоро

Контекст: 33 тыс. токенов. Учитывайте лимит модели при отправке длинного текста.

ID модели для API

anthracite-org/magnum-v4-72b

Попробовать в чате Как обратиться

Цена в рублях

Входные токены

317,26 ₽

за 1 млн токенов

Выходные токены

634,52 ₽

за 1 млн токенов

Цены из публичного каталога.

Как рассчитывается списание →

Контекст

33 тыс. токенов

вход и выход вместе

Маршрут

OpenRouter

резервный маршрут · скоро

Возможности

текст

Модальность

текстовая

только текст на входе

Вышла

22 октября 2024 г.

у провайдера

Знания

30 июня 2024 г.

дата обрыва знаний

Как оплачивается запрос

курс пересчёта · 1 $ = 84,6 ₽

Вход

317,26 ₽

промпт, изображения, системные сообщения

Выход

634,52 ₽

сгенерированный ответ модели

Чтение кэша

317,26 ₽

повторно отправленный префикс промпта

цены пересчитываются при обновлении курса ЦБ · публичный тариф, у вашего аккаунта цена может отличаться

Сколько стоит один запрос

итого за запрос

1,14 ₽

0,63 ₽ вход · 0,51 ₽ выход

Оценка по токенной цене. Списывается стоимость, которую сообщил провайдер, — в неё могут входить веб-поиск, картинки, звук и ступенчатые тарифы. Резервируем под максимум, после ответа возвращаем разницу, а если вышло дороже — списываем факт.

Как подключить модель

документация → 
from openai import OpenAI

client = OpenAI(
    api_key="sk-air-…",
    base_url="https://api.aireplica.ru/v1"
)

resp = client.chat.completions.create(
    model="anthracite-org/magnum-v4-72b",
    messages=[{"role": "user", "content": "Привет"}]
)

Куда слать запрос

базовый адрес

https://api.aireplica.ru/v1

POST /v1/chat/completionsформат OpenAI

заголовок авторизации

Authorization: Bearer sk-air-…

Резервный маршрут в обход OpenRouter скоро

Проверьте параметры перед переносом

Не все модели поддерживают одинаковые настройки. Возможности конкретной модели важнее совместимости формата запроса.

Ограничения частоты

Своих ограничений частоты запросов у нас нет. Если частоту ограничит провайдер, его ответ 429 придёт к вам как есть.

Что происходит с данными

Тела запросов и ответов мы не сохраняем. Для биллинга остаётся идентификатор модели, количество токенов, сумма и время.

Если модель снимут

Провайдеры снимают модели с публикации. Каталог сверяется с провайдером каждую ночь: снятая модель гаснет, и её страница перестаёт предлагать запросы.