MythoMax 13B
текстgryphe/mythomax-l2-13b
Одна из самых высокопроизводительных и популярных дообученных моделей Llama 2 13B с богатыми описаниями и ролеплеем. #merge
Контекст
8K токенов
вход и выход вместе
Маршрут
OpenRouter
резервный маршрут · скороВозможности
текст
Модальность
текстовая
только текст на входе
Вышла
2 июля 2023 г.
у провайдера
Знания
30 июня 2023 г.
дата обрыва знаний
Цена
курс ЦБ + спред 3 % · 1 $ = 86,72 ₽
Вход
8,33 ₽
промпт, изображения, системные сообщения
цена провайдера 6,94 ₽ · наценка + 20 %
Выход
11,45 ₽
сгенерированный ответ модели
цена провайдера 9,54 ₽ · наценка + 20 %
| Направление | Цена провайдера ₽/1M | Наценка | Итого ₽/1M |
|---|---|---|---|
Вход промпт, изображения, системные сообщения | 6,94 ₽ | + 20 % | 8,33 ₽ |
Выход сгенерированный ответ модели | 9,54 ₽ | + 20 % | 11,45 ₽ |
цены пересчитываются при обновлении курса ЦБ · наценка на эту модель · публичный тариф, у вашего аккаунта цена может отличаться
Сколько стоит один запрос
итого за запрос
0,03 ₽
0,02 ₽ вход · менее 0,01 ₽ выход
Оценка по токенной цене. Списывается стоимость, которую сообщил провайдер, — в неё могут входить веб-поиск, картинки, звук и ступенчатые тарифы. Резервируем под максимум, после ответа возвращаем разницу.
Как обратиться
вся документация →from openai import OpenAI
client = OpenAI(
api_key="sk-air-…",
base_url="https://api.aireplica.ru/v1"
)
resp = client.chat.completions.create(
model="gryphe/mythomax-l2-13b",
messages=[{"role": "user", "content": "Привет"}]
)
Куда слать запрос
базовый адрес
https://api.aireplica.ru/v1
заголовок авторизации
Authorization: Bearer sk-air-…
Резервный маршрут в обход OpenRouter скоро
Ограничения частоты
Своих ограничений частоты запросов у нас нет. Если частоту ограничит провайдер, его ответ 429 придёт к вам как есть.
Что происходит с данными
Тела запросов и ответов мы не сохраняем. Для биллинга остаётся идентификатор модели, количество токенов, сумма и время.
Если модель снимут
Провайдеры снимают модели с публикации. Каталог сверяется с провайдером каждую ночь: снятая модель гаснет, и её страница перестаёт предлагать запросы.