Карточка модели
Llama 3.1 70B Instruct
Новейший класс моделей от Meta (Llama 3.1) был выпущен в различных размерах и вариациях. Эта версия 70B с инструктивной настройкой оптимизирована для качественных диалоговых сценариев использования.
Контекст: 131 тыс. токенов. Учитывайте лимит модели при отправке длинного текста.
ID модели для API
meta-llama/llama-3.1-70b-instruct
Цена в рублях
Входные токены
91,37 ₽
за 1 млн токенов
Выходные токены
91,37 ₽
за 1 млн токенов
Цены из публичного каталога.
Как рассчитывается списание →Контекст
131 тыс. токенов
вход и выход вместе
Маршрут
OpenRouter
резервный маршрут · скороВозможности
текст
Модальность
текстовая
только текст на входе
Вышла
23 июля 2024 г.
у провайдера
Знания
31 декабря 2023 г.
дата обрыва знаний
Как оплачивается запрос
курс пересчёта · 1 $ = 84,6 ₽
Вход
91,37 ₽
промпт, изображения, системные сообщения
Выход
91,37 ₽
сгенерированный ответ модели
| Направление | Цена ₽/1M |
|---|---|
Вход промпт, изображения, системные сообщения | 91,37 ₽ |
Выход сгенерированный ответ модели | 91,37 ₽ |
цены пересчитываются при обновлении курса ЦБ · публичный тариф, у вашего аккаунта цена может отличаться
Сколько стоит один запрос
итого за запрос
0,26 ₽
0,18 ₽ вход · 0,07 ₽ выход
Оценка по токенной цене. Списывается стоимость, которую сообщил провайдер, — в неё могут входить веб-поиск, картинки, звук и ступенчатые тарифы. Резервируем под максимум, после ответа возвращаем разницу, а если вышло дороже — списываем факт.
Как подключить модель
вся документация →from openai import OpenAI
client = OpenAI(
api_key="sk-air-…",
base_url="https://api.aireplica.ru/v1"
)
resp = client.chat.completions.create(
model="meta-llama/llama-3.1-70b-instruct",
messages=[{"role": "user", "content": "Привет"}]
)
Куда слать запрос
базовый адрес
https://api.aireplica.ru/v1
заголовок авторизации
Authorization: Bearer sk-air-…
Резервный маршрут в обход OpenRouter скоро
Проверьте параметры перед переносом
Похожие модели
весь каталог →Llama 3.3 70B Instruct
meta-llama/llama-3.3-70b-instruct
текст
74,87 ₽ / 100,25 ₽ за 1M
Muse Glimmer 30B (batch)
meta/muse-glimmer-30b:batch
текст
30,46 ₽ / 121,83 ₽ за 1M
Llama 4 Maverick
meta-llama/llama-4-maverick
текст
44,42 ₽ / 126,9 ₽ за 1M
Llama 3.2 3B Instruct
meta-llama/llama-3.2-3b-instruct
текст
6,46 ₽ / 42,51 ₽ за 1M
| Модель | Возможности | Контекст | Вход ₽/1M | Выход ₽/1M |
|---|---|---|---|---|
| Llama 3.3 70B Instructmeta-llama/llama-3.3-70b-instruct | текст | 131 тыс. | 74,87 ₽ | 100,25 ₽ |
| Muse Glimmer 30B (batch)meta/muse-glimmer-30b:batch | текст | 131 тыс. | 30,46 ₽ | 121,83 ₽ |
| Llama 4 Maverickmeta-llama/llama-4-maverick | текст | 524 тыс. | 44,42 ₽ | 126,9 ₽ |
| Llama 3.2 3B Instructmeta-llama/llama-3.2-3b-instruct | текст | 131 тыс. | 6,46 ₽ | 42,51 ₽ |
Ограничения частоты
Своих ограничений частоты запросов у нас нет. Если частоту ограничит провайдер, его ответ 429 придёт к вам как есть.
Что происходит с данными
Тела запросов и ответов мы не сохраняем. Для биллинга остаётся идентификатор модели, количество токенов, сумма и время.
Если модель снимут
Провайдеры снимают модели с публикации. Каталог сверяется с провайдером каждую ночь: снятая модель гаснет, и её страница перестаёт предлагать запросы.