Llama 3.1 8B Instruct
текстtoolsmeta-llama/llama-3.1-8b-instruct
Новейший класс моделей от Meta (Llama 3.1) был выпущен в различных размерах и вариациях. Эта версия 8B с инструктивной настройкой является быстрой и эффективной. Она продемонстрировала высокую производительность по сравнению с...
Контекст
131K токенов
вход и выход вместе
Маршрут
OpenRouter
резервный маршрут · скороВозможности
текст · tools
Модальность
текстовая
только текст на входе
Вышла
23 июля 2024 г.
у провайдера
Знания
31 декабря 2023 г.
дата обрыва знаний
Цена
курс ЦБ + спред 3 % · 1 $ = 86,72 ₽
Вход
5,2 ₽
промпт, изображения, системные сообщения
цена провайдера 4,34 ₽ · наценка + 20 %
Выход
8,33 ₽
сгенерированный ответ модели
цена провайдера 6,94 ₽ · наценка + 20 %
Чтение кэша
2,6 ₽
повторно отправленный префикс промпта
цена провайдера 2,17 ₽ · наценка + 20 %
| Направление | Цена провайдера ₽/1M | Наценка | Итого ₽/1M |
|---|---|---|---|
Вход промпт, изображения, системные сообщения | 4,34 ₽ | + 20 % | 5,2 ₽ |
Выход сгенерированный ответ модели | 6,94 ₽ | + 20 % | 8,33 ₽ |
Чтение кэша повторно отправленный префикс промпта | 2,17 ₽ | + 20 % | 2,6 ₽ |
цены пересчитываются при обновлении курса ЦБ · наценка на эту модель · публичный тариф, у вашего аккаунта цена может отличаться
Сколько стоит один запрос
итого за запрос
0,02 ₽
0,01 ₽ вход · менее 0,01 ₽ выход
Оценка по токенной цене. Списывается стоимость, которую сообщил провайдер, — в неё могут входить веб-поиск, картинки, звук и ступенчатые тарифы. Резервируем под максимум, после ответа возвращаем разницу.
Как обратиться
вся документация →from openai import OpenAI
client = OpenAI(
api_key="sk-air-…",
base_url="https://api.aireplica.ru/v1"
)
resp = client.chat.completions.create(
model="meta-llama/llama-3.1-8b-instruct",
messages=[{"role": "user", "content": "Привет"}]
)
Куда слать запрос
базовый адрес
https://api.aireplica.ru/v1
заголовок авторизации
Authorization: Bearer sk-air-…
Резервный маршрут в обход OpenRouter скоро
Похожие модели
весь каталог →Llama Guard 4 12B
meta-llama/llama-guard-4-12b
текст
18,73 ₽ / 18,73 ₽ за 1M
Muse Spark 1.2 Contributor
meta/muse-spark-1.2-contributor
текст
10,41 ₽ / 20,81 ₽ за 1M
Muse Spark 1.3 Contributor
meta/muse-spark-1.3-contributor
текст
10,41 ₽ / 20,81 ₽ за 1M
Llama 3.2 1B Instruct
meta-llama/llama-3.2-1b-instruct
текст
2,81 ₽ / 20,92 ₽ за 1M
| Модель | Возможности | Контекст | Вход ₽/1M | Выход ₽/1M |
|---|---|---|---|---|
| Llama Guard 4 12Bmeta-llama/llama-guard-4-12b | текст | 164K | 18,73 ₽ | 18,73 ₽ |
| Muse Spark 1.2 Contributormeta/muse-spark-1.2-contributor | текст | 1.049M | 10,41 ₽ | 20,81 ₽ |
| Muse Spark 1.3 Contributormeta/muse-spark-1.3-contributor | текст | 1.049M | 10,41 ₽ | 20,81 ₽ |
| Llama 3.2 1B Instructmeta-llama/llama-3.2-1b-instruct | текст | 60K | 2,81 ₽ | 20,92 ₽ |
Ограничения частоты
Своих ограничений частоты запросов у нас нет. Если частоту ограничит провайдер, его ответ 429 придёт к вам как есть.
Что происходит с данными
Тела запросов и ответов мы не сохраняем. Для биллинга остаётся идентификатор модели, количество токенов, сумма и время.
Если модель снимут
Провайдеры снимают модели с публикации. Каталог сверяется с провайдером каждую ночь: снятая модель гаснет, и её страница перестаёт предлагать запросы.