/ API

Карточка модели

Llama 3.3 70B Instruct

Мультиязычная большая языковая модель (LLM) Meta Llama 3.3 — это предварительно обученная и донастроенная на выполнение инструкций генеративная модель с 70B параметров (text in/text out).

текстДоступна для запросов аптайм скоро

Вызов инструментов

Контекст: 131 тыс. токенов. Учитывайте лимит модели при отправке длинного текста.

ID модели для API

meta-llama/llama-3.3-70b-instruct

Попробовать в чате Как обратиться

Цена в рублях

Входные токены

74,87 ₽

за 1 млн токенов

Выходные токены

100,25 ₽

за 1 млн токенов

Цены из публичного каталога.

Как рассчитывается списание →

Контекст

131 тыс. токенов

вход и выход вместе

Маршрут

OpenRouter

резервный маршрут · скоро

Возможности

текст · Вызов инструментов

Модальность

текстовая

только текст на входе

Вышла

6 декабря 2024 г.

у провайдера

Знания

31 декабря 2023 г.

дата обрыва знаний

Как оплачивается запрос

курс пересчёта · 1 $ = 84,6 ₽

Вход

74,87 ₽

промпт, изображения, системные сообщения

Выход

100,25 ₽

сгенерированный ответ модели

Чтение кэша

37,44 ₽

повторно отправленный префикс промпта

цены пересчитываются при обновлении курса ЦБ · публичный тариф, у вашего аккаунта цена может отличаться

Сколько стоит один запрос

итого за запрос

0,23 ₽

0,15 ₽ вход · 0,08 ₽ выход

Оценка по токенной цене. Списывается стоимость, которую сообщил провайдер, — в неё могут входить веб-поиск, картинки, звук и ступенчатые тарифы. Резервируем под максимум, после ответа возвращаем разницу, а если вышло дороже — списываем факт.

Как подключить модель

документация → 
from openai import OpenAI

client = OpenAI(
    api_key="sk-air-…",
    base_url="https://api.aireplica.ru/v1"
)

resp = client.chat.completions.create(
    model="meta-llama/llama-3.3-70b-instruct",
    messages=[{"role": "user", "content": "Привет"}]
)

Куда слать запрос

базовый адрес

https://api.aireplica.ru/v1

POST /v1/chat/completionsформат OpenAI

заголовок авторизации

Authorization: Bearer sk-air-…

Резервный маршрут в обход OpenRouter скоро

Проверьте параметры перед переносом

Не все модели поддерживают одинаковые настройки. Возможности конкретной модели важнее совместимости формата запроса.

Похожие модели

весь каталог →

Llama 3.1 70B Instruct

meta-llama/llama-3.1-70b-instruct

текст

91,37 ₽ / 91,37 ₽ за 1M

Muse Glimmer 30B (batch)

meta/muse-glimmer-30b:batch

текст

30,46 ₽ / 121,83 ₽ за 1M

Llama 4 Maverick

meta-llama/llama-4-maverick

текст

44,42 ₽ / 126,9 ₽ за 1M

Muse Glimmer 30B

meta/muse-glimmer-30b

текст

38,07 ₽ / 152,28 ₽ за 1M

Ограничения частоты

Своих ограничений частоты запросов у нас нет. Если частоту ограничит провайдер, его ответ 429 придёт к вам как есть.

Что происходит с данными

Тела запросов и ответов мы не сохраняем. Для биллинга остаётся идентификатор модели, количество токенов, сумма и время.

Если модель снимут

Провайдеры снимают модели с публикации. Каталог сверяется с провайдером каждую ночь: снятая модель гаснет, и её страница перестаёт предлагать запросы.