GPT-4o (2024-08-06)

текстvisiontools

openai/gpt-4o-2024-08-06

Версия GPT-4o от 2024-08-06 предлагает улучшенную производительность при работе со структурированными выходными данными, с возможностью предоставления JSON schema в respone_format. Подробнее читайте здесь (https://openai.com/index/introducing-structured-outputs-in-the-api/). GPT-4o («o» означает «omni») — это...

Контекст

128K токенов

вход и выход вместе

Маршрут

OpenRouter

резервный маршрут · скоро

Возможности

текст · vision · tools

Модальность

мультимодальная

текст, изображения и файлы на входе

Вышла

6 августа 2024 г.

у провайдера

Знания

31 октября 2023 г.

дата обрыва знаний

Цена

курс ЦБ + спред 3 % · 1 $ = 86,72 ₽

Вход

260,17 ₽

промпт, изображения, системные сообщения

цена провайдера 216,81 ₽ · наценка + 20 %

Выход

1 040,68 ₽

сгенерированный ответ модели

цена провайдера 867,23 ₽ · наценка + 20 %

Чтение кэша

130,09 ₽

повторно отправленный префикс промпта

цена провайдера 108,4 ₽ · наценка + 20 %

цены пересчитываются при обновлении курса ЦБ · наценка на эту модель · публичный тариф, у вашего аккаунта цена может отличаться

Сколько стоит один запрос

итого за запрос

1,35 ₽

0,52 ₽ вход · 0,83 ₽ выход

Оценка по токенной цене. Списывается стоимость, которую сообщил провайдер, — в неё могут входить веб-поиск, картинки, звук и ступенчатые тарифы. Резервируем под максимум, после ответа возвращаем разницу.

Как обратиться

документация →
from openai import OpenAI

client = OpenAI(
    api_key="sk-air-…",
    base_url="https://api.aireplica.ru/v1"
)

resp = client.chat.completions.create(
    model="openai/gpt-4o-2024-08-06",
    messages=[{"role": "user", "content": "Привет"}]
)

Куда слать запрос

базовый адрес

https://api.aireplica.ru/v1

POST /v1/chat/completionsформат OpenAI

заголовок авторизации

Authorization: Bearer sk-air-…

Резервный маршрут в обход OpenRouter скоро

Похожие модели

весь каталог →

Ограничения частоты

Своих ограничений частоты запросов у нас нет. Если частоту ограничит провайдер, его ответ 429 придёт к вам как есть.

Что происходит с данными

Тела запросов и ответов мы не сохраняем. Для биллинга остаётся идентификатор модели, количество токенов, сумма и время.

Если модель снимут

Провайдеры снимают модели с публикации. Каталог сверяется с провайдером каждую ночь: снятая модель гаснет, и её страница перестаёт предлагать запросы.