OpenAI обновила API: почти реальное время для AI-агентов
OpenAI выпустила обновления для своих API-решений, позволяя разработчикам интегрировать функции в рабочие процессы в режиме почти реального времени. Это направлено на создание более быстрых, экономичных и функциональных приложений и AI-агентов.
Среди ключевых улучшений — нативная интеграция с GPT-Live, которая позволяет голосовым приложениям реагировать мгновенно, как только человек начинает говорить. Также введена возможность кэширования подсказок, что существенно снижает операционные затраты при повторном использовании контекста.
Кроме того, API теперь поддерживает структурированные данные через нативные JSON-входы, а лимит контекста увеличен до 400 вопросов, что позволяет принимать вдвое больше решений за один вызов. Эти обновления значительно повышают масштабируемость и сложность создаваемых AI-систем.
Почему это важно
- —Позволяет создавать голосовые приложения с реакцией в реальном времени благодаря GPT-Live.
- —Повышает экономическую эффективность разработки за счет кэширования подсказок.
- —Увеличивает вычислительную мощность агентов за счет расширенного контекстного окна (до 400 вопросов).
Ключевые факты
- Добавлена нативная интеграция с GPT-Live для голосовых приложений.
- Внедрено кэширование подсказок для снижения затрат.
- Поддерживаются нативные JSON-входы для структурированных данных.
- Увеличен лимит контекста до 400 вопросов за запрос.
Полный текст — в первоисточнике. Здесь — краткое изложение и ключевые факты.