Пять способов управлять расходами на корпоративный ИИ с учётом ценности
OpenAI утверждает, что корпоративные расходы на ИИ следует контролировать, ориентируясь на ценность выполненной работы, а не на стоимость отдельных токенов. Хотя компания заявляет, что цена за миллион токенов снизилась на 97% при переходе от GPT-4 к GPT-5.4, снижение удельной стоимости не приводит автоматически к улучшению экономики. В качестве примера повышения эффективности компания также приводит GPT-5.6: по её словам, модель показывает более высокие результаты в Artificial Analysis Coding Agent Index, при этом использует на 54% меньше выходных токенов и тратит на выполнение каждой задачи на 57% меньше времени. Главная рекомендация — измерять объём полезной работы на каждый потраченный доллар: количество выполненных задач, сэкономленное время, качество принятых решений и возможность масштабировать рабочие процессы.
Этот сдвиг становится особенно важным по мере того, как сотрудники выходят за рамки коротких диалогов в чате и начинают использовать ИИ для длительных многоэтапных рабочих процессов. Корпоративным администраторам необходимо понимать, кто использует ИИ, какие продукты и модели выбирают сотрудники, сколько ресурсов они потребляют и какие бизнес-задачи решаются за счёт этого потребления. Без такого контекста рост расходов можно трактовать по-разному: он может указывать на неэффективное использование ресурсов, продуктивные эксперименты, расширение внедрения или появление регулярного процесса, ставшего критически важным для бизнеса.
OpenAI представляет обновлённую аналитику и средства контроля расходов в консоли администратора ChatGPT как инструменты для обеспечения такой прозрачности. Администраторы могут анализировать внедрение, расход кредитов и затраты в разрезе пользователей, продуктов и моделей, а также отслеживать тенденции и выявлять повторяющиеся закономерности. Анализ должен проводиться на нескольких уровнях. На уровне рабочего пространства руководители могут сопоставлять масштабы внедрения с общими расходами. На уровне команд и отдельных сотрудников они могут находить области растущего спроса и определять, кому может потребоваться обучение или дополнительная поддержка. На уровне продуктов и моделей можно увидеть, где используются более дорогие возможности и сохраняется ли спрос на них со временем. Эти данные призваны помогать принимать решения об инвестициях, внедрении, обучении и установлении ограничений.
В статье отмечается, что выбор модели с самыми дешёвыми токенами может увеличить общую стоимость рабочего процесса. Менее производительная модель может выдавать неприемлемые результаты, требовать повторных попыток или создавать материалы, которые сотрудникам придётся исправлять. Более мощная модель может стоить дороже в расчёте на токен, но при этом оказаться экономичнее, если она быстрее достигает приемлемого результата, требует меньше повторных попыток и сокращает объём проверки человеком. Поэтому модели следует сравнивать по полной стоимости получения принятого результата, а не по заявленным тарифам на токены.
Чтобы такое сравнение было содержательным, организациям следует создавать наборы оценок на основе реальных рабочих задач, включая сложные и нестандартные случаи, а также заранее определять минимально приемлемый уровень качества. Затем необходимо измерять потребление ресурсов моделями и инструментами, количество попыток, долю успешно выполненных задач, задержку и объём необходимой проверки человеком. Для важных рабочих процессов предпочтительной метрикой является стоимость одного принятого результата. В службе поддержки клиентов таким результатом может быть решённое обращение, а в разработке программного обеспечения — протестированное изменение, успешно прошедшее проверку. Эту стоимость следует рассматривать вместе с такими преимуществами для бизнеса, как сокращение продолжительности рабочих циклов, сохранённая выручка, предотвращённые риски, сэкономленное время сотрудников или появившиеся дополнительные ресурсы.
На экономику также влияет устройство рабочего процесса. Чёткие инструкции, тщательно отобранный набор инструментов, повторно используемый контекст и явно заданные условия завершения могут предотвращать ненужные циклы и сокращать бесполезное потребление ресурсов. Более компактные или быстрые модели уместны, если они стабильно обеспечивают требуемый уровень качества, тогда как наиболее мощные модели следует использовать для сложных, неоднозначных или критически важных задач. Таким образом, маршрутизация запросов между моделями становится практическим управленческим решением, а не безусловным предпочтением либо самого дешёвого, либо самого передового варианта.
Управление описывается как операционная основа, определяющая, какие рабочие процессы с использованием ИИ можно безопасно масштабировать. Руководители должны установить, какой корпоративный контекст разрешено использовать ChatGPT, к каким подключённым инструментам он может обращаться, какие действия ему разрешено выполнять, кто должен одобрять шаги с повышенным риском и как команды могут запрашивать дополнительные ресурсы после того, как продемонстрируют ценность своей работы. Эти вопросы становятся особенно важными при внедрении плагинов, коннекторов, Computer Use и других возможностей, способных выполнять действия в корпоративных системах, а не просто генерировать текст.
ChatGPT Work представлен как решение, обеспечивающее централизованный контроль доступа, утверждённого контекста, подключённых инструментов, разрешённых действий, использования ресурсов и расходов. Настройки рабочего пространства по умолчанию, ограничения на уровне групп, индивидуальные исключения и запросы на пересмотр лимитов с описанием контекста проекта позволяют администраторам финансировать перспективные инициативы, не повышая лимиты для всех. Предлагаемый подход объединяет финансовый контроль с управлением рисками, позволяя выборочно одобрять повышенные расходы, если рабочий процесс имеет убедительное экономическое обоснование и надлежащие защитные меры.
По словам OpenAI, приоритетным проектам специалисты компании по внедрению ИИ могут помочь с оценкой, архитектурой, задержками, надёжностью, проектированием рабочих процессов, производительностью и экономической эффективностью. Вопросы конфиденциальности и управления предполагается учитывать с самого начала, а не добавлять уже после внедрения. Для работы с конфиденциальными данными до масштабирования необходимо обеспечить соответствующий контроль доступа, политики хранения, прозрачность для соблюдения нормативных требований и процедуры согласования. В статье также упоминаются корпоративные функции конфиденциальности, включая доступные в определённых случаях режимы Zero Data Retention, предназначенные для внедрений в средах со строгими требованиями к доверию и защите данных.
Наконец, корпоративными инвестициями в ИИ следует управлять как портфелем, а не как единой однородной программой. В статье выделяются широкий доступ к ИИ для повышения повседневной продуктивности сотрудников, специализированные рабочие процессы, улучшающие повторяющуюся работу в отдельных подразделениях, и более узкий набор стратегических инициатив, основанных на уникальном корпоративном контексте. Такой портфельный подход позволяет руководителям сочетать широкие эксперименты с дисциплинированными инвестициями в рабочие процессы, способные обеспечивать воспроизводимые результаты, операционную готовность и значимую ценность для бизнеса.
Почему это важно
- —Затраты на корпоративный ИИ могут вводить в заблуждение, если руководители не связывают его использование с принятыми результатами и измеримой ценностью для бизнеса.
- —Агентные многоэтапные рабочие процессы требуют более прозрачного мониторинга, строгого контроля расходов, разрешений и процедур согласования, чем обычное использование чата.
- —Оценка полной стоимости рабочего процесса может оправдать использование более мощной модели, если она сокращает количество повторных попыток, задержки и объём проверки человеком.
Ключевые факты
- По данным OpenAI, стоимость миллиона токенов снизилась на 97% при переходе от GPT-4 к GPT-5.4.
- По данным OpenAI, GPT-5.6 продемонстрировала более высокую эффективность в задачах программирования в агентном режиме, используя на 54% меньше выходных токенов и затрачивая на каждую задачу на 57% меньше времени.
- Рекомендуемая метрика для приоритетных рабочих процессов — стоимость одного принятого результата с учётом использования инструментов, повторных попыток, задержки, доли успешно выполненных задач и проверки человеком.
- ChatGPT Work предоставляет централизованные средства управления доступом, разрешённым контекстом, инструментами, действиями, использованием и расходами.
- OpenAI рекомендует управлять ИИ как портфелем, охватывающим общую продуктивность, специализированные рабочие процессы отдельных функций и стратегические инициативы, основанные на закрытом контексте организации.
Полный текст — в первоисточнике. Здесь — краткое изложение и ключевые факты.