из чего реально складывается стоимость
Цена API не сводится к токенам. К ней добавляются расходы на маршрутизацию запросов, хранение контекста, журналирование, базу знаний, разработку, поддержку, наблюдаемость и защиту от лишних вызовов.
где бизнес чаще всего недооценивает расходы
Обычно недооценивают длинные диалоги, неограниченные ретраи, неочищенный контекст, отсутствие лимитов на пользователя и ручную поддержку после запуска. Из-за этого даже хороший пилот может неожиданно подорожать после роста нагрузки.
как держать стоимость под контролем
Нужны лимиты по сценарию, понятные бюджеты на канал, предсказуемый fallback, отчеты по расходам и раздельный учет рабочих и экспериментальных потоков. Для бизнеса важна не самая низкая цена за токен, а управляемая экономика на уровне процесса.