AutoTTS: Как автоматическое масштабирование вычислений снижает затраты на работу ИИ без потери точности

Оптимизация вычислений на этапе вывода (test-time scaling, TTS) стала одним из наиболее эффективных способов повышения производительности крупных языковых моделей. Предоставление ИИ дополнительных вычислительных ресурсов во время генерации ответа позволяет ему проверять промежуточные шаги и находить более точные решения. Однако до сих пор стратегии масштабирования создавались вручную инженерами, которые опирались на интуицию. Для решения этой проблемы исследователи из компании Meta*, Google и ряда ведущих университетов представили AutoTTS — фреймворк, который автоматически находит оптимальные алгоритмы распределения вычислений. Это решение позволяет компаниям динамически сокращать расходы на запуск моделей искусственного интеллекта.

Внедрение стратегий, разработанных с помощью AutoTTS, позволяет напрямую снизить расход токенов и операционные затраты на развертывание сложных рассуждающих моделей в рабочих средах. В ходе экспериментов система эффективно управляла бюджетом вычислений, сократив потребление токенов на величину до 69,5% без ущерба для точности ответов.

Препятствия при ручной настройке масштабирования вычислений

Технология масштабирования вычислений на этапе вывода улучшает работу языковых моделей за счет выделения дополнительной вычислительной мощности в момент формирования ответа. Этот ресурс позволяет ИИ строить альтернативные цепочки рассуждений или оценивать промежуточные выводы перед выдачей финального результата. Основная сложность заключается в том, чтобы распределить эти вычисления максимально эффективно.

Ранее разработчики проектировали такие стратегии вручную, создавая жесткие эвристические правила. Специалистам приходилось самостоятельно определять условия и пороговые значения: когда модели следует разветвлять цепочку рассуждений, когда углубляться в текущий вариант, когда отсекать неперспективные ветки, а когда полностью прекращать процесс генерации. Из-за ограничений человеческой интуиции огромная часть потенциально эффективных подходов оставалась неисследованной, что приводило к компромиссам между точностью модели и стоимостью ее работы.

Существующие алгоритмы масштабирования обычно контролируют ширину (количество параллельных цепочек рассуждений) и глубину (степень проработки каждой из них). К ним относятся:

• Метод самосогласованности (Self-consistency, SC), который генерирует фиксированное количество траекторий рассуждений и выбирает ответ большинством голосов.
• Адаптивная согласованность (Adaptive-consistency, ASC), которая экономит ресурсы, останавливая процесс досрочно при достижении определенного порога уверенности.
• Параллельное зондирование (Parallel-probe), отсекающее бесперспективные ветви и углубляющее оставшиеся.

Все эти методы создавались вручную, что существенно ограничивало их потенциал. Разработчики AutoTTS задались целью преодолеть этот барьер.

Автоматизация поиска стратегий с помощью AutoTTS

Фреймворк AutoTTS меняет подход к проектированию систем масштабирования. Вместо ручной работы человека этот процесс превращается в алгоритмический поиск внутри контролируемой среды. Роль инженера смещается от написания конкретных правил к созданию самой среды поиска: определению границ, пространства состояний и действий, баланса между точностью и стоимостью, а также механизмов обратной связи.

Проектированием стратегий занимается модель-исследователь (например, Claude Code). Действуя как автономный агент, она итеративно предлагает программно определяемые политики или алгоритмы (контроллеры), управляющие вычислительным бюджетом во время вывода. Исследователь тестирует и дорабатывает эти контроллеры на основе полученных отзывов, пока не найдет оптимальный вариант.

Чтобы сделать этот процесс экономически выгодным, AutoTTS использует среду автономного воспроизведения (offline replay environment). Вместо того чтобы запускать базовую модель для генерации новых токенов при каждом тесте, фреймворк использует базу из тысяч заранее собранных траекторий рассуждений базовой модели. Эти траектории содержат промежуточные сигналы, помогающие контроллеру оценивать прогресс на разных этапах.

В процессе поиска агент тестирует предложенный контроллер на исторических данных и анализирует детальные логи его работы. Это позволяет выявить конкретные ошибки — например, слишком агрессивное удаление ветвей рассуждений на ранних этапах. После этого агент переписывает код для улучшения баланса между точностью и затратами.

Алгоритмы, созданные искусственным интеллектом

Поскольку модель-исследователь не ограничена рамками человеческого опыта, она способна находить сложные скоординированные правила, которые инженеры вряд ли смогли бы прописать вручную. Один из наиболее эффективных контроллеров, разработанных AutoTTS, получил название Confidence Momentum Controller (Контроллер импульса уверенности). Он использует несколько нестандартных подходов:

• Остановка на основе тренда. Вместо прекращения рассуждений при мгновенном достижении порога уверенности, контроллер отслеживает экспоненциальное скользящее среднее (EMA) этого показателя. Процесс останавливается только тогда, когда общий уровень уверенности высок, а его тренд не идет на спад.
• Связанное управление шириной и глубиной. В отличие от ручных алгоритмов, где расширение и углубление поиска разделены, здесь они связаны в единый цикл обратной связи. Если уверенность в текущих ветвях падает, система автоматически инициирует создание новых направлений рассуждений.
• Приоритет согласующимся ветвям. Контроллер динамически выявляет ветви рассуждений, которые согласуются с текущим лидирующим ответом, и выделяет им дополнительные вычислительные ресурсы. Это позволяет быстрее подтвердить правильность наметившегося консенсуса.

Снижение затрат и рост точности на практике

Для проверки эффективности автономно созданных стратегий исследователи провели серию тестов на моделях семейства Qwen3 (с параметрами от 0,6B до 8B), а также протестировали способность системы к генерации обобщенных решений на дистиллированной версии модели DeepSeek-R1 с 8B параметров. Стратегии, обученные на математическом бенчмарке AIME24, затем проверялись на независимых наборах тестов AIME25, HMMT25, а также на задачах уровня аспирантуры GPQA-Diamond.

Разработанный AutoTTS контроллер сравнили с четырьмя популярными ручными алгоритмами масштабирования. Результаты тестирования показали следующее:

• В сбалансированном режиме контроллер от AutoTTS сократил общее потребление токенов примерно на 69,5% по сравнению со стандартным методом SC@64, сохранив аналогичный уровень средней точности на моделях Qwen.
• При увеличении бюджета на вычисления AutoTTS превзошел ручные базовые показатели по пиковой точности в 5 из 8 тестовых сценариев.
• На бенчмарке GPQA-Diamond сбалансированный вариант снизил расход токенов с 510 тысяч до 151 тысячи, при этом немного улучшив общие показатели точности.
• На модели DeepSeek система достигла максимальной точности в тесте HMMT25, сократив затраты на токены почти вдвое.

Для разработчиков коммерческих приложений ИИ эти результаты открывают два ключевых преимущества. Во-первых, повышается пиковая производительность базовых моделей за счет мгновенного выявления неэффективных цепочек рассуждений и перенаправления ресурсов на перспективные направления. Во-вторых, процесс создания оптимизированных стратегий становится крайне дешевым: благодаря автономной среде воспроизведения весь процесс поиска занял всего 160 минут (около 2,5 часов) и обошелся в 39,90 доллара США.

Исходный код фреймворка AutoTTS и контроллера Confidence Momentum Controller выложены в открытый доступ на GitHub.

* — деятельность компании запрещена на территории РФ

Твитнуть