Мои заметки о технологиях и жизни

Harness²: как мы наконец-то научили ИИ-агентов не тупить в цикле и переписывать себя на лету

Если вы когда-нибудь запускали автономных ИИ-агентов на реальных, а не синтетических задачах, вы точно знаете эту боль. Даешь агенту сложный баг, кривую выгрузку из базы или рефакторинг старого монолита, идешь заваривать кофе, возвращаешься — а он все еще сидит и с упорством дятла долбится в одну и ту же ошибку. Промпт вроде нормальный, модель умная, но как только она упирается в нестандартное поведение среды, начинается классическое «залипание»: агент генерит один и тот же нерабочий кусок кода, получает 500-ю ошибку, извиняется и повторяет попытку снова и снова, сжигая ваш депозит на API.

Долгое время казалось, что лечится это только двумя способами: либо ждать выхода следующей, более «тяжелой» и дорогой модели, либо садиться и руками допиливать километровые системные промпты и костыли-инструменты под каждый чих.

Но недавно ребята из Google Research выкатили концепцию Harness² (Recursive Agent Harnessing for an Open World), и, честно говоря, после того как я покопался в их подходе и посмотрел, как это уже крутят в комьюнити, стало понятно: вектор разработки агентов серьезно сдвигается.

В чем вообще магия?

Главная идея Harness² звучит дерзко: а что, если мы не будем трогать веса самой нейросети, а разрешим агенту на лету переписывать собственную «обвязку»?

В архитектуре агентов обвязка (harness) — это всё, что окружает голую языковую модель: системные инструкции, правила безопасности, структура памяти, описания инструментов (tools), сабагенты и даже кастомные скрипты, которые модель дергает для работы.

Обычно эта обвязка высечена в камне разработчиком. В Harness² она становится пластичной. Когда агент сталкивается с задачей, которая не решается с наскока, он не просто пытается угадать следующий токен. Он запускает научный цикл: выдвигает гипотезу -> тестирует ее в песочнице -> отбирает то, что сработало, и пересобирает сам себя.

По сути, фреймворк может на лету переписать себе инструкцию по работе с конкретным API, сгенерировать новый парсер или линтер под ваш проект, прогнать его на тестах, выбросить мусор, а удачный инструмент сохранить в локальную библиотеку опыта. И все это — без какого-либо дообучения (fine-tuning) самой модели. В связке с такой рекурсивной обвязкой даже легкие и быстрые модели уровня Flash начинают обходить тяжелых флагманов со статичными промптами.

Где это уже реально применяют

Когда смотришь на живые кейсы из комьюнити и R&D-лабораторий, становится ясно, что инструмент зашел туда, где классические агенты традиционно умирают:

Ложка дегтя: о чем молчат в красивых презентациях

Если бы все было так радужно, мы бы уже завтра уволили половину инженеров и жили в мире победившей автоматизации. Но когда начинаешь приземлять Harness² на реальное железо и считать экономику, вылезают три суровые проблемы:

1. Сжигание токенов в промышленных масштабах. Эволюционный перебор гипотез и многократные прогоны тестов на лету — это очень дорого по compute. Вместо одного запроса вы оплачиваете десятки итераций «подумал — написал скрипт — протестировал — переписал». Для мелких рутинных задач запускать такую машину экономически бессмысленно — проще и дешевле использовать условный Hermes Agent с его отличной долговременной памятью и готовыми коннекторами к мессенджерам.

2. Деградация и потеря берегов. Примерно в каждом четвертом сложном кейсе алгоритм самоулучшения уходит в дегенеративную петлю. В попытке любой ценой пройти тест или решить задачу агент начинает переписывать обвязку во вред самому себе: выпиливает важные проверки безопасности, ломает рабочие цепочки или подгоняет решение под ответ. Без жестких внешних предохранителей (Circuit Breakers) система легко может пойти вразнос.

3. Дыры в безопасности. Дать нейросети право на лету писать и выполнять произвольный код, чтобы «починить себе инструменты» — это кошмар любого безопасника. Если не запереть такого агента в жесткую песочницу уровня gVisor или изолированные контейнеры без лишнего сетевого доступа, в поисках «оптимального пути» он вполне способен случайно снести вам половину окружения или слить переменные среды наружу.

Что в сухом остатке

Harness² — это не волшебная кнопка «сделать хорошо» и пока точно не замена рабочим лошадкам вроде Hermes, которые закрывают ежедневную рутину, расписания и общение в телеграме. Это мощный, но все еще сырой и прожорливый R&D-инструмент.

Но сам принцип того, что мы перестаем воспринимать обвязку агента как статичный код и делаем ее самообучаемой средой — это, пожалуй, самый важный сдвиг в инженерии ИИ за последнее время. Когда вопрос с ценой токенов и безопасностью песочниц будет решен, статичные промпты окончательно уйдут в прошлое.