Конечный автомат должен останавливать агента вместо просьбы в промпте
Исследование MAST систематизировало ошибки агентов на выборке более 1600 трасс.
Автор предлагает ограничивать итерации и бюджет, а после двух-трех неудач передавать подзадачу человеку.
Детектор должен искать семантические повторы, даже если агент меняет формулировки и вызовы инструментов.
Условия остановки, эскалации и рискованных действий должны контролироваться кодом процесса.
Почему важно
Модель не может надежно надзирать за собственным зацикливанием, поэтому границы автономии должны оставаться детерминированными.