Конечный автомат должен останавливать агента вместо просьбы в промпте

18.11.2026 · пост канала

Исследование MAST систематизировало ошибки агентов на выборке более 1600 трасс.

Автор предлагает ограничивать итерации и бюджет, а после двух-трех неудач передавать подзадачу человеку.

Детектор должен искать семантические повторы, даже если агент меняет формулировки и вызовы инструментов.

Условия остановки, эскалации и рискованных действий должны контролироваться кодом процесса.

Почему важно

Модель не может надежно надзирать за собственным зацикливанием, поэтому границы автономии должны оставаться детерминированными.

Оригинал в Telegram ↗