K. J. Kevin Feng, David W. McDonald, Amy X. Zhang — Levels of Autonomy for AI Agents (2025)
DOI: 10.48550/arxiv.2506.12469 · Цитируется: 5 (OpenAlex, на 26 окт. 2026 г.)
Вид: препринт arXiv (эссе)
Коротко
Вопрос: как разработчикам агентов выбрать уровень автономии, на котором агент должен работать?
Ответ: Feng, McDonald и Zhang доказывают, что уровень автономии ИИ-агента можно рассматривать как продуманное проектное решение, отдельное от его возможностей и среды, и определяют пять уровней по роли пользователя: оператор, соавтор, консультант, утверждающий, наблюдатель.
Тезисы
Т1. Автономия может быть продуманным проектным решением разработчика, а не неизбежным следствием роста возможностей
- Аргумент: при заданных возможностях и среде разработчики могут осознанно выбирать уровень автономии.
- Цитата: «In this essay, we argue that rather than treating autonomy as an inevitable consequence of increasing agent capability, autonomy can instead be a deliberate design decision made by agent developers.»
Т2. Автономия и агентность рассматриваются как разные, хотя и тесно связанные понятия
- Аргумент: Feng, McDonald и Zhang не отождествляют агентность и автономию, но признают их тесную связь.
- Цитата: «In our essay, we treat them as distinct (albeit closely related) concepts.»
Т3. Пять уровней нарастающей автономии различаются ролью пользователя
- Аргумент: роли пользователя, взаимодействующего с агентом, — оператор, соавтор, консультант, утверждающий и наблюдатель.
- Цитата: «In this work, we define five levels of escalating agent autonomy, characterized by the roles a user can take when interacting with an agent: operator, collaborator, consultant, approver, and observer.»
Т4. Подход уровня L2 может быть предпочтителен, если агент не может надежно выполнять определенные классы задач или если есть собственная ценность в том, чтобы пользователь выполнял часть задач сам
- Аргумент: так может быть даже тогда, когда агент способен автоматизировать эти задачи.
- Цитата: «This approach may be preferred when the agent cannot reliably complete certain classes of tasks, or when there is intrinsic value for users to complete some tasks themselves, even if the agent is capable of automating them.»
Т5. Риски агентов уровня L5 в большинстве случаев могут перевешивать пользу
- Аргумент: Feng, McDonald и Zhang сами задают вопрос, зачем вообще разрабатывать агентов L5.
- Цитата: «After all, the risks of L5 agents may outweigh the benefits in most cases.»
Т6. Рост автономии связан с компромиссами: больше автономии не значит просто лучший агент
- Аргумент: рамка показывает, что повышение автономии требует тонких компромиссов.
- Цитата: «Our framework further demonstrates that increasing agent autonomy involves making nuanced tradeoffs— more autonomy does not simply mean a better agent.»
Т7. Предложены сертификаты автономии как возможный механизм управления агентами
- Аргумент: сертификаты предложены как новый механизм управления агентами, одно из возможных применений рамки.
- Цитата: «In this section, we explore one potential application of our framework through a new mechanism for agent governance: autonomy certificates.»
Т8. Предложена оценка с участием пользователя: она выявляет минимум вовлеченности пользователя, нужный агенту для порога точности
- Аргумент: по этой информации агенту назначают уровень автономии.
- Цитата: «By contrast, assisted evaluations are designed to surface the minimum level of user involvement needed for the agent to exceed a certain accuracy or pass rate threshold, and then assign an autonomy level based on that information.»
Пример
Feng, McDonald и Zhang приводят способного агента, который хорошо работает на бенчмарках, но обязан советоваться с пользователем перед каждым действием, и потому действует с низким уровнем автономии. Тот же агент и тот же запрос — о влиянии генеративного ИИ на экономику США — они прогоняют через все пять уровней: на L1 агент лишь подсказывает пользователю по ходу его работы, на L4 обращается к нему за учетными данными и подтверждением формата отчета, на L5 сам выдает готовый отчет.
Связи
- +Уровни автономии ИИ-агентов — опирается на
- +Когнитивная нагрузка — см. также