Yang и др. — How AI Agents Reshape Knowledge Work: Autonomy, Efficiency, and Scope
Вид: paper
Главный вопрос: как переход от диалогового помощника к автономному агенту меняет скорость, качество и круг задач работы со знаниями
Ответ одной фразой: по данным одной платформы за три месяца, автономный агент берёт на себя планирование и исполнение, и человеку, по оценкам авторов, остаются постановка, проверка и расширение результата, а круг задач, за которые он берётся, шире.
Частные вопросы:
- В1. Что делает агент вместо человека и как меняется роль человека? → Т1, Т2, Т5
- В2. Лучше ли результат и дешевле ли работа? → Т3, Т4
- В3. Что меняется в круге задач? → Т6
- В4. Что стоит человеку делегирование? → Т7
Тезисы
Т1. На 10 000 парных сессий с почти одинаковым первым запросом Computer в среднем работает 26 минут автономно, Search 33 секунды
- Аргумент: те же пользователи отправляли почти одинаковые первые запросы (косинусное сходство выше 0,99) в оба продукта; сравнивалось время машинной работы на сессию. Выбраны запросы Computer, где был вызван хотя бы один инструмент действия.
- Цитата: «Computer performs 26 minutes of autonomous work per user session, versus 33 seconds for Search.» (раздел «Abstract»)
- Данные: 10 000 пар; отношение 48 раз; в среднем 5,3 запроса на сессию Computer против 2,8 у Search; медиана 9 минут против 14 секунд; пользователи прерывают сессию примерно одинаково (3,7 % против 3,4 %).
- Понятия: Автономия агента
Т2. На 1 000 парных многоходовых сессий (классификация LLM) реплики человека при агенте больше про проверку и расширение результата, при Search про короткие циклы
- Аргумент: общая доля продвижения задачи у обоих продуктов почти одна (52,7 % и 52,9 %), но состав различается: у Computer больше расширений, меньше уточняющих вопросов и коротких указаний. Различия в долях небольшие (порядка 1–2 процентных пунктов).
- Цитата: «Matched Computer and Search sessions therefore contain human turns for different reasons: Search turns reflect shorter digest-and-execute loops, whereas Computer turns reflect longer review-and-extend loops.» (раздел «6.2 Results»)
- Данные: 15 507 реплик-продолжений; проверка и правка вместе 24,6 % у Computer против 23,6 % у Search (+1,0 п. п.); расширения 14,2 % против 12,5 %; уточняющие вопросы 22,0 % против 23,4 %.
- Понятия: Автономия агента
Т3. На парных многоходовых сессиях по сигналу следующей реплики пользователя средне-высокое недовольство ответом у Computer 1,3 %, у Search 2,9 %
- Аргумент: недовольство оценивалось по тому, что пользователь делает дальше (повтор вопроса, исправления, сообщения об ошибке); авторы проверяли, не платят ли за автономию качеством.
- Цитата: «Computer elicits less dissatisfaction at every level (Table 2): the mid+high rate is 1.3% for Computer versus 2.9% for Search, and any dissatisfaction (low+mid+high) is 10.8% versus 16.6%.» (раздел «6.2 Results»)
- Данные: показатель косвенный (поведение пользователя, не его оценка); только многоходовые сессии.
- Понятия: Автономия агента
Т4. Авторы оценивают, что на парных задачах Computer сокращает время выполнения с 269 до 36 минут относительно человека с одним Search
- Аргумент: сравнивают режим «Search + человек вручную» и «Computer + человек»; время и стоимость человека частично берутся из предположений, а не измеряются.
- Цитата: «Computer reduces completion time from 269 to 36 minutes on matched tasks, lowering estimated time and cost by 87% and 94%, respectively, compared to humans equipped with Search alone.» (раздел «Abstract»)
- Данные: снижение времени оценочно на 87 %, стоимости на 94 %; сами авторы пишут, что оценки опираются на предполагаемое время человека, время надзора и оценки LLM и абсолютные величины приближённые.
- Понятия: Стоимость делегирования
Т5. Авторы пишут, что автономное исполнение агента сдвигает труд человека от ручной работы к надзору
- Аргумент: когда исполнение делегировано, по формулировке авторов роль пользователя меняется с оператора на руководителя, и время уходит на постановку, проверку и расширение.
- Цитата: «Computer’s autonomous execution shifts human labor from manual work to oversight.» (раздел «7 Efficiency»)
- Понятия: Надзор над агентом
Т6. По данным одной платформы, запросы к Computer чаще выходят за профессию пользователя, требуют более сложного мышления и шире по знаниям, чем его же запросы к Search
- Аргумент: на тех же пользователях, оба продукта; различия в охвате оценивались классификацией LLM, поэтому возможна ошибка измерения; авторы считают маловероятным, что результат объясняется одной ошибкой классификации.
- Цитата: «Computer changes the scope of work that users attempt: Computer queries more often cross occupational boundaries, require higher-order cognition, draw on broader expertise, take the form of composite tasks that bundle multiple subtasks into a single query, and unlock work…» (раздел «Abstract»)
- Данные: выборка 8 000 пользователей в 8 профессиональных кластерах, средний разрыв по выходу за основную профессию 9 п. п.; 5 000 пользователей, использующих оба продукта, 10 000 запросов: 76 % задач высшего уровня по Блуму против 55 %, абстрактные нерутинные 71 % против 53 %; среди запросов Computer, задействующих хотя бы одну Task Statement O*NET, 23 % содержат Task Statement, которой нет в выборке Search-запросов тех же пользователей; доля зависит от порога (по сводке во введении).
- Понятия: Охват задач
Т7. Авторы в модели принимают, что делегирование агенту обычно требует больше постановки и проверки, чем одиночный запрос
- Аргумент: в модели фиксированная цена делегирования у агента выше, а цена шага ниже; поэтому агент выгоден на задачах, где достаточно шагов. Допущение основано на наблюдении авторов о пользовательском опыте; позже они проверяют его косвенно.
- Цитата: «The sign fAgent > fConversational reflects a simple observation about agent user experience: directing an autonomous system typically requires more specification and verification than issuing a simple one-shot query.» (раздел «3.1 Task primitives»)
- Данные: косвенный показатель постановки задачи — длина запросов в сессии: у Computer медиана примерно на 46 % больше (652 против 448 знаков), авторы называют это согласующимся с допущением; прокси постановки задачи через длину запросов не учитывает стоимость проверки результата Computer, поэтому фиксированная цена у Computer может быть занижена (сноска 10). Отдельно, в разделе об автономии: 13 % запросов и 38 % сессий содержат хотя бы одну паузу с запросом к пользователю (против 0,3 % и 0,8 % у Search); чаще всего это запрос подтверждения (24,2 % сессий); как проверку допущения авторы это не приводят.
- Понятия: Стоимость делегирования
Кейсы
К1. Парные сессии одного пользователя в двух продуктах
Один и тот же пользователь присылает почти одинаковые первые запросы в Search и в Computer; сопоставление таких пар (10 000) служит естественным экспериментом для сравнения автономии. Подкрепляет Т1.
Понятия
- Автономия агента → Yang и др.: способность системы планировать и выполнять действия за пользователя с минимальным вмешательством (Т1, Т2, Т3)
- Стоимость делегирования → Yang и др.: фиксированная цена постановки цели агенту и проверки результата (Т4, Т7)
- Надзор над агентом → Yang и др.: роль человека, когда исполнение делегировано (Т5)
- Охват задач → Yang и др.: выход запросов за профессию, сложность, широта знаний (Т6)
Где используется
Оригинал
- Yang и др. — How AI Agents Reshape Knowledge Work: Autonomy, Efficiency, and Scope — адреса в открытой сети нет