Намеренная непрочитанность · ILUОпережающее любопытство

Parasuraman, Sheridan, Wickens — A Model for Types and Levels of Human Interaction with Automation

12 окт. 2026 г. · время чтения ~10 мин.

DOI: 10.1109/3468.844354 · Цитируется: 4168 (OpenAlex, на 26 окт. 2026 г.)

Вид: журнальная статья (IEEE Trans. SMC-A, 2000)

Главный вопрос: какие функции системы «человек — машина» автоматизировать и в какой мере?

Ответ одной фразой: Авторы предлагают решать, что и в какой мере автоматизировать, по четырём типам функций и шкале уровней от ручного до полного, оценивая каждый уровень прежде всего по последствиям для работы человека, затем по надёжности автоматики и цене ошибочных решений.

Частные вопросы:

  • В1. Как устроена шкала «ручное — полностью автоматическое»? → Т2, Т3
  • В2. По каким критериям выбирать уровень? → Т4, Т5
  • В3. Чем плох высокий уровень автоматизации (особенно решений)? → Т6, Т7
  • В4. Когда высокий уровень оправдан? → Т8, Т9, Т10, Т11

Тезисы

Т1. Автоматизация не просто заменяет деятельность человека, а меняет её

  • Против: инженерная и проектная среда, где эти данные до недавнего времени мало учитывались
  • Аргумент: исследования работы человека с автоматизированными системами показывают, что автоматика меняет деятельность; изменения часто не предвидены проектировщиками; возникают новые требования к координации. Поэтому выбор того, что автоматизировать, важен.
  • Цитата: «Appropriate selection is important because automation does not merely supplant but changes human activity and can impose new coordination demands on the human operator.» (раздел «Abstract»)
  • Понятия: Автоматизация

Т2. Автоматизация — не «всё или ничего», а континуум уровней

  • Аргумент: автоматизация определена как полная или частичная замена функции, которую делал человек; значит, она бывает разной степени. Авторы приводят 10-балльную шкалу Шеридана, где выше уровень — больше автономии компьютера над действиями человека.
  • Цитата: «This implies that automation is not all or none, but can vary across a continuum of levels, from the lowest level of fully manual performance to the highest level of full automation.» (раздел «III. A Model for Types and Levels of Automation»)
  • Данные: на уровне 2 человеку даны несколько вариантов, и система не участвует в выборе; на уровне 4 компьютер предлагает один вариант, и человек сам решает, исполнять ли его; на уровне 6 человеку даётся ограниченное время на вето до исполнения.
  • Понятия: Уровень автоматизации, Шкала уровней автоматизации

Т3. Автоматизировать можно четыре класса функций, каждый на своём уровне

  • Аргумент: авторы берут упрощённую четырёхстадийную модель обработки информации человеком (сбор, анализ, решение, действие) и переносят её на функции системы. Система может сочетать разные уровни по разным типам.
  • Цитата: «We propose that automation can be applied to four broad classes of functions: 1) information acquisition; 2) information analysis; 3) decision and action selection; and 4) action implementation.» «A particular system can involve automation of all four types at different levels.» (раздел «Abstract»)
  • Данные: система A может иметь умеренно-высокую автоматизацию сбора, низкую автоматизацию анализа, решения и действия; система B — высокие уровни по всем четырём измерениям. Авторы сами называют четырёхстадийную модель человека «almost certainly a gross simplification».
  • Понятия: Типы автоматизации, Автоматизация сбора информации, Автоматизация анализа информации, Автоматизация выбора решения, Автоматизация исполнения действия

Т4. Модель не предписывает уровень; рекомендации — верхняя граница

  • Аргумент: влияние критериев в разных системах может различаться, поэтому подходящие типы и уровни могут сильно отличаться. Модель — основа для проектирования, но не готовая формула. Рекомендованный уровень — максимум, до которого можно идти, а проектировщик вправе выбрать ниже.
  • Цитата: «Such recommendations refer to the appropriate upper bound on the level of automation, i.e., the maximum, but not necessarily the required level.» «We emphasize, however, that the model should not be treated as a static formula or as a prescription that decrees a particular type or level of automation.» (раздел «IV. A Framework for Automation Design»)
  • Данные: авторы приводят гипотетический пример: если человек и система лучше работают при уровне 4, чем вручную, и хуже при уровне выше 6, то границы задаются как 4 и 6, и затем уточняются по вторичным критериям.
  • Понятия: Верхняя граница автоматизации

Т5. Главный критерий — последствия для работы человека, вторичные — надёжность и цена ошибки

  • Аргумент: уровень оценивается по тому, как он влияет на человека-оператора (нагрузка, осведомлённость, самоуспокоенность, потеря навыков); затем применяются вторичные критерии. Перечень критериев, как отмечают авторы, не исчерпывающий (интеграция, затраты, ответственность и другие).
  • Цитата: «The human performance consequences of specific types and levels of automation constitute the primary evaluative criteria for automation design using the model. Secondary evaluative criteria include automation reliability and the costs of action consequences.» (раздел «I. Introduction»)
  • Понятия: Критерии оценки автоматизации

Т6. Высокий уровень автоматизации может привести к «выходу из контура»; на это в совокупности указывают снижение осведомлённости, самоуспокоенность и потеря навыков

  • Аргумент: три издержки — снижение осведомлённости о ситуации, самоуспокоенность (complacency) и деградация навыков — в совокупности показывают, что высокий уровень автоматизации может привести к «out-of-the-loop unfamiliarity»; каждая может угрожать безопасности при отказе системы. Автоматизация анализа информации (например, сведение данных), напротив, может осведомлённость повышать.
  • Цитата: «These potential costs—reduced situation awareness, complacency, and skill degradation—collectively demonstrate that high-level automation can lead to operators exhibiting “out-of-the-loop” unfamiliarity [47].» (раздел «IV. A. Human Performance Consequences»)
  • Данные: в симуляции управления телеробототехнической рукой после сбоя автоматики результат был лучше при промежуточном уровне автоматизации решений, чем при более высоких. Люди, как правило, хуже замечают изменения, которыми управляет другой агент, чем те, что делают сами.
  • Понятия: Выход из контура, Самоуспокоенность при автоматизации, Деградация навыков

Т7. При высокой, но неидеальной надёжности оператор может перестать следить за автоматикой

  • Аргумент: самоуспокоенность сильнее, когда оператор занят несколькими задачами. Она возможна и при информационной автоматизации, но, по некоторым данным, сильнее проявляется при автоматизации решений.
  • Цитата: «if automation is highly but not perfectly reliable in executing decision choices, then the operator may not monitor the automation and its information sources and hence fail to detect the occasional times when the automation fails [57], [58].» (раздел «IV. A. Human Performance Consequences»)
  • Данные: в одном исследовании при идеально надёжной автоматике помощь в решении и в информации давала одинаковый выигрыш, а при ненадёжной ухудшение было заметно больше для рекомендаций (автоматизация решений), чем для ошибочной информации о статусе. Авторы подчёркивают, что это единственное прямое сравнение на сегодня и вопрос требует дальнейшей проверки.
  • Понятия: Самоуспокоенность при автоматизации, Доверие к автоматике

Т8. Решения с малым риском — сильные кандидаты на высокий уровень автоматизации

  • Аргумент: риск — цена ошибки, умноженная на её вероятность. При малом риске выход из контура вряд ли сильно повлияет. Постоянное участие человека в каждом простом решении может перегрузить его.
  • Цитата: «For decisions involving relatively little risk, therefore, out-of-the-loop problems are unlikely to have much impact, even if there is a complete automation failure. Such decisions are strong candidates for high-level automation.» (раздел «IV. B. Secondary Evaluative Criteria»)
  • Данные: высокий уровень может быть оправдан и там, где у человека нет времени среагировать: «high-level automation of decision selection and action may also be justified in highly time-critical situations in which there is insufficient time for a human operator to respond and take appropriate action». В реакторе при серьёзных неполадках управляющие стержни опускаются автоматически, без вмешательства оператора, потому что оператор не может надёжно среагировать вовремя; сходные примеры — решение прервать или продолжить взлёт, когда отказ двигателя случается слишком близко к скорости V1, и автоматическая защита истребителя от столкновения с землёй.
  • Понятия: Риск решения, Цена ошибочного решения

Т9. Для решений с высоким риском, если оператор когда-либо должен забирать управление в нештатных обстоятельствах, высокий уровень автоматизации решений, по анализу авторов, может не подходить

  • Аргумент: даже при высокой надёжности информационной автоматики автоматика решений всегда столкнётся с условиями, где решит неверно (шум реального мира, непредсказуемое будущее). Если оператор должен тогда спасать положение, выход из контура может помешать ему вмешаться вовремя. Бремя доказательства в этом случае — на проектировщике.
  • Цитата: «However, if the human operator is ever expected under abnormal circumstances to take over control, then our analysis suggests that high levels of decision automation may not be suitable because of the documented human performance costs associated with such automation.» (раздел «IV. B. Secondary Evaluative Criteria»)
  • Данные: если человек не обязан вмешиваться при отказе автоматики, авторы считают, что даже полная автоматизация (уровень 10) может быть оправдана; но полная автоматизация требует надёжной обработки ошибок и умения справляться с непредвиденными событиями, что, по их словам, пока на пределе возможностей большинства интеллектуальных систем обработки отказов.
  • Понятия: Выход из контура, Бремя доказательства на проектировщике

Т10. Информационную автоматизацию можно сохранять на относительно высоком уровне, если оператору доступны исходные данные и он знает (откалиброван к) уровень её ненадёжности

  • Аргумент: подсветка и упорядочивание оставляют исходные данные видимыми, а фильтрация — не обязательно. Прогнозы на будущее по природе не вполне надёжны. В двух исследованиях доверие оператора достаточно быстро калибровалось, если ему показывали случайные ошибки.
  • Цитата: «Nevertheless, information acquisition and analysis automation may still be retained at a relatively high level, as long as the operator has access to the raw data (e.g., highlighting, but not filtering), and the operator is aware of (calibrated to) the…» (раздел «IV. B. Secondary Evaluative Criteria»)
  • Данные: две недавние работы показали быструю калибровку доверия при обратной связи об ошибках информационной автоматики; авторы осторожно делают вывод, что эффекты чрезмерного доверия могут быть там слабее, чем при автоматизации решений.
  • Понятия: Доверие к автоматике, Калибровка доверия

Т11. Если выбор решения автоматизирован высоко, а цена ошибки велика, исполнение разумно оставить человеку (низкий или умеренный уровень автоматизации действия) — это «ловушка ошибок»

  • Аргумент: если решение выбрано автоматически, человеческое действие на последней стадии даёт «последний шанс» поймать ошибку. Человеческое действие нужно не всегда, а когда выбор решения высоко автоматизирован и цена ошибки велика («If the consequences of an incorrect or inappropriate decision are great»). Выигрыш надо взвешивать против нагрузки и ошибок ручного ввода.
  • Цитата: «Giving the pilot the opportunity to review the decision choice and forcing a conscious overt action, provides an “error-trapping” mechanism that can guard against mindless acquiescence in computer-generated solutions that are not contextually appropriate.» «If the consequences of an incorrect or inappropriate decision are great, however, then it would be prudent to require that the action automation level be sufficiently low so that the (automated) decision choice is executed by the pilot (i.e., by…» (раздел «IV. B. Secondary Evaluative Criteria»)
  • Данные: в исследованиях ввода данных в бортовой компьютер при более низком уровне автоматизации ввода ловилось больше ошибок автоматизированных решений, чем при единой кнопке «принять».
  • Понятия: Ловушка ошибок, Связь автоматизации решения и действия

Т12. Стратегия «автоматизировать всё возможное» оставляет человеку остаток

  • Против: подход «автоматизировать всё, что можно» (авторы признают, что он может быть рабочим вариантом — «a viable option»); распределение задач по списку Фиттса (полезно в принципе — «useful in principle», на практике трудно применить)
  • Аргумент: при этой стратегии автоматизируют каждую подсистему, дающую ей выгоду, а остальное оставляют оператору. Сумма оптимизаций подсистем, как правило, не даёт оптимума всей системы. Список Фиттса, по словам авторов, на практике применять трудно.
  • Цитата: «However, a problem with this strategy is that the human operator is left with functions that the designer finds hard, expensive, or impossible to automate (until a cleverer designer comes around).» (раздел «V. Alternatives, Limitations, and Extensions»)
  • Понятия: Автоматизация

Кейсы

К1. Предупреждение о конфликте в управлении воздушным движением

Система сообщает диспетчеру о конфликте траекторий двух самолётов и предлагает решение: это уровень 4. На уровне 6 и выше она исполняла бы своё решение сама, если диспетчер не вмешается. Подкрепляет Т2.

К2. Предотвращение столкновения с землёй

Действующая система GPWS стоит на уровне 4: рекомендует манёвр, пилот может его игнорировать. Предложенная автоматическая система для боевых самолётов определена как уровень 7: она берёт управление сама, если пилот не действует. Подкрепляет Т2 и Т8.

К3. Рекомендации для будущих систем управления воздушным движением

Высокие уровни автоматизации сбора и анализа информации допустимы, если система доказанно надёжна; высокие уровни решения и действия только для малорисковых ситуаций; в рискованных решение не выше «компьютер предлагает», а если в рискованных ситуациях всё же введена высокая автоматизация решений, нужен умеренный уровень автоматизации действия. Подкрепляет Т9, Т10 и Т11.

Понятия

  • Уровень автоматизации → Parasuraman, Sheridan, Wickens: автоматизация непрерывна, от ручной до полной (Т2)
  • Типы автоматизации → Parasuraman, Sheridan, Wickens: четыре класса функций — сбор, анализ, выбор решения, исполнение (Т3)
  • Верхняя граница автоматизации → Parasuraman, Sheridan, Wickens: рекомендованный уровень — максимум, а не обязательный уровень (Т4)
  • Критерии оценки автоматизации → Parasuraman, Sheridan, Wickens: сначала последствия для человека, затем надёжность и цена ошибки (Т5)
  • Выход из контура → Parasuraman, Sheridan, Wickens: высокий уровень автоматизации может помешать оператору вмешаться успешно или вовремя (Т6, Т9)
  • Самоуспокоенность при автоматизации → Parasuraman, Sheridan, Wickens: при высокой, но неидеальной надёжности оператор может не следить (Т7)
  • Ловушка ошибок → Parasuraman, Sheridan, Wickens: действие человека после автоматического решения как последний шанс поймать ошибку (Т11)

Где используется

Оригинал