Моральная агентность ИИ и разрыв ответственности при дуализме (AI Moral Agency and the Responsibility Gap Under Dualism)
Вид: страница внешней карты (UMap)
Коротко
Вопрос: Кто виноват, когда автономная машина причиняет вред, который никто не мог предсказать и контролировать?
Ответ: Карта пишет, что на её дуалистической рамке настоящая моральная агентность требует сознательного причинного интерфейса, поэтому нынешняя система ИИ без него — посредник или инструмент, а не кандидат на вину; это зависит от рамки и допускает опровержение.
Тезисы
Т1. По Карте, разрыв виновности реален, потому что у нынешних систем ИИ нет сознательного интерфейса
- Аргумент: Карта пишет, что такие системы — посредники или инструменты, а не агенты.
- Цитата: «The culpability gap is real because present AI systems lack the conscious coupling interface, and so are proxies or tools rather than agents.»
Т2. Карта не утверждает, что машины как таковые никогда не могут нести ответственность
- Аргумент: Карта пишет, что это и не шовинизм субстрата (substrate chauvinism).
- Цитата: «The claim is not that machines as such can never bear responsibility, nor is it substrate chauvinism.»
Т3. Система без интерфейса может вычислять, оптимизировать и действовать, но не порождать
- Аргумент: Карта пишет, что порождать она не может в том смысле, какого требует заслуженность (desert).
- Цитата: «A system that lacks that interface can compute, optimise, and act; it cannot originate in the sense desert requires.»
Т4. Каждая рассмотренная позиция объясняет разрыв предсказанием, контролем, конвенцией или дизайном
- Аргумент: Карта пишет, что именно это объяснение у каждой позиции — разрыва или его растворения.
- Цитата: «Every account grounds the gap—or its dissolution—in prediction, control, social convention, or institutional design.»
Т5. Плохо отслеживаемая система скрывает очаг вины, который всегда был, а не создаёт новый
- Аргумент: Карта пишет, что очаг вины не потерян, а скрыт.
- Цитата: «A poorly traceable system does not create a new locus of blame that has gone missing; it obscures a locus that was there all along.»
Критика
Что страница признаёт сама и какое возражение приводит.
- Карта признаёт, что гипотеза усилителя (amplifier hypothesis) принята рамкой, а не показана.
- Цитата: «First, the amplifier hypothesis is framework-posited, not demonstrated.»
- Карта называет самого резкого соперника своего реализма: дефляционную позицию.
- Цитата: «The sharpest rival to the Map’s realism is deflationary: it holds there is no genuine gap at all.»
Что опровергло бы
Условие называет сама страница.
- Карта пишет, что при таких условиях разрыв закрылся бы для этой системы.
- Цитата: «If a future artificial system met the Map’s conditions for consciousness—if it possessed the interface, not merely behaviour that resembles agency—it would become a candidate moral agent, and the culpability gap would close for that system.»
Связи
- машинное сознание (machine consciousness) — см. также
- агентная причинность (agent causation) — см. также
- моральная ответственность (moral responsibility) — см. также
- двустороннее взаимодействие (bidirectional interaction) — см. также