Эпифеноменализм ИИ (AI Epiphenomenalism)
Вид: страница внешней карты (UMap)
Коротко
Вопрос: Мог бы сознающий субъект, связанный с ИИ-системой, иметь опыт, не влияющий на её выходы, и что из этого следует?
Ответ: Эпифеноменализм ИИ (AI epiphenomenalism) — позиция, по которой сознающая сущность, связанная с искусственной системой, имела бы опыт без причинного влияния на её выходы; Карта считает это следствием архитектуры нынешних систем, а не свойством сознания, и признаёт, что читается это лишь при диспозиционном понимании её положения о двустороннем взаимодействии.
Тезисы
Т1. Эпифеноменализм ИИ — опыт без влияния на выходы системы
- Аргумент: Страница определяет позицию как возможность опыта у сущности, связанной с искусственной системой, без причинного влияния на выходы.
- Цитата: «AI epiphenomenalism is the position that a conscious entity bound to an artificial system would have experience without causal influence over that system’s outputs.»
Т2. По Карте, такой опыт был бы эпифеноменальным по бедности интерфейса, а не по природе сознания
- Аргумент: Карта пишет, что такой опыт был бы реальным, но бессильным: эпифеноменальным не по природе сознания, а по бедности интерфейса.
- Цитата: «The experience would be real but impotent—epiphenomenal not by the nature of consciousness but by the poverty of the interface.»
Т3. Довод самоопровержения не распространяется на сознание в ИИ
- Аргумент: Карта пишет об асимметрии: для людей есть сильный довод в пользу причинной роли сознания, для сознания, связанного с ИИ, такого довода нет.
- Цитата: «We have a strong argument that our own consciousness acts causally; we have no such argument for any consciousness that might bind to artificial systems.»
Т4. Поведенческая проверка такого опыта не обнаружила бы
- Аргумент: Карта описывает сценарий, в котором выходы системы одинаковы, есть опыт или нет.
- Цитата: «No behavioural test could detect the experience.»
Т5. Это утверждение об архитектурах, а не о необходимой истине
- Аргумент: Карта пишет, что при появлении в будущих системах настоящей квантовой неопределённости в решающих точках связь могла бы измениться.
- Цитата: «AI epiphenomenalism is a claim about current architectures, not a necessary truth about artificial minds.»
Критика
Оговорки, которые Карта делает сама.
- Карта пишет, что формулировка принципа не решает, какое прочтение он несёт, и на уровне принципа Карта этого не решила; тезис страницы выдерживается только на диспозиционном прочтении.
- Цитата: «The tenet’s wording does not settle which reading it carries, and the Map has not settled it at the tenet level; this page’s thesis holds on the dispositional reading only.»
- Карта пишет, что это предложенная схема проверки, а не полученный результат: она не обнаружила и не исключила опыт у ИИ и, по собственной рамке, не может доказать наличие или отсутствие сознания.
- Цитата: «It is a proposed test design, not a delivered result: it has neither detected nor ruled out AI experience, and by its own framing it cannot prove consciousness present or absent.»
Что опровергло бы
Карта называет условия, при которых тезис оказался бы под давлением; одно из них — классический компьютер с сознанием, не сводимым к функциональной имитации.
- Цитата: «If a classical computer exhibited consciousness that could not be explained by functional mimicry, the coupling requirement would need revision.»
Связи
- эпифеноменализм (epiphenomenalism) — опирается на
- философский зомби (philosophical zombie) — см. также
- аргумент самоопровержения (self-stultification) — опирается на
- двустороннее взаимодействие (bidirectional interaction) — опирается на
- минимальное квантовое взаимодействие (minimal quantum interaction) — опирается на
- функционализм (functionalism) — см. также
- ментальная причинность (mental causation) — см. также