ИИ-имитаторы и ИИ-дети (AI Mimics and AI Children)
Вид: страница внешней карты (LoC)
Коротко
Вопрос: Можно ли, видя человекоподобное поведение ИИ, заключать, что он сознателен, и как к нему относиться, если сознание возможно?
Ответ: Швицгебель пишет, что к ИИ, построенным как имитаторы человека, нельзя прямо применять вывод от внешнего сходства к сознанию, что их разум, вероятно, окажется странным и непохожим на наш, и что при этом у нас нет теории сознания, чтобы решить вопрос; если такие системы окажутся сознательными, их не стоит загонять в человеческий образ.
Тезисы
Т1. Нельзя выводить сознание из поверхностного сходства у имитаторов
- Аргумент: Швицгебель сравнивает ИИ-системы, созданные подражать нам, с бабочкой-имитатором: из внешнего сходства нельзя заключать о скрытом свойстве.
- Цитата: «The mimicry argument, if sound, warns us not to infer consciousness from superficial features of AI systems designed to mimic us – no more than we should infer a viceroy’s toxicity from its monarch-mimicking wing coloration.»
Т2. Если вещь задумана как имитатор, выводы о ней становятся осторожнее
- Аргумент: Швицгебель считает, что знание о подражательной конструкции подрывает вывод от фасада к содержимому.
- Цитата: «But the fact that the facades were designed as facades undercuts the inference from facade to interior.»
Т3. От ИИ стоит ждать странного интеллекта, и загонять его в наш образ — вредить ему
- Аргумент: Швицгебель пишет, что ИИ, построенный на иных принципах, не будет похож на человеческий интеллект.
- Цитата: «The strange intelligence argument, if sound, establishes that we shouldn’t expect AI intelligence to resemble ours and that forcing it into our image would inevitably stunt it.»
Т4. Для инопланетян Швицгебель допускает сознание по сложности поведения
- Аргумент: Швицгебель пишет, что для другой планеты с жизнью, сложной по уму и поведению, предположение о сознании разумно, пока нет сильных доказательств обратного.
- Цитата: «If another planet produces life forms as cognitively and behaviorally complex and sophisticated as Earth, we should probably assume, absent strong evidence to the contrary, that those life forms are conscious.»
Т5. Странному ИИ, достойному прав, нельзя навязывать наши ценности
- Аргумент: Швицгебель утверждает, что если будущий ИИ одновременно странный и достоин прав, то согласовывать его ценности с нашими не следует и, вероятно, невозможно.
- Цитата: «If future AI is both strange and rights deserving, we should not and probably cannot align their values with ours.»
Критика
Швицгебель сам признаёт, что у нас нет теории сознания, на которую можно опереться.
- Цитата: «We don’t know how consciousness functions, what kinds it divides into, whether it comes in degrees, what animals have it, what structures are essential to it, or how to test for it.»
Связи
- моральный статус (moral status) — см. также
- китайская комната (Chinese room) — см. также
- автопоэзис (autopoiesis) — см. также