Дэвид Вайнбергер связал сознание с телом, которому есть что терять
Вайнбергер различает способность рассуждать об опыте и наличие собственного опыта боли, голода или страха.
У языковой модели нет уязвимого тела и непрерывной жизни, судьба которой зависит от окружающего мира.
Даже если машина обретет потребности и риск необратимой гибели, люди могут не суметь отличить переживание от безупречной имитации.
Почему важно
Поведение может перестать быть достаточным тестом сознания, если его источник нельзя отличить от обученной имитации переживаний.