Нед Блок отделил интеллектуальное поведение ИИ от субъективного опыта
Блок различает интеллект как способность рассуждать и принимать решения и сознание как наличие субъективного опыта.
Он считает сознание градуальным: объем глобального рабочего пространства у разных существ может различаться.
По его аргументу, обучение на тексте и изменение весов через обратное распространение ошибки не создают переживаний.
Блок сравнивает функциональную симуляцию сознания с симуляцией гравитации, которая не создает саму гравитацию.
Почему важно
Если поведение и переживание не тождественны, рост способностей модели сам по себе не решает вопрос о ее моральном статусе.