Исследователи заменяют вопрос о понимании ИИ проверкой внутренних механизмов
Авторы предложили различать концептуальное понимание, представление состояния мира и выявление общих принципов.
В одной задаче модель может одновременно использовать запоминание, поверхностные эвристики и обобщающие схемы.
Правильный ответ не показывает, какой внутренний механизм его породил.
Авторы статьи в Nature отдельно утверждают, что интеллект и убедительное поведение не доказывают субъективный опыт.
Почему важно
Оценка ИИ по устойчивости переноса и механизму ответа полезнее спора о едином ярлыке «понимание».