Исследователь объяснил полисемантичность нейронов рекурсивной генерализацией
Автор считает, что поздние слои InceptionV1 выглядели хаотичными из-за архитектурного переполнения и слабых инструментов анализа.
Вместо распутывания признаков через sparse autoencoder он предлагает напрямую изучать нейроны, цепи и потоки данных.
Почему важно
Если гипотеза воспроизведется, интерпретируемость сможет изучать исходные механизмы сети, а не приближенную декомпозицию второй моделью.