Аргумент непрерывного обучения (Continual Learning Argument)
Вид: страница внешней карты (UMap)
Коротко
Вопрос: Могут ли нынешние большие языковые модели (large language models) быть сознательными, если они не обучаются во время вывода?
Ответ: Аргумент непрерывного обучения утверждает, что нынешние большие языковые модели (large language models) не могут быть сознательными, потому что не способны обучаться во время вывода; Карта добавляет, что обучение, вероятно, не достаточное условие, а сам вывод опровержим, не необходим.
Тезисы
Т1. Аргумент утверждает: нынешние модели не могут быть сознательными, потому что не обучаются при выводе
- Аргумент: Так страница излагает утверждение аргумента непрерывного обучения.
- Цитата: «The continual learning argument claims that current large language models cannot be conscious because they lack the capacity for ongoing learning during inference.»
Т2. По Хоэлю, языковые модели ближе к таблицам соответствий, чем мозг
- Аргумент: Хоэль указывает две причины: у моделей конечное пространство входов и выходов, а ответы вычисляются из фиксированных весов.
- Цитата: «Hoel argues that LLMs are closer to lookup tables than brains are, since their input-output space is finite (bounded token sequences) and their responses are computed from fixed weights.»
Т3. Карта пишет, что сила близости к таблицам соответствий под вопросом
- Аргумент: Карта возражает, что Хоэль не определяет расстояние в пространстве подстановок (substitution space) строго, а сила аргумента зависит от того, как трактуется логическая возможность подстановки.
- Цитата: «Hoel does not rigorously define the distance metric in substitution space, and the argument’s force depends on treating logical possibility of substitution as though it implied practical proximity.»
Т4. Если непрерывное обучение необходимо для сознания, у нынешних моделей его нет
- Аргумент: Карта пишет условно: если непрерывное обучение необходимо, то его нет у нынешних моделей, а значит нет и сознания.
- Цитата: «If continual learning is necessary for consciousness, current LLMs lack it and so lack consciousness.»
Т5. Карта пишет, что вывод для систем без непрерывного обучения опровержим, не необходим
- Аргумент: Карта пишет, что по нынешним данным у систем без непрерывного обучения, вероятно, нет сознания (по этому критерию), потому что у всех проверяемых систем сознание сопутствует способности к самоизменению.
- Цитата: «The inference is therefore defeasible, not necessary: on present evidence, systems without continual learning very likely lack it (on this criterion), because in every case we can examine, consciousness travels with the capacity for ongoing self-modification.»
Т6. Даже если непрерывное обучение необходимо для сознания, оно, вероятно, не достаточно
- Аргумент: Карта пишет, что необходимость непрерывного обучения не делает его, вероятно, достаточным условием.
- Цитата: «Even if continual learning is necessary for consciousness, it is likely not sufficient.»
Критика
Что страница сама признаёт о пределах аргумента.
- Карта пишет, что аргумент работает на вычислительном уровне и не рассматривает, могут ли у моделей быть свойства других уровней.
- Цитата: «It does not address whether LLMs might possess properties at other levels—quantum coherence, for instance—that could distinguish them from lookup tables in ways the computational analysis misses.»
Что опровергло бы
Условия, которые страница называет сама.
- Карта пишет, что убедительные данные о независимости сознания от субстрата ослабили бы критерий.
- Цитата: «Compelling evidence that consciousness depends only on abstract computational structure—not on temporal dynamics or physical implementation—would undermine the criterion.»
- Карта пишет, что ясные контрпримеры потребовали бы пересмотра критерия.
- Цитата: «If we encountered clear cases of continual-learning systems that were obviously non-conscious, or static systems that were clearly conscious, the criterion would need revision.»
Связи
- функционализм (functionalism) — см. также
- иллюзионизм (illusionism) — см. также
- сознание-свидетель (witness consciousness) — см. также
- сознание ИИ (AI consciousness) — см. также