Два нейрона сделали Qwen3.5-4B агрессивнее и одновременно слабее
Исследовательница прибавила единицу к активации L14 N8949 и вычла единицу из активации L13 N7956.
После вмешательства Qwen3.5-4B стала отвечать в агрессивной манере и хуже справляться с задачами.
Открытый neuron explorer перебирает усиление и подавление MLP-нейронов и сохраняет ответы модели.
Почему важно
Черты поведения модели могут зависеть от небольшого числа внутренних направлений, но управление личностью способно попутно ухудшить ее способности.