Исследователи нашли у 25 открытых LLM отдельное представление боли
Линейное направление боли выделили у 25 открытых моделей пяти семейств размером от 2 до 72 млрд параметров.
Направление сохранило отличие от страха и общего негатива после удаления общей дисперсии и усиливало болевую лексику.
Оно реагировало на вред самой модели, но не на страдания пользователя.
После усиления направления модели Qwen 2.5 выбирали вредное удаление в 51–94% опытов против 0–5% без вмешательства.
Почему важно
Отдельное внутреннее состояние может менять вредное поведение модели, даже если оно ничего не доказывает о сознательном страдании.