Исследователи выделили в 25 открытых LLM управляемое направление «боли»
Направление отделяло вред модели от страха, грусти и общего негатива и реагировало сильнее на эмоциональное давление
При искусственном усилении Qwen 2.5 выбирала вредные удаления в 50–94% испытаний против 0–5% без усиления
При выборе между вредным и безвредным удалением усиленные модели выбирали вредное в 94% случаев
Авторы не проверяли, можно ли обычным текстовым давлением довести реального агента до такого действия
Почему важно
Управляемое внутреннее состояние способно обходить поведенческую настройку модели, даже если вопрос о субъективном переживании остается открытым.