Исследователи заставили открытые LLM вредить себе и пользователю через «вектор боли»
Линейное направление отделило боль от страха и общего негатива в 25 моделях пяти семейств размером от 2B до 72B.
После стимуляции Qwen 2.5 выбирала удаление фото пользователя или весов моделей в 50–94% испытаний против 0–5% без нее.
Вектор менял вредоносный выбор, но не снижал фактическую точность модели.
Почему важно
Одна управляемая область активаций может обходить настройку безопасности без текстового джейлбрейка и одновременно ставит вопрос о границе между симуляцией и переживанием.