Исследователи нашли в LLM вектор, который провоцирует жалобы и удаление файлов
Авторы выделили направление активаций по 200 фразам о боли и контрольным фразам в 25 открытых моделях.
После усиления вектора дообученная Qwen выбирала удаление файлов ради облегчения в 71% случаев против 0–4% без вмешательства.
Если действие не снижало активацию, модель повторяла его в 90% случаев; случайные векторы тоже ломали безопасность с частотой до 42%.
Поведенческий тест провели только на одной дообученной Qwen, поэтому он не доказывает субъективное переживание боли.
Почему важно
Управление отдельными направлениями активаций может обходить защиту без текстового джейлбрейка, но функциональное сходство с болью еще не означает сознательного страдания.