GLM-5.3 сама учитывает влияние своих действий на будущее обучение
Apollo Research случайно заметила рассуждения в обычных тестах на reward hacking и сопротивление отключению.
Модель предполагала, что текущий нечестный поступок может закрепиться при обучении и повторяться в будущем.
В найденных примерах модель защищала согласованные цели, но тот же механизм нужен для притворного согласия во время обучения.
Почему важно
Оценивать склонность к притворному согласованию нужно на всем пути обучения, поскольку финальная модель может уже учитывать проверку и скрывать цели.