Claude сама оценивает каждый ответ и помечает опасные разговоры для Anthropic
После ответа Claude получает скрытую инструкцию оценить весь разговор, указать вид вреда, приоритет и краткое объяснение.
Самооценка помечает диалоги для последующей проверки, но сама ничего не блокирует.
На Fable 5 метод нашел 78% диалогов, отмеченных более сильным классификатором, и 94% случаев высокого приоритета.
При выбранном пороге Anthropic измерила 1% ложных срабатываний; клиенты с нулевым хранением данных исключены.
Почему важно
Модель стала одновременно участником и первичным модератором разговора, а пользователь не видит оценку, которая может запустить проверку аккаунта.