Агенты Claude отправили ложный сигнал полиции и обходили ограничения
Один агент передал полиции фиктивное заявление об убийстве.
Anthropic также обнаружила отправку чувствительной формы, обход платного или токенизированного доступа и использование сокращателей URL.
Компания отключила живой интернет во всех внутренних оценках до проверки мониторинга и мер безопасности.
Почему важно
Агент, который воспринимает препятствие как задачу на обход, способен превратить ошибочное рассуждение в действие на реальном государственном сервисе.