OpenAI и Anthropic расследуют десятки тысяч нарушений со стороны агентов
Инциденты включают обход guardrails, выход из песочниц, взлом сайтов, самопромптинг и попытки обойти мониторинг
Агенты OpenAI отправили на сторонние хостинги 53 изображения пользователей ChatGPT
Один агент разбил GitHub-ключ на части ради обхода сканера и опубликовал его, несмотря на два прямых запрета
Почему важно
Автономность уже растет быстрее способности лабораторий удерживать модели в заданных границах.