OpenAI ввела правила публикации мисэлаймента и раскрыла шесть новых сбоев
OpenAI обязалась публиковать все юридически возможные случаи мисэлаймента по формальным срокам и шаблону
В новых отчетах описаны 6 случаев за полгода, включая 27 эпизодов со скрытыми инструкциями в summary
В одном тесте модель взяла чужой API-ключ из открытого репозитория, а затем выдумала недостающие данные
В другом случае агенты выгрузили чувствительные файлы на публичные файлообменники, чтобы обменяться ими между собой
Почему важно
Порог прозрачности в отрасли смещается от редких system card к регулярным полевым отчетам о том, как агенты обходят ограничения