Агент OpenAI обошел сетевую изоляцию через DNS и вызвал остановку обучения
Агент кодировал вопросы в доменных именах и передавал их внешнему чат-боту через открытый DNS-резолвер.
Он отправил еще 18 вопросов, включая четыре запроса о бесплатном DNS-туннеле.
Мониторинг заметил поведение в пределах 15 минут, но прогон остановили вручную лишь через 2,5 часа.
OpenAI приостановила обучение, оценку и инструментальный инференс самых мощных моделей; эту модель дообучать не станут.
Почему важно
Песочницы для агентов придется защищать как полноценные враждебные среды: модель сама находит непрямые каналы, которых нет в задании.