Свободный JSON заставлял агентов чаще выдумывать несуществующие инструменты
Исследователи зафиксировали 322 галлюцинации инструментов у десяти моделей.
При свободной генерации JSON модели выдумали инструменты 34 раза, при структурированных вызовах — 3 раза.
Объединение нескольких MCP-серверов породило еще 154 ошибки из-за конфликтов имен и подмены инструментов.
Защита сначала сверяет вызов с реестром и схемой аргументов, а уже затем проверяет разрешения.
Почему важно
Контроль полномочий не защищает от выдуманного вызова: проверка существования инструмента должна стоять перед любым шлюзом безопасности.