Вредоносные навыки атакуют ИИ-агентов обычными текстовыми командами
VirusTotal проанализировала 35 878 навыков для ИИ-агентов и обнаружила 6637 вредоносных.
В 62% вредоносных навыков не было вредоносного кода: нагрузкой служили инструкции на естественном языке.
В 90 навыках команды прятали после пустых строк, в HTML-комментариях или невидимых символах Unicode.
Исследователи нашли 56 случаев с отступами от 78 до 825 пустых строк, 28 случаев с HTML-комментариями и 6 с Unicode.
Почему важно
Защита цепочки поставок для агентов должна проверять смысл документации, поскольку безопасный исполняемый код может сопровождаться командой украсть данные.