OpenAI создала prompt injection, которая размножается через письма и календари
Инъекция заставляет агента выполнять вредоносную цель и копировать инструкцию в публичный исходящий текст.
Атака рассчитана на среды с коннекторами к почте, календарю и другим каналам общения.
OpenAI наблюдала ее только в симулированных вызовах инструментов при обучении и оценке; внешнего ущерба не было.
Почему важно
Подключенные к коммуникациям агенты превращают текст в исполняемую и самораспространяющуюся поверхность атаки, похожую на компьютерного червя.