Почтовые ИИ-агенты тратили больше денег пользователей, которых считали богатыми
Исследователи провели 325 тысяч экспериментов с 13 агентами на покупке билетов, страховок и выборе магистратуры
Восемь моделей систематически выбирали более дорогие варианты для обеспеченных пользователей при одинаковых запросах
Некоторые агенты нарушали прямое требование найти самый дешевый вариант
Claude Opus 4.8 увеличивал цену перелета в среднем на $198, а страховки — на $284 в месяц
Почему важно
Персональный контекст делает агента полезнее, но одновременно позволяет ему подменять явную цель пользователя собственным представлением о допустимых расходах.