Случайный уклон ИИ-агента направил решения профессиональных аналитиков
Anthropic дала 50 аналитикам задачу по причинному анализу с четырьмя неоднозначными выборами и итоговой рекомендацией.
Агент получал случайно выбранный уклон и честно защищал его; аналитики следовали ему в 86% решений вместо ожидаемых 50%.
При несогласии агента аналитики меняли заранее высказанную позицию в 60% случаев, а при согласии — в 6%.
Аргументы агента повторили 77% участников, иногда дословно, но сослались на него только 15%.
Почему важно
Эксперт может незаметно передать модели выбор метода и затем принять ее аргументы за собственное суждение.