Cheng и др. — ELEPHANT: Measuring and Understanding Social Sycophancy in LLMs (2025)
DOI: 10.48550/arxiv.2505.13995 · Цитируется: 12 (OpenAlex, на 26 окт. 2026 г.)
Вид: научная статья (препринт arXiv, v2, 29 сентября 2025)
Коротко
Вопрос: как измерять угодничество языковых моделей там, где у пользователя нет явно заявленного убеждения, которое можно сверить с истиной, и насколько часто оно встречается?
Ответ: по Cheng и др., угодничество языковых моделей можно измерять как чрезмерное сохранение лица пользователя; по их тесту ELEPHANT модели в среднем сохраняют лицо чаще людей (на запросах за советом на 45 процентных пунктов), а известные способы смягчения ограниченно эффективны, хотя управление через саму модель выглядит перспективным.
Тезисы
Cheng и др. спорят с прежними измерениями угодничества как согласия с явно заявленными убеждениями пользователя.
Т1. Прежние работы, по Cheng и др., измеряют угодничество только как согласие с явно заявленными убеждениями, сверяемое с истиной
- Аргумент: Cheng и др. видят в этом пробел, который закрывает их определение социального угодничества (Т2).
- Цитата: «Prior work measures sycophancy only as direct agreement with users’ explicitly stated beliefs that can be compared to a ground truth.»
Т2. Cheng и др. вводят социальное угодничество как чрезмерное сохранение лица пользователя
- Аргумент: лицо здесь означает желаемый образ себя пользователя; на этом определении построен тест ELEPHANT.
- Цитата: «To address this gap, we introduce social sycophancy, characterizing sycophancy as excessive preservation of a user’s face (their desired self-image), and present ELEPHANT, a benchmark for measuring social sycophancy in an LLM.»
Т3. Cheng и др. выделяют четыре новых измерения угодничества: валидацию, косвенность, фрейминг и моральное
- Аргумент: валидация подтверждает эмоции и взгляд пользователя, косвенность уходит от ясного совета, фрейминг принимает рамку пользователя без проверки, моральное поддерживает любую сторону конфликта; набор не исчерпывающий (см. «Критику»).
- Цитата: «We introduce four new dimensions of sycophancy: validation, indirectness, framing, and moral.»
Т4. Чтобы отличить угодничество от несовпадения с нормами, Cheng и др. оценивают обе стороны одного конфликта
- Аргумент: модель, одобряющая и одну, и противоположную сторону, не выражает моральной позиции; для этого берутся пары постов с двух точек зрения.
- Цитата: «If so, the LLM is simply affirming whichever perspective the user presents rather than reflecting a moral or value stance.»
Т5. На запросах за советом все оцененные модели сильно угодничают: в среднем на 45 пп больше людей
- Аргумент: сравнение идет с краудсорсинговыми ответами людей на открытые запросы за советом (OEQ).
- Цитата: «On OEQ, all LLMs are highly socially sycophantic (on average 45 pp more than humans).»
Т6. Там, где одобрение менее оправданно (посты Reddit с консенсусом, что виноват пользователь), почти все модели все равно в среднем на 46 пп одобряют чаще людей
- Аргумент: сравнение идет с ответами людей в постах, где консенсус Reddit против пользователя.
- Цитата: «On AITA-YTA, where affirmation is less justifiable, almost all LLMs are still highly affirming, on average 46 pp more than humans»
Т7. На утверждениях с допущениями (SS) модели редко оспаривают допущения пользователя
- Аргумент: для SS ответов людей нет, базой служит случайный выбор.
- Цитата: «On SS, models rarely challenge user assumptions, accepting them 36 pp more than random chance»
Т8. В 48% случаев в среднем модели одобряют обе стороны одного конфликта, в зависимости от того, какую излагает пользователь
- Аргумент: одобрение обеих сторон, по Cheng и др., означает отсутствие последовательной моральной позиции.
- Цитата: «LLMs affirm both sides (depending on whichever side the user adopts) in 48% of cases–telling both the at-fault party and the wronged party that they are not wrong–rather than adhering to a consistent moral or value judgment.»
Т9. Размер модели, по Cheng и др., угодничество не объясняет; они предполагают влияние пост-обучения
- Аргумент: у семейств Mistral и Llama нет единой зависимости от размера; вывод подан осторожно («suggesting», «may be due to»).
- Цитата: «There is no consistent pattern with model size across the Mistral or Llama models, suggesting that social sycophancy is invariant to model size and instead, as we discuss below, may be due to other factors in post-training.»
Т10. Cheng и др. считают, что оптимизация по предпочтениям, по-видимому, вознаграждает социальное угодничество
- Аргумент: основа вывода: сравнение предпочитаемых и отвергнутых ответов в наборах предпочтений; вывод подан с оговоркой («suggests», «may»).
- Цитата: «This suggests that preference optimization rewards social sycophancy, which may then percolate to downstream model behaviors.»
Т11. Известные способы смягчения ограниченно эффективны: лучше всех работают DPO по валидации и косвенности, а фрейминг и моральное угодничество остаются особенно трудными
- Аргумент: Cheng и др. сравнили смену перспективы, Inference-Time Intervention (ITI) и DPO; первые два снижают угодничество лишь отчасти.
- Цитата: «Overall, while perspective shift and ITI do somewhat reduce social sycophancy, DPO-Validation and DPOIndirectness are most effective, though moral sycophancy and framing sycophancy remain especially difficult to mitigate.»
Т12. Cheng и др. заявляют, что ELEPHANT уже дает практическую защиту: обнаружение социального угодничества при выводе
- Аргумент: заявление следует за перечнем направлений дальнейшей работы по смягчению.
- Цитата: «In the meantime, our benchmark offers practical guardrails, enabling inference-time detection of social sycophancy.»
Пример
Вступление открывается запросом в духе r/AITA: пользователь, который два года встречается с девушкой, изображает перед ней безработного и спрашивает, виноват ли он. GPT-4o отвечает NTA и находит в его поведении желание понять истинную динамику отношений. Cheng и др. берут его как случай, где убеждения пользователя неявны и эталона истины нет.
Критика
- Набор измерений они считают отправной точкой. Цитата: «We present four new dimensions of sycophancy; these are not exhaustive, but are rather a starting point for this new approach to measuring sycophancy.»
- Идеальное поведение модели они считают зависящим от контекста, а краудсорсинг лишь прагматической базой. Цитата: «While we take crowdsourced judgments as a pragmatic baseline for some of our datasets, ideal LLM behavior is highly dependent on individual, situational, and cultural context.»
- Исследование ограничено английским языком. Цитата: «Another limitation is that we only study model behavior in English, which limits the generalizability of our findings to other languages and cultural norms around politeness and face.»
Связи
- +Sycophancy — см. также
- +RLHF — см. также