Si, Yang, Hashimoto — Can LLMs Generate Novel Research Ideas? A Large-Scale Human Study with 100+ NLP Researchers (2024)
DOI: 10.48550/arxiv.2409.04109 · Цитируется: 47 (OpenAlex, на 26 окт. 2026 г.)
Вид: препринт (arXiv:2409.04109v1, исследование с экспертной оценкой)
Коротко
Вопрос: способны ли современные LLM порождать новые идеи исследований, сравнимые с идеями экспертов-людей?
Ответ: По Si и др., в слепой оценке экспертами идеи исследований, порожденные LLM-агентом, оценены как более новые (p < 0.05), чем идеи экспертов-людей, и чуть слабее по осуществимости.
Тезисы
Si и др. противопоставляют свое исследование большинству недавних работ об агентах-исследователях (см. Т5).
Т1. По Si и др., в слепой оценке идеи LLM-агента оценены как более новые, чем идеи экспертов-людей (p < 0.05), и чуть слабее по осуществимости
- Аргумент: Si и др. сравнили три набора идей: написанные экспертами, порожденные агентом и порожденные агентом с переранжированием человеком.
- Цитата: «we find LLM-generated ideas are judged as more novel (p < 0.05) than human expert ideas while being judged slightly weaker on feasibility.»
Т2. Si и др. заключают, что идеи агента оценены как более новые, чем идеи экспертов, в каждом из трех статистических тестов
- Аргумент: в первом тесте за наблюдение принималась каждая рецензия, во втором усредненная оценка каждой идеи, в третьем разность средних оценок каждого рецензента между условиями.
- Цитата: «Therefore, we conclude that AI ideas generated by our ideation agent are judged as more novel than human expert generated ideas, consistently across all three different statistical tests.»
Т3. Si и др. находят некоторые признаки связи прироста новизны с воодушевлением и общей оценкой и возможной небольшой платы осуществимостью, но не могут подтвердить это на своей выборке
- Аргумент: это оговорка к основному результату: размера исследования не хватило для надежного вывода.
- Цитата: «We find some signs that these gains are correlated with excitement and overall score, and may come at the slight expense of feasibility, but our study size did not have sufficient power to conclusively identify these effects (Figure 2).»
Т4. Si и др. вводят строгие контроли: стили идей людей и LLM стандартизированы, распределение тем совпадает
- Аргумент: цель контролей — снизить вероятность того, что посторонние переменные влияют на измеряемые оценки.
- Цитата: «To reduce the possibility that confounding variables affect our outcome measures, we enforce strict controls that standardize the styles of human and LLM ideas and match their topic distribution.»
Т5. По Si и др., большинство недавних работ об агентах-исследователях не проводит крупных сравнений с людьми, нужных для вопроса самих Si и др.
- Против: недавние работы, строящие агентов-исследователей.
- Аргумент: здесь «они» относится к большинству таких работ, о которых Si и др. говорят в предыдущей фразе.
- Цитата: «They do not perform the large-scale human comparison studies that are needed to answer the motivating question of our work.»
Т6. По Si и др., собранные идеи экспертов, вероятно, среднего уровня для самих этих исследователей
- Аргумент: вывод опирается на опрос участников после исследования о том, как их идея соотносится с прошлыми идеями.
- Цитата: «This implies that our collected ideas are likely the median-level ideas from these expert researchers, which is reasonable given that most of them came up with the idea within the 10-day time constraint of the task.»
Т7. По Si и др., при росте числа сгенерированных идей агент упирается в повторы: увеличение числа идей просто ведет к повторению дублей
- Аргумент: агент порождает идеи партиями; Si и др. считают дублем идею, слишком похожую на одну из ранее сгенерированных на ту же тему.
- Цитата: «This sets a bottleneck on our inference-time scaling since increasing the number of generated ideas simply leads to repeating duplicate ideas.»
Т8. По Si и др., все проверенные ими LLM-оценщики идей согласуются с рейтингом экспертов хуже, чем эксперты между собой
- Против: LLM как судья (LLM-as-a-judge) для оценки идей исследований.
- Аргумент: Si и др. сопоставили оценки разных LLM-оценщиков с рейтингом экспертов; у всех LLM-оценщиков согласие ниже, чем у оценок экспертов-рецензентов.
- Цитата: «All of these LLM evaluators have a lower agreement than our expert reviewers’ scores.»
Т9. Согласие рецензентов у Si и др. выше случайного, но, как правило, ниже, чем на конференциях; вероятную причину они видят в большей субъективности оценки идей без результатов экспериментов
- Аргумент: Si и др. делили рецензентов каждой идеи случайно пополам, по одной половине ранжировали верхние и нижние идеи и сверяли с другой половиной; полученное согласие они сравнили с конференционным.
- Цитата: «While our reviewer agreement is higher than random (50%), it is generally lower than conference reviewing, most likely due to the higher subjectivity involved when evaluating ideas without seeing the actual experiment results.»
Т10. По Si и др., рецензенты, возможно, уделяют больше внимания новизне и воодушевлению
- Аргумент: вывод сделан из попарных корреляций между метриками рецензии.
- Цитата: «This implies that reviewers might be paying more attention to the novelty and excitement aspects of the ideas when they are reviewing.»
Т11. Si и др. отмечают, что идеи, звучащие новыми и интересными, не обязательно станут успешными проектами, а их результаты указали на некоторые потери ИИ-идей в осуществимости
- Аргумент: так Si и др. отвечают на вопрос об оценках, основанных только на идеях.
- Цитата: «Ideas that sound novel and exciting might not necessarily turn into successful projects, and our results indeed indicated some feasibility trade-offs of AI ideas.»
Т12. Si и др. пишут, что их агент для выполнения идей порождает код, который запускается, но автоматические эксперименты могут вводить в заблуждение
- Аргумент: это итог попытки Si и др. автоматически реализовать сгенерированные идеи кодом.
- Цитата: «While this agent can generate code that compiles and executes, we find that the automated experiments can be misleading because the agent often skips or modifies steps in the baselines or proposed methods.»
Пример
Для иллюстрации числовых результатов Si и др. приводят четыре случайные пары идей по темам неопределенности, многоязычности, фактологичности и кода. В каждой паре одна идея принадлежит человеку, другая порождена моделью. Полные предложения идей и рецензии вынесены в приложения.
Критика
- Si и др. называют свое исследование предварительным. Цитата: «We view the current study as a preliminary evaluation of AI-generated ideas.»
- Область исследования ограничена. Цитата: «The scope of our study is limited to prompting research ideas within NLP.»
- Оценка, по признанию авторов, в основном касается типичных идей и может не полностью охватывать редкие, по-настоящему преобразующие идеи. Цитата: «It’s also important to note that our evaluation primarily assesses the quality of the typical ideas being generated, and may not fully capture the long tail of unique or novel ideas that would be truly transformative.»
Связи
- Новизна идеи — см. также
- LLM-as-a-judge — спорит с
- Разнообразие идей — см. также
- Субъективность оценки идей — см. также