跳到正文
原文
Hugging Face Blog·· 2 小时前精选AI 评分70

AllenAI发布基准测试:LLM评估科研新颖性极不可靠

Can we trust LLMs to judge whether a research idea is novel?

AI 导读

AllenAI发布Old Ideas, Novel Problems研究及基准,测试GPT-5系列与Claude Opus 4.6等模型评估科研新颖性的可靠性。结果显示评估极不稳定,提示词微调可使准确率波动超50个百分点,且增加检索与推理成本并未提升表现。

推荐理由

通过基准测试揭示LLM评估科研新颖性极不稳定,提示词微调即可导致准确率大幅波动。

来源:Hugging Face Blog · huggingface.co