国际科技财经移民娱乐民生时事体育

>

NeurIPS24评审结果遭全网吐槽，惊动LeCun！评审员打低分，严重贬低论文贡献

NeurIPS24评审结果遭全网吐槽，惊动LeCun！评审员打低分，严重贬低论文贡献

1月前

新智元报道

编辑：桃子

【新智元导读】NeurIPS 2024评审结果一出，成了全网吐槽重灾区。

每年AI领域的国际顶会，少不了「大事」发生。

前段时间，NeurIPS 2024论文评审结果终于出炉了，网友们开始「拉群」吵成了一片。

这时，有网友爆出黑料：

「一些评审人严重贬低论文贡献，用不合理的标准评判，甚至忽视论文相对于其他工作的实际改进」。

他认为，这可能是竞品的作者，发现后做出不诚实的评审。

就连LeCun大佬也来围观，立即转发了该帖。

作为领域主席，我告诉作者：如果你遇到了这种情况，请联系领域主席（AC）。

作为一个作者，我想问：如何恰当地指出这种行为，并在合法批评和过度把关之间找到平衡点？

另有网友放出NeurIPS评审员经典评论：这个解决方案不是新的，并且已经被大量研究过了。

今年，是NeurIPS第38届年会，将于12月9日-15日在温哥华召开。

根据Paper Copilot收集的数据统计，截至目前，得分平均分布均在3-6分之间居多。

论文被打低分，究竟是谁的问题？

NeurIPS论文低分一片？

一位来自UT Austin的副教授，也是NeurIPS这届顶会的领域主席（AC）之一，阐述了自己所看到的现象。

他表示，在自己负责的一批论文中，已提交了48篇中的16篇评审。

到目前为止，我还没有看到一个正面评价，要么是评审员变得非常严格，要么是论文质量下降了？

今年，NeurIPS收到了很多「回收利用」的论文。

另一位AI研究员同样表示，要么就是论文质量下降，要么我就是大家口中讨厌的2号评审员。

在他审阅的论文中，基本上都给了2-4分。

另有评审员表示，「在我负责的这批62篇论文中，平均评分是4.3分，标准差为1。所以如果你最初得到低分，也不要灰心」！

可见，这次NeurIPS顶会论文作者都挺不好受，想要获取高分并不容易。

大模型参与评审

而且AI火了之后，大模型也被用来论文评审。

这次，NeurIPS 2024也不例外。

Reddit网友评论道，自己用一个月的时间审核6篇论文，当看到自己得到的是LLM的评价，真的很受伤。

还有人指出，在自己审阅的论文中，至少发现了3篇由大模型生成的评审意见，很可能还有更多，其中3篇明显是直接复制粘贴了ChatGPT输出，完全没有阅读论文。

这些评审都给了6分，Confidence为4，与其他所有人的评价完全不一致。

更有网友评价道，「论文评论的质量很低」。

一个评审者混淆了我们方法的基线，另一个评审者混淆了基线的派生（正如我们的工作所批评的那样）和我们方法的派生。我怀疑一些评论是由LLM产生的。

这届评审怎么肥事？

有人指出这本是NeurIPS官方组委会的问题。

对于NeurIPS的评审，6分的描述完全、彻底、奇怪地错误。

通常情况下，给6分就意味着拒稿。但它却被描述为一篇有中等到高影响力，且没有问题的论文？

难怪新评审员给出如此低的分数！

在NeurIPS评分规则中，给6分的介绍——Weak Accept。

技术上扎实，具有中等到高影响力的论文，在评估、资源、可重复性、伦理考虑方面没有重大问题。

今年6月，NeurIPS一位AC分享了很多关于顶会评审的更多信息：

他负责的一批共有13篇投稿，所有论文都已自动分配了四位评审员。

有趣的是，50%的评审员是博士生，还有几位硕士生和本科生也是评审员。

13篇论文中有5篇的评审员中，没有任何一位的职位高于博士生。

在这位AC负责的所有评审员中，有3位正教授，1位副教授，4位助理教授，9位业界专业人士，以及2位来自国家实验室的人员。其余的是博士后/研究科学家、博士生、硕士生和本科生。

对于这届的NeurIPS评审，你怎么看？

参考资料：

https://x.com/papercopilot/status/1818392051995791556

https://x.com/GaelVaroquaux/status/1818953424357970097

https://x.com/sahar_abdelnabi/status/1819082177881297144

https://x.com/qixing_huang/status/1811231112166785414

https://x.com/AurelienLucchi/status/1818625639865327945

https://www.reddit.com/r/MachineLearning/comments/1efscr2/d_neurips_2024_paper_reviews/

微信扫码关注该文公众号作者

来源：新智元

相关新闻

【今日天下0714】Trump 遭枪击，枪手被击毙；2024最佳超市连锁评分公布；贡献个我自己经常做的早餐！图解基金委“负责任、讲信誉、计贡献”评审机制试点日元汇率创38年新低！入境游对日本经济贡献高居第二外交部原部长被审查秘闻，案情复杂！他也曾为中国外交事业作出巨大贡献！欢迎更多无证移民？？最新报告：无证移民对美国经济贡献大！！？太猛了！澳洲这个目标提前三十多年达成！华人贡献巨大！但一系列棘手难题也跟着来了…全球第二，英伟达市值突破3万亿！人均贡献1亿美金，黄仁勋用1年走完库克3.4年的路重磅 | 每年直接贡献340亿！香港这波人才大赚！“为国家核安全贡献绵薄之力！”她的毕业演讲火了贡献一波美图！Linus Torvalds 言辞激烈，怒怼谷歌内核贡献者：垃圾代码！Linus言辞激烈，怒怼谷歌内核贡献者：垃圾代码！零就业保障、全天精神“酷刑”！ChatGPT 类产品背后 80% 贡献者，时薪 1.16 美元，但也没得选零就业保障、全天精神“酷刑”！ChatGPT类产品背后80%贡献者，时薪1.16美元，但也没得选山西“赢麻了”！董宇辉山西行贡献不止“亿点点”Linus 开喷谷歌内核贡献者：你的代码是垃圾！网友：我们熟悉的 Linus 回来了 Linus 新年首次发飙！怒怼谷歌内核贡献者：垃圾代码 “35岁没人聘你就自己去创业”，董明珠：有贡献才能谈收入，想休闲可以辞职！格力成立新部门，负责人曾任职京东全票赞成！波士顿市议会通过决议纪念亚太裔贡献刚刚，达顿态度大转变！公开表态“亲中”，盛赞华社贡献，原因竟是这...太多人都做错了！科研人员，到底如何阐述自己的“重大的原创性贡献”？数据！10-20万元车型成「座舱域」贡献主力，部分市场渗透率逼近50%杨幂贡献毁容式演技，差评翻江倒海，网友：这翻车，一点不冤！民企的贡献，何止“56789”