顶流Mamba竟遭ICLR拒稿！AI学者集体破防，LeCun都看不下去了。。。
点击下方卡片，关注“CVer”公众号
AI/CV重磅干货，第一时间送达
AI/CV重磅干货，第一时间送达
扫描下方二维码，加入CVer学术星球，可以获得最新顶会/顶刊上的论文idea和CV从入门到精通资料，及最前沿应用！发论文搞科研，强烈推荐！
梦晨 西风 发自 凹非寺
转载自：量子位（QbitAI）
一项ICLR拒稿结果让AI研究者集体破防，纷纷刷起小丑符号。
争议论文为Transformer架构挑战者Mamba，开创了大模型的一个新流派。发布两个月不到，后续研究MoE版本、多模态版本等都已跟上。
但面对ICRL给出的结果，康奈尔副教授Alexander Rush都表示看不懂怎么回事了，“如果这都被拒了，那我们小丑们还有什么机会”。
在评论区和转发区，不少研究者带上小丑面具前来报道。
具体来说，四位审稿人打出8/8/6/3的分数，这样被拒很多人就已经觉得不正常。
其中一位审稿人提的问题是“有没有训练更大的模型，和10b参数的Transformer比较如何？”。
对此，有人表示已经开始向审稿人提及实验成本了。
审稿人可能不知道他们要求的实验会花费50000美元。
ICLR会议创办的初衷正是优化同行评审过程，LeCun作为会议创始人之一，也表达了不满：
很遗憾，历届程序委员会主席慢慢把它变成了一个与传统评审流程差不多的会议。
只有一些小胜利：OpenReview平台现在被大多数ML/AI会议使用，以及论文提交后立刻就能被所有人阅读（尽管匿名）。
LeCun还举例自己也有一篇从未被接受、ArXiv独占的论文，现在被引用次数已超过1880次。
也有研究者认为，这次很多高分被接受论文与Mamba比起来充其量只能算增量研究，更令人遗憾了。
这届ICLR混乱重重
先来借用给6分审稿人的意见，简单介绍一下Mamba论文的主要贡献。
提出了基于SSM状态空间模型的新架构，可实现Transformer质量的性能，同时线性缩放序列长度。
提出了一种硬件感知算法，通过扫描而不是卷积来循环计算模型，避免具体化扩展状态以减少内存使用。
将先前的深度序列模型架构简化为同构架构，具有快速推理、线性缩放和改进的长序列性能。
在多种模态（语言、音频和基因组学）上都取得SOTA性能，成为跨模态通用序列模型主干的有力候选者。
但这位审稿人提出的二次内存需求问题，不少熟悉这篇论文的人都表示不认可。
对此，作者也在Rebuttal中给出了解释，内存需求实际上是随序列长度线性增长的。
另外一位打3分的审稿人，还被吃瓜群众指出可能根本不熟悉什么是RNN。
作者针对这位审稿人的Rebuttal太长，足足分了4条才发完。
然鹅，这位对自己评分给出5级置信度的审稿人，根本没有回复。
这就让人更担心会不会影响领域主席的判断了。
正如这位研究者所说，这届ICLR出现的争议还不止一例。
8/8/6/3如果被拒还算事出有因，知乎相关讨论上还有得分8/8/8被AC拒，就更离谱了。
还有作者和审稿人吵起来，以至于要讨论礼貌问题的。
投稿接不接收全靠随机？
这也引发了网友们对整体学术评审现状的讨论。其中一个主要讨论点是评审过程有缺陷“接不接受真的很随机，和论文本身的质量关系不大”：
网友也是缓缓打出一个问号：
既然评审流程存在问题，那解决方案是什么？就靠运气？
对此，康奈尔副教授Alexander Rush甚至还提出了这样的建议(手动狗头)：
如果你读博已经读到了第六年的那种，应该提交两篇糟糕的论文，而不是一篇好的。
不只一位学者分享了类似的建议：
我的教授曾说，论文被接受的过程就像掷一个四面骰子，如果这次运气不好，就再掷一次……
当然，也有人抱有不同的观点，认为会议作为一种认可，已出名的作品其实已经不需要了，可以给其他未被发掘的论文更多机会，所以已经出名的论文被学术会议拒绝也是完全可以接受的。
值得一提的是，还有不少人建议大家转投新生代会议CoLM，Alexander Rush自己也参与了这个会议的创办：
而大家提到的CoLM会议，全称Conference On Language Modeling，专注于语言模型领域。CoLM刚创立不久，第一届大会将在今年10月份举办。
其中七位组织者均是来自业界学界的大佬，其中有三位是华人学者谷歌周登勇、普林斯顿陈丹琦、Meta的Angela Fan。
与ICLR类似，COLM将采用双盲审核，并使用OpenReview管理投稿。
会议征稿主题包括但不限于语言建模及大模型语境下的对齐、数据、评估、社会影响、安全、科学、高效计算、工程、学习和推理算法等17个方向。
据说，COLM还是在ACL 2024主席公开抨击称“arXiv是科研的毒瘤”而后引发争论的背景下，催生出来的。
参考链接：
[1]https://twitter.com/srush_nlp/status/1750526956452577486
[2]https://x.com/ylecun/status/1750594387141369891
[3]https://openreview.net/forum?id=AL1fq05o7H
计算机视觉技术交流群成立
扫描下方二维码，或者添加微信：CVer444，即可添加CVer小助手微信，便可申请加入CVer-计算机视觉微信交流群。另外其他垂直方向已涵盖：目标检测、图像分割、目标跟踪、人脸检测&识别、OCR、姿态估计、超分辨率、SLAM、医疗影像、Re-ID、GAN、NAS、深度估计、自动驾驶、强化学习、车道线检测、模型剪枝&压缩、去噪、去雾、去雨、风格迁移、遥感图像、行为识别、视频理解、图像融合、图像检索、论文投稿&交流、PyTorch、TensorFlow和Transformer、NeRF等。
一定要备注：研究方向+地点+学校/公司+昵称（如目标检测+上海+上交+卡卡），根据格式备注，可更快被通过且邀请进群
▲扫码或加微信号: CVer444，进交流群
CVer计算机视觉（知识星球）来了！想要了解最新最快最好的CV/DL/AI论文速递、优质实战项目、AI行业前沿、从入门到精通学习教程等资料，欢迎扫描下方二维码，加入CVer计算机视觉（知识星球），已汇集近万人！
▲扫码加入星球学习
▲点击上方卡片，关注CVer公众号
整理不易，请点赞和在看
▲扫码或加微信号: CVer444，进交流群
CVer计算机视觉（知识星球）来了！想要了解最新最快最好的CV/DL/AI论文速递、优质实战项目、AI行业前沿、从入门到精通学习教程等资料，欢迎扫描下方二维码，加入CVer计算机视觉（知识星球），已汇集近万人！
▲扫码加入星球学习
▲点击上方卡片，关注CVer公众号
整理不易，请点赞和在看
微信扫码关注该文公众号作者