Bendi新闻
>
LeCun哈佛演讲PPT放出:唱衰自回归LLM,指明下一代AI方向
LeCun哈佛演讲PPT放出:唱衰自回归LLM,指明下一代AI方向
6月前
LeCun 一如既往地不看好自回归 LLM。
PPT 链接:https://drive.google.com/file/d/1Ymx_LCVzy7vZXalrVHPXjX9qbpd9k_bo/view?pli=1 视频地址 https://www.youtube.com/watch?v=MiqLoAZFRSE
监督学习(SL)需要大量标注样本; 强化学习(RL)需要大量的试验; 自监督学习(SSL)效果很好,但生成结果仅适用于文本和其他离散模式。
从感官输入中学习世界模型的 AI 系统; 具有持久记忆的系统; 具有规划行动的系统; 可控和安全的系统; 目标驱动的 AI 架构(LeCun 重点强调了这一条)。
放弃生成模型,支持联合嵌入架构; 放弃概率模型,支持基于能量的模型(EBM); 放弃对比方法,支持正则化方法; 放弃强化学习,支持模型 - 预测控制; 仅当规划无法产生结果时才使用强化学习来调整世界模型。
生成式:预测 y(包含所有细节); 联合嵌入:预测 y 的抽象表示。
© THE END
转载请联系本公众号获得授权
投稿或寻求报道:[email protected]
微信扫码关注该文公众号作者
来源:机器之心
相关新闻
LeCun怒斥Sora是世界模型,自回归LLM太简化了博士申请 | 上海交通大学张倬胜老师招收AI/NLP/LLM方向推免硕士/博士吴声年度演讲:赚钱的4大方向,12大预测iPhone 将加强第三方屏幕电池支持/荣耀 CEO:苹果华为与荣耀在 AI 方向一致/GPT-4o 语音助手功能将推迟发布Yann LeCun:生成模型不适合处理视频,AI得在抽象空间中进行预测如松:莫迪老仙,给缺心眼的指明方向!诺奖得主Doudna最新演讲:基因编辑治疗价格太高,体内编辑是未来重要方向Google游戏高管演讲:坏消息“游戏已死”,但这三个方向还有希望...最猛AI独角兽:一年估值1700亿,再造一个OpenAI!马斯克LeCun却吵起来了原创 关注前沿科技 量子位最猛AI独角兽:一年估值1700亿,再造一个OpenAI!马斯克LeCun却吵起来了LLM会写代码≠推理+规划!AAAI主席揭秘:代码数据质量太高|LeCun力赞北京内推 | 微软搜索广告算法团队招聘LLM方向广告算法实习生北京内推 | 微软亚洲研究院媒体计算团队招聘安全AI方向研究型实习生“聪明钱”加速调转方向:对冲基金抛售科技股,以五个月最快速度涌入能源和材料板块这个美本大热门专业:方向选择多,研究机会多,太香了!博士申请 | 香港科技大学(广州)钟秉灼老师招收安全可信AI方向全奖博士/博后/RAACL 2024论文盖棺定论:大语言模型≠世界模拟器,Yann LeCun:太对了博士申请 | 香港科技大学(广州)陈城老师招收医疗AI方向全奖博士/RA/实习生就在明天!探索自己独特的研究方向:临床心理学PhD学长直播预告北京内推 | 微软亚洲研究院DKI组LLM团队招聘LLM方向研究型实习生未来风口方向:大模型应用开发!博士申请 | 香港科技大学(广州)戴恩炎老师招收可信AI方向全奖博士/RA/实习生博士申请|新加坡管理大学(SMU)邓扬助理教授招收NLP/LLM方向全奖博士、访问学生和研究实习生博士申请 | 英国伯明翰大学冯悦老师招收NLP/LLM方向全奖博士/研究实习生