Bendi新闻
>
深度学习近10年,10篇必读论文总结
深度学习近10年,10篇必读论文总结
你好,我是郭震
深度学习领域2014-2023每年的标志性论文
2014
生成对抗网络(Generative Adversarial Nets) Ian Goodfellow et al. 提出了GAN,开启了生成模型的新时代。
2015
深度残差网络(Deep Residual Learning for Image Recognition) Kaiming He et al. 提出ResNet,极大提升了深度网络的性能和可训练性。
2016
WaveNet: 生成原始语音波形的深度神经网络(WaveNet: A Generative Model for Raw Audio) Aäron van den Oord et al. 在语音合成领域取得了突破性进展。
2017
注意力机制(Attention Is All You Need) Ashish Vaswani et al. 通过提出Transformer模型,彻底改变了自然语言处理的面貌。
2018
BERT: 深度双向Transformer的预训练(BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding) Jacob Devlin et al. 提出了BERT模型,显著提升了自然语言处理任务的性能。
2019
大规模语言模型GPT-2(Language Models are Unsupervised Multitask Learners) OpenAI 提出了GPT-2模型,展示了大规模语言模型在多种任务上的能力。
2020
EfficientDet: 可扩展且高效的目标检测模型(EfficientDet: Scalable and Efficient Object Detection) Mingxing Tan et al. 通过EfficientDet在目标检测领域实现了新的效率和精度平衡。
2021
Vision Transformer(An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale) Alexey Dosovitskiy et al. 将Transformer架构成功应用于图像识别任务,开启了计算机视觉领域的新篇章。
2022
DALL·E 2: 生成高质量图像的模型(Hierarchical Text-Conditional Image Generation with CLIP Guides) OpenAI 提出了DALL·E 2,能够根据文本描述生成高质量、高分辨率的图像。
2023
Pathways Language Model (PaLM): 缩放到数万亿参数的语言模型(Pathways Language Model: Scaling to Trillions of Parameters for Natural Language Understanding) Google 提出了PaLM,展示了大模型在多语言理解和生成任务上的巨大潜力。
微信扫码关注该文公众号作者
来源:郭震AI
相关新闻
超强Siri即将到来!苹果10篇重磅AI研究全总结,iOS 18关键一瞥年度总结|卫哲预测:未来10年,5大趋势,要早做布局!注意!2024年暑期TOP20名校深度访校开始报名,10天14所名校!深度好文|一个量化人的3年,5年,10年2024年10月3日-7日长沙歆然导师《生命大智慧》深度工作坊10分钟读完1篇5+SCI!连导师都直呼666的神级技巧!全都总结好了!【0元领】【重磅】2024DLC中国深度学习年会 发布用大模型帮程序员找Bug,中科院剖析102篇论文总结出这些方案『深度好文』10个经过验证的AI提示词技术!附详细教程!新线路|意大利深度游!10天8晚,三大名城艺术文化巡礼~全程四星酒店,名胜古迹、网红小镇、美食盛宴上周在北京见了100个投资人后,我总结出的10个金融行业变化……强化学习第十三篇:使用深度学习解决迷宫问题,完整步骤和代码一文总结Excel最常用的10个函数!拿去套用!总结·土地篇:2023 年数据回眸、关键词和 2024 年展望【深度】通向AGI的钥匙:10万H100超级AI算力集群准确率比现有方法高50%!谷歌DeepMind全新深度学习模型AlphaFold 3重磅论文登上《自然》10分钟读懂!高考语文后的深度思考:为何坦诚交流前要先学会识人?深度好文|1小时摇人注资10亿美元,也只有他能做到了…NUS刘老师1v1科研:使用深度学习进行投资组合优化|收获一作论文与导师推荐信!网友总结省钱攻略!在Costco购买食品杂货的10个技巧NUS刘老师1v1科研:使用深度学习进行动态套期保值|收获一作论文与导师推荐信!太火爆了,加开到10月份了!纽约人火车团直达尼亚加拉大瀑布!还可以选择游览加拿大夜市!深度欣赏瀑布美景和烟花!深度好文|定了!2024海归福利再度升级,留学生最高领10万!港中文李教授1v1科研:基于深度学习的无人机目标识别算法研究|收获一作论文与导师推荐信!