Bendi新闻
>
深度学习近10年,10篇必读论文总结

深度学习近10年,10篇必读论文总结

你好,我是郭震

深度学习领域2014-2023每年的标志性论文

2014

  • 生成对抗网络(Generative Adversarial Nets)
    • Ian Goodfellow et al. 提出了GAN,开启了生成模型的新时代

2015

  • 深度残差网络(Deep Residual Learning for Image Recognition)
    • Kaiming He et al. 提出ResNet,极大提升了深度网络的性能和可训练性

2016

  • WaveNet: 生成原始语音波形的深度神经网络(WaveNet: A Generative Model for Raw Audio)
    • Aäron van den Oord et al. 在语音合成领域取得了突破性进展。

2017

  • 注意力机制(Attention Is All You Need)
    • Ashish Vaswani et al. 通过提出Transformer模型,彻底改变了自然语言处理的面貌。

2018

  • BERT: 深度双向Transformer的预训练(BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding)
    • Jacob Devlin et al. 提出了BERT模型,显著提升了自然语言处理任务的性能。

2019

  • 大规模语言模型GPT-2(Language Models are Unsupervised Multitask Learners)
    • OpenAI 提出了GPT-2模型,展示了大规模语言模型在多种任务上的能力。

2020

  • EfficientDet: 可扩展且高效的目标检测模型(EfficientDet: Scalable and Efficient Object Detection)
    • Mingxing Tan et al. 通过EfficientDet在目标检测领域实现了新的效率和精度平衡。

2021

  • Vision Transformer(An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale)
    • Alexey Dosovitskiy et al. 将Transformer架构成功应用于图像识别任务,开启了计算机视觉领域的新篇章。

2022

  • DALL·E 2: 生成高质量图像的模型(Hierarchical Text-Conditional Image Generation with CLIP Guides)
    • OpenAI 提出了DALL·E 2,能够根据文本描述生成高质量、高分辨率的图像

2023

  • Pathways Language Model (PaLM): 缩放到数万亿参数的语言模型(Pathways Language Model: Scaling to Trillions of Parameters for Natural Language Understanding)
    • Google 提出了PaLM,展示了大模型在多语言理解和生成任务上的巨大潜力。


微信扫码关注该文公众号作者

来源:郭震AI

相关新闻

超强Siri即将到来!苹果10篇重磅AI研究全总结,iOS 18关键一瞥年度总结|卫哲预测:未来10年,5大趋势,要早做布局!注意!2024年暑期TOP20名校深度访校开始报名,10天14所名校!深度好文|一个量化人的3年,5年,10年2024年10月3日-7日长沙歆然导师《生命大智慧》深度工作坊10分钟读完1篇5+SCI!连导师都直呼666的神级技巧!全都总结好了!【0元领】【重磅】2024DLC中国深度学习年会 发布用大模型帮程序员找Bug,中科院剖析102篇论文总结出这些方案『深度好文』10个经过验证的AI提示词技术!附详细教程!新线路|意大利深度游!10天8晚,三大名城艺术文化巡礼~全程四星酒店,名胜古迹、网红小镇、美食盛宴上周在北京见了100个投资人后,我总结出的10个金融行业变化……强化学习第十三篇:使用深度学习解决迷宫问题,完整步骤和代码一文总结Excel最常用的10个函数!拿去套用!总结·土地篇:2023 年数据回眸、关键词和 2024 年展望【深度】通向AGI的钥匙:10万H100超级AI算力集群准确率比现有方法高50%!谷歌DeepMind全新深度学习模型AlphaFold 3重磅论文登上《自然》10分钟读懂!高考语文后的深度思考:为何坦诚交流前要先学会识人?深度好文|1小时摇人注资10亿美元,也只有他能做到了…NUS刘老师1v1科研:使用深度学习进行投资组合优化|收获一作论文与导师推荐信!网友总结省钱攻略!在Costco购买食品杂货的10个技巧NUS刘老师1v1科研:使用深度学习进行动态套期保值|收获一作论文与导师推荐信!太火爆了,加开到10月份了!纽约人火车团直达尼亚加拉大瀑布!还可以选择游览加拿大夜市!深度欣赏瀑布美景和烟花!深度好文|定了!2024海归福利再度升级,留学生最高领10万!港中文李教授1v1科研:基于深度学习的无人机目标识别算法研究|收获一作论文与导师推荐信!
logo
联系我们隐私协议©2024 bendi.news
Bendi新闻
Bendi.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Bendi.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。