Bendi新闻
>
再谈复现 Sora:被仰望与被遗忘的

再谈复现 Sora:被仰望与被遗忘的

8月前

2月16日,OpenAI 发布了视频生成领域的重磅模型 —— Sora。


Sora 对 Scaling Law 的信仰及其突破性的技术创新,使它持续保持领先地位。同时,也再次证明了“大力出奇迹”依然适用于文生视频领域。

Sora 披露的技术细节,远远不足以窥其全貌。同时 Sora 目前也未正式对外开放。源于此,针对 Sora 的思考和讨论从未停止过。

OpenAI 发布的技术报告


Sora 给整个 AI 领域带来的最大冲击,莫过于如何优化和校正现有的视频生成思路和框架。而由此也引发了持续至今的复现 Sora 的热潮。

复现 Sora 的动力,一方面来自技术人员的技术执着与技术理想,另一方面也来自于未来可预期的商业价值。

另外,不容忽视的是,这家持续被戏称为 CloseAI 的人工智能技术研究机构,已然成为了行业内的标杆,几乎每次发布的产品都能带来颠覆式的创新。但是 OpenAI 似乎在坚持闭源的道路上越走越远,这更加点燃了大众对复现 Sora 的激情。我们可以相信未来的几个月内,多个类 Sora 模型将会陆续发布,并将开源出来。

Sora 发布后的这一个多月来,其相关技术创新的讨论和复现的进度如何呢?下面我们一起来看看。

关于复现 Sora,本文从以下三方面展开:

  • 距离 Sora 发布一个多月了,目前复现的进度如何?
  • 复现的可能性有多大?国内有什么技术基础?
  • Sora 到底是不是世界模型?能否帮助我们抵达 AGI?有没有必要复现?


类 Sora 模型


目前已经推出且讨论较多的三个模型分别是 Snap Video、Open-Sora 1.0,以及 Mora。

  • Snap Video

Snap Video 是2月29日发布的类 Sora 模型,它使用到了可扩展的时空 Transformer,来自开发出 SnapChat 图片分享软件的 Snap 公司,以及特伦托大学等机构。
传送门:《首批类Sora模型出现,色拉布上线Snap Video,效果优于Pika、不输Gen-2

  • Open-Sora 1.0

Open-Sora 1.0 是3月18日全面开源的首个类 Sora 模型,来自 Colossal-AI 团队,该开源模型涵盖了整个训练流程,包括数据处理、所有训练细节和模型权重。
传送门:《没等来OpenAI,等来了Open-Sora全面开源》

  • Mora


Mora 是几天前由理海大学、微软研究院的研究者提出的多智能体框架,该框架整合了几种先进的视觉 AI 智能体,以复制 Sora 所展示的通用视频生成能力。
传送门:《复刻Sora的通用视频生成能力,开源多智能体框架Mora来了》

尽管目前的模型复现效果依然无法企及 Sora,但是短短一月有余,已经有明显的技术突破出现,不失为一个乐观的信号。据不完全统计,国内已有近 10 支团队在复现 Sora,让我们拭目以待。

先于 DiT 的技术架构创新


Sora 使用的 DiT(Diffusion Transformer) 架构目前来看是其最大的技术创新,但追溯来看,也许国内相关的进度更早一些。

  • U-ViT 架构

U-ViT 架构


2022年9月,清华团队提交的名为《All are Worth Words: A ViT Backbone for Diffusion Models》的论文,比 DiT 还要早 2 个月。该论文提出用基于 Transformer 的网络架构 U-ViT 替代基于 CNN 的 U-Net,这与 Sora 将 Transfomer 和扩散模型融合的思路不谋而合。
传送门:《国内公司有望做出Sora吗?这支清华系大模型团队给出了希望》

  • VDT


2023年5月在 arXiv 网站上公开的 Video Diffusion Transformer (VDT),是由中国人民大学研究团队主导,并与加州大学伯克利分校、香港大学等进行合作的,基于 Transformer 的 Video 统一生成框架。对采用 Transformer 架构的原因也给出了详细的解释。
传送门:《国内高校打造类Sora模型VDT,通用视频扩散Transformer被ICLR 2024接收》

也许在核心技术的创新上,国内的探索并不落后,而是走在了前面。不过,囿于资源限制以及技术路线规划等其他原因,没能在之前实现类似 Sora 的效果。

Sora 无疑验证出了一条技术可行性的道路,而我们本身在技术架构上的领先探索,将更有利于我们复现出 Sora,甚至可以更加乐观地相信,在某些领域内超越 Sora 的效果。

Sora 是世界模型吗?


由 Sora 引发的另一个热点讨论,是关于世界模型的。


Sora 生成的视频无疑对物理世界有了一定了解,比如经典的“海盗船在咖啡杯里纠缠”,肉眼可见能涉及到专业的流体动力学、光线等物理世界的特征。

但是以 Yann LeCun 为代表的一部分科学家力证 Sora 的训练方式和世界模型没有关系。

那 Sora 是不是世界模型,到底懂不懂物理世界?关于这个讨论已经蔓延至各个论坛和直播中。可见对于究竟什么是世界模型这个话题,大家也是见仁见智的。

而我们能明确的是,如果 Sora 是世界模型,那通往通用人工智能(AGI)的理想,可能比我们预计的还要早到达。那复现 Sora 就有了一定的必要性。

关于 Sora,我们保持着好奇,并持续探求以下问题的可能答案。

  • Sora 之前的视频生成架构/技术还能不能用?如何用?

  • Sora 之后,谁是被遗忘的?谁又是被仰望的?

  • Sora 之外,其他创业公司/团队要如何做?做什么?

  • Sora 会改变主流的技术架构吗?以 DiT 为代表的架构是以后主流的架构选择吗?

  • 国内技术力量应不应该复现 Sora?为什么?

  • 已知有近 10 支团队在复现 Sora,我们可能看到的未来格局是什么?

  • 为什么是 OpenAI? OpenAI 的模式能否复刻?

  • Sora 之后,全球的视频生成格局是怎样的?又将如何发展和变化?

  • 如何看待一些明星创业公司公开表示不做 Sora?

  • 多模态大模型的未来在哪里?

  • 不同视角下,如何看待 Sora 的冲击?(投资人、非技术人、央国企、AI 创业者、从业者等视角)

  • OpenAI 扮演着什么样的社会角色?你如何看待这家公司?

  • ……


Sora 带来的冲击是颠覆式的,因此对以上问题的求解将持续进行着。而作为聚焦于 AI 前沿技术探索和应用实践的团队,机器之心 AI 技术论坛再次将视线放在了视频生成领域。


4月13日,在北京六道口,我们策划了一期技术论坛,聚焦 Sora 发布后的技术创新、思考与应用实践。活动现场汇聚多位重磅嘉宾,同时我们也会更加深入地探讨上面提到的问题。

在可预见的未来,相信本次活动能产生一定的积极作用和启发,以期推动我国 AI 开源社区的技术发展和传播。

嘉宾阵容


本次论坛的嘉宾阵容强大,我们邀请到了:

  • 业内的知名技术专家张俊林老师,来一场 Sora 核心技术的深度拆解
  • 爆火的视频生成模型 PixelDance 的作者,来自字节跳动的曾妍老师,分享 PixelDance 背后的技术创新和应用
  • 类 Sora 模型 VDT 的团队负责人,来自中国人民大学孵化的创业公司——智子引擎的 CEO 高一钊博士,详细拆解 VDT 的技术创新和实践
  • 投资人是 AI 领域离不开的重要角色,陈石老师作为峰瑞资本的投资合伙人,将带来投资人/机构视角下的独特观察
  • 国央企在 Sora 发布后迅速响应,占据了 AI 领域一席之地,来自中移动信息技术有限公司的算法技术负责人童同老师,将会分享他的全新思考
  • 类 Sora 模型 Open-Sora 1.0 的技术负责人,来自潞晨科技的 CTO 卞正达老师,更是会详细拆解如何复现 Sora,以及来自他们团队的独特思考与实践
  • 还有更多重磅嘉宾,陆续邀请中……

张俊林

中国中文信息学会理事,中科院软件所博士

目前担任新浪微博新技术研发负责人,此前在阿里巴巴担任资深技术专家,负责新技术团队。技术书籍《这就是搜索引擎:核心技术详解》、《大数据日知录:架构与算法》作者。

曾妍

ByteDance Research 算法工程师

专注于视频生成和多模态预训练等领域的前沿研究。主导研发的模型为字节跳动的视频生成、短视频审核、电商客服、今日头条、教育解题等业务提供了有力服务,并以第一作者身份将相关的八篇论文发表在 TPAMI, ICML, CVPR, ACL 等国际顶级会议和期刊,同时也担任了 TPAMI, ICML, NIPS, ICLR 等会议的审稿人。主导研发的 PixelDance 视频生成基础模型在业界首次实现了高动态性和稳定性的结合,并首次生成了3分钟的连续剧情动画。

峰瑞资本 投资合伙人

专注于科技、软件、互联网、消费等领域的投资。加入峰瑞资本前,拥有 5 年阿里巴巴管理层经历,曾担任阿里巴巴移动事业群副总裁、阿里巴巴文化娱乐集团高管、优酷和 UC 国际班委,深度参与 UC、高德、优酷、土豆、神马搜索、UC 国际等产品线的业务决策和管理执行。

15+ 年连续创业,作为核心管理团队成员深度参与 UC(全球最大第三方手机浏览器,2014 年被阿里巴巴收购)和拉卡拉(中国知名第三方支付公司,SZ:300773)的创业过程,分别担任副总裁和 CTO;曾经是一名快乐的程序员,用户增长专家,科技热爱者。

拥有北京航空航天大学机电工程系本科和硕士学历。2023 年获评 EqualOcean「2023年出海全球化投资TOP30人」、甲子光年「2022-2023 年度人工智能与大数据最佳投资人TOP20」。

高一钊

智子引擎 CEO

中国人民大学高瓴人工智能学院博士。多模态大模型专家,发表多篇顶级期刊、会议论文,曾带领多人团队完成文澜大模型训练。全程参与智子引擎相关模型、产品的开发与推广。

卞正达

潞晨科技 CTO

毕业于新加坡国立大学,曾在全球超算最顶尖会议 SC 上发表一作论文,拥有 7 年高性能 AI 系统经验,Colossal-AI 系统核心开发者。

童同

中移动信息技术有限公司 算法技术负责人

中国科学院自动化研究所 AI 博士。目前在中移动信息技术有限公司负责多模态大模型、数字人、智能体等领域研发工作,实现了文生图、文生视频、大模型动作识别与目标检测等关键技术的落地应用。共发表论文 12 篇、公司专利 12 项、软著 4 项。

更多专家正在确认中,敬请期待。

视频生成技术与应用 - Sora 时代


机器之心 AI 技术论坛时刻保持对 AI 领域技术突破的敏感追踪,为了深入探究 Sora 对技术的冲击和对各行各业带来的影响,我们特别策划了「视频生成技术与应用 — Sora 时代」AI 技术论坛。

希望助力广大企业和从业者紧跟技术发展潮流,全面了解 Sora、视频生成技术、多模态大模型等前沿领域的技术突破和应用实践。

面对扑面而来的 AI 视频生成,积极拥抱学习并敢于尝试,才能抓住技术潮流,破局而生。

期待 2024.04.13,在北京海淀区,和你相遇。


论坛报名通道正式开启,扫描海报中二维码可直达活动页面。由于嘉宾介绍发布时间较晚,本场论坛的早鸟优惠期有所延长。

即日起至04月07日23:55,购票参会即可直减 200 元, 享受 699 元早鸟特惠门票(原价 899 元)。五人团购更有专属优惠,详见活动详情页。

机器之心 AI 技术论坛往期的参会者,请单独添加 Alice 微信,直达专属优惠链接。


活动亮点


  • 赠送永久观看上一期「视频生成前沿研究与应用」论坛活动视频及课件(上期活动已购请联系 Alice 扣减,本期购买后记得找 Alice 兑换上一期视频)
  • 永久观看本期「视频生成技术与应用 - Sora 时代」论坛活动会后视频及课件
  • 汇聚高校教授及产业界重磅技术专家,掌握最新技术,拓宽技术视野
  • 和技术大牛面对面交流,会后深度连接
  • 覆盖核心技术拆解、明星产品最佳实践、技术未来探讨及展望
  • 全流程助力学习:会前会后学习资料大礼包
  • 加入视频生成高质量技术交流社群,及时跟进行业前沿技术与资讯
  • 机器之心旗下相关付费活动享购票八五折优惠


技术交流社群


为了方便技术交流,我们也特意建立了视频生成技术交流群,欢迎关心 Sora、视频生成和多模态大模型的技术从业者扫码加入对话,深入交流技术细节和行业观察。


关于本次活动商务合作、团购、发票、内容等相关问题,欢迎添加本场活动负责人 Alice 或通过邮件进行咨询。

微信:15650753618
邮箱:[email protected]

关于发票:报名成功后,可于活动结束后,在活动行 App 上自行申请发票,发票为电子版增值税普票,开票成功后会发送到报名邮箱中。

成为论坛志愿者:参与活动现场的具体事项执行,如签到、引导、秩序管理等,包工作餐。在校学生优先。有意者请联系 Alice。

微信扫码关注该文公众号作者

来源:机器之心

相关新闻

周六公开课:再谈什么样的人能被哈佛斯坦福录取 | BeBeyond MBA Talk揭秘美国历史上第一家中餐馆:见证了华人被遗忘的移民史!动漫眼 |《数码宝贝02:最初的召唤》:“去夺回那被遗忘的明天”Sora 究竟有多烧钱?Sora的推理与训练的计算成本被扒出来了视频 | 美国驻华签证官自曝:旅游签证被拒的真正原因,与面谈说的话无关...温室与案板:从被辞退后自杀的清华夫妇看海外华人“非正常死亡”被性侵的女儿与沉默的门罗:文学可以为罪恶辩护么杰尼亚管理层谈:如何提升中国市场的表现,提高“被渴望度”朱啸虎押注的AI公司被围攻:领导多次让员工“去死”;小红书激励不再与职级挂钩;谷歌前CEO:AI创业可先“偷”后处理|AI周报Sora爆红视频幕后:被骗了,用了成吨的后期才有这效果2024年最该追的十大“明星”:从未爆火,却不该被遗忘!董宇辉访谈余承东:领导者是可以被培养的!问界品牌值 100 亿!共赢才会走得更远高考后必读:董宇辉“自用之才”与“被用之才”的人生抉择同时被哈佛、MIT与斯坦福录取的学霸,却陷至痛苦边缘:爸妈,我没有一个朋友OpenAI再陷宫斗:理想主义者是如何被击碎的?OpenAI官宣:Altman重返公司董事会;意大利对Sora展开调查;周鸿祎:不拥抱AI的公司,员工会被淘汰丨AIGC日报51岁宁静再爆性丑闻?71岁刘晓庆分娩画面流出!姜文的丑恶再也藏不住:果然,我们都被骗了!11岁甜馨首谈母亲出轨,被网友骂上热搜:最担心的事还是发生了!陈晓与陈妍希被传8 年婚姻破裂:远嫁是场赌搏,女人再爱也不要忘记自己周末谈:许家印或判死刑!背后大金主已被灭,疯狂赌徒的末日到了...被算法操控的世界如此糟糕,于是我选择与算法谈恋爱[啧啧]华人女星儿子被美学校开除,如今再曝出格行为!大师曾断言:来讨债的!女星儿子被美学校开除,如今再曝出格行为!大师曾断言:来讨债的!糟了!因多篇SCI被撤稿,主任要求不允许再用AI写论文!医生:如何不留痕迹的用AI……
logo
联系我们隐私协议©2024 bendi.news
Bendi新闻
Bendi.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Bendi.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。