Bendi新闻
>
小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100

10月前
白交 发自 凹非寺
量子位 | 公众号 QbitAI

小扎宣布新目标:All in 开源AGI

不错,小扎又All in了,正是OpenAI谷歌必争之地。

不过在AGI之前,着重强调了是Open Sourse(开源)的

此举受到不少好评,一如此前LIama系列大模型开源之时。

不过此次又一波All in,不禁让网友想起上一波All in了:元宇宙去哪里了???

但必须要说的是,此次列的Flag确实更具体一些,甚至也透露了一些关键数据。

比如,

  • 年底将有35万块H100,而包括其他GPU在内,总算力将相当于60万块H100。

  • FAIR团队的工作将与GenAI团队更为紧密。

  • LIama 3即将到来。

最后他还打了个小广告。他们正在打造以AI为中心的新型计算设备,比如Ray Ban Meta 智能眼镜。

看来元宇宙还在继续。

小扎又All in了

现在,小扎正式宣布加入AGI之争。

虽然没有明确的时间表,但作为长期愿景,明确表示两个关键点:

负责任地开源,并广泛提供,让每个人都能从中获益。

而为了实现这一目标,主要有两件事:

第一,将现有两大AI研究工作团队(FAIR 和 GenAI)紧密结合在一起。

按照LeCun的话说,就是两个成为兄弟部门。

并表示,Llama-3 is coming!

第二,建设大规模的计算基础设施:今年年底将拥有35万块H100,总算力相当于60万个H100。

按照2.5万美元至3万美元出售价来测算,总算力价值将达到150亿美元至180亿美元。

此前曾有机构预计,2023年英伟达朝Meta的H100出货量能达到15万块,同微软持平,并且至少是其他公司的三倍。

为此小扎表示,我们已经建立了这样的能力,其规模可能比任何其他单独的公司都大。

有网友算了算计算能力直呼:大脑大小的模型即将到来。

不过也有人质疑,英伟达应该生产不了那么多。

但有Meta领导现身说法:H100是包含现有在内,一共35万块。

除此之外,还强调了硬件设备上的进展。

大佬们对于AGI的评价

在小扎宣布这一消息之前,不少大佬在达沃斯世界经济论坛上发表了不少关于AGI的评论。

像LeCun则在The Expanding Universe of Generative Models这一论坛上强调了AGI实现路径中开源的重要性。

我们之所以能在人工智能领域看到如此快速的进步,是因为人们进行了开放研究。

即便他经常经常对AGI很快到来(当然不是在未来五年内)表示怀疑,但AGI还是到来了。

而Transformer主创Aidan Gomez则表示:

目前我们还没有完成扩展,我们还需要继续努力。

至于像OpenAI CEO奥特曼表示,人类水平的人工智能很快到来,但对世界的改变远比我们想象的要小。

通用人工智能(AGI)可能会在“相当接近的未来”得到开发。

对于AGI的发展,你们怎么看?

—  —

点这里👇关注我,记得标星哦~

一键三连「分享」、「点赞」和「在看」

科技前沿进展日日相见 ~ 

微信扫码关注该文公众号作者

来源:量子位

相关新闻

小扎宣布进军AGI!Meta正在训练Llama 3,目标是60万块H100!模型仍会开源小扎砸数百亿美元猛攻开源AGI!狂掷60万块H100,爆50倍GPT-4算力扎克伯格宣战AGI:Llama 3训练中,今年要囤35万块H100,砸近百亿美元卷疯了!最强开源大模型Llama 3发布,最大参数4000亿,小扎内心:大模型比元宇宙香多了新晋开源顶流模型 Llama 3.1 被开发者赞爆!小扎拿苹果“开刀”反对闭源厂商:AI 不要“苹果税”!预计容纳 35 万颗 H100!训练 Llama 大模型的基础设施是如何搭建的1.6万块H100训Llama 3.1,每3小时故障1次!罪魁祸首竟是GPU和HBM3显存仅用19天,马斯克建成全球最强“超算工厂”!10万块H100 GPU上线,Grok 3预计年底发布扎克伯格自爆:拥有35万张H100小扎自曝愿开源100亿美元模型!2025年AGI没戏,能源短缺成最大瓶颈开源AI拯救Meta一夜飙升1960亿刀,39岁小扎爬出元宇宙深坑!年分红7个亿,靠Llama赢麻了马斯克烧几十亿美元造最大超算中心,10万块H100训练Grok追赶GPT-4o【深度】通向AGI的钥匙:10万H100超级AI算力集群Llama3.1训练平均3小时故障一次,H100万卡集群好脆弱,气温波动都会影响吞吐量建房就给$3万!加拿大小镇喊话:支票都备好了,就等移民搬过来!网易员工内部群怼丁磊:人人陪你演戏点赞;李彦宏:开源模型是智商税;小红书再裁员:人效比只能达到拼多多的一半 | AI周报李彦宏:开源模型是智商税;小红书被曝大规模裁员;10岁男孩自学电气工程帮父亲设计电路疯了?加州35平米小黑屋,开价170万美元!疯抢加价到200万!惊呆!35平米小黑屋,开价170万美元,遭疯抢,加到200万!中国神药了解一下:这个几块钱一支的小药膏,究竟有多强?传苹果正洽谈 Apple TV+ 入华;马斯克调整1万块 H100 给 xAI;瑞士公司研发生物活体处理器 | 极客早知道吓人!最近,大批华人入境加拿大遭盘查开箱!有人被带进小黑屋,交了$3万刀!太狠了!大批华人入境加拿大遭盘查+开箱!有人被带进小黑屋,交了$3万刀!大批华人入境加拿大遭盘查+开箱!有人被带进小黑屋,交了$3万刀!
logo
联系我们隐私协议©2024 bendi.news
Bendi新闻
Bendi.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Bendi.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。