Bendi新闻
>
马斯克加入了开源大模型阵营

马斯克加入了开源大模型阵营

9月前

 防走失,电梯直达安全岛报人刘亚东A 





来源:经济观察报

作者:陈奇杰


在盘古智库高级研究员李培序看来,马斯克开源Grok-1大模型是对抗OpenAI的一次“行为艺术”,希望通过提供开源模型,建立一个更加开放、协作的人工智能生态系统。
封图:图虫创意





在多次对美国人工智能研究公司OpenAI的闭源路线表达不满后,3月18日,特斯拉创始人埃隆·马斯克兑现了此前的承诺,宣布推出开源大语言模型Grok-1。

据马斯克旗下的人工智能初创公司xAI介绍,Grok-1由其从头开始训练,是一个混合专家模型,没有针对任何特定应用(例如对话)进行微调。Grok-1模型参数量高达3140亿,是迄今为止参数量最大的开源大模型。

在开源Grok-1的同时,马斯克仍然不忘在社交媒体上调侃OpenAI:“告诉我们更多有关OpenAI的‘开放’部分的信息……”OpenAI则在该消息下反击:“(马斯克)偷了我的整个笑话。”

作为科技界的领袖之一,马斯克是一位富有争议性的人物。在《埃隆·马斯克传》里,作者沃尔特·艾萨克森对马斯克的一部分描述是“冷酷”“冲动”“狂热”。此前,行行AI董事长、工信部工业文化发展中心AI(人工智能)应用工作组执行组长李明顺走访了中美百家AI前沿科技企业,并在美国硅谷与同行交流过马斯克和他广为人知的梦想——在火星建立一座城市。李明顺认为,马斯克并不是一位单纯考虑商业的企业家,而是“少见的地球主义企业家”。

“此次Grok-1的开源在人工智能领域可能会带来新的风潮,且间接地冲击了Llama-2(美国互联网公司Meta发布的开源大模型)的地位,这是对OpenAI的一次反击。马斯克想在起诉OpenAI案开庭之前,强调自己的世界观和价值观。”李明顺说。

在盘古智库高级研究员李培序看来,马斯克开源Grok-1大模型是对抗OpenAI的一次“行为艺术”,希望通过提供开源模型,建立一个更加开放、协作的人工智能生态系统。



马斯克的AI雄心

马斯克与OpenAI之间的纠葛,可以追溯到近十年之前。2015年,马斯克与山姆·奥特曼等人联合创立了OpenAI,但由于发展方向上的分歧,双方在2018年分道扬镳。此后马斯克多次对OpenAI作出批评。

据路透社报道,马斯克于今年2月29日向美国旧金山高等法院起诉OpenAI及其CEO(首席执行官)山姆·奥特曼,理由是OpenAI违背了最初的使命——为了全人类的福祉而非利润来开发人工智能技术。马斯克的诉讼指控OpenAI违反合同,称山姆·奥特曼和联合创始人格雷格·布罗克曼最初与他接洽是为了创建一家开源、非盈利公司,但这家企业现在专注于赚钱。

几天后,OpenAI在官网发布文章回应了马斯克的指控,表示“打算驳回埃隆的所有主张”。

文章称,2017年底,OpenAI和马斯克决定下一步的任务是创建一个营利性实体。马斯克想要获得多数股权、初始董事会控制权并担任CEO,“无法与他就营利性条款达成一致,因为我们认为任何个人对OpenAI拥有绝对控制权都是违背使命的……马斯克很快就选择离开OpenAI,称我们成功的概率为0,并计划在特斯拉内部建立一个AGI(人工通用智能)竞争对手”。

3月11日,OpenAI又对文章做了一次更新,表示正在寻求将诉讼分配给专门的案件管理人员,因为它涉及人工智能技术,而且索赔时间跨度近十年。

从大模型竞争层面看,xAI在2023年11月发布了其首个AI大模型产品Grok,相较OpenAI的大模型产品ChatGPT而言已晚了许多。李培序认为,马斯克曾公开特斯拉专利,推动全球电动汽车技术发展,他也凭借技术优势,成为了专利“开源”的最大赢家。这次Grok的开源,可能有战略逻辑上的考量,反映了马斯克在人工智能领域的雄心。



Grok的表现

Grok-1开源5天后,在开源社区GitHub已获得4.2万人的收藏。DeepMind(谷歌旗下人工智能公司)的工程师亚历克萨·戈迪奇预测,Grok-1的能力应该比LLaMA-2要强,但目前尚不清楚有多少数据受到了污染。另外,二者的参数量也不是一个量级。

但Grok-1的大参数给使用者带来了困扰。有用户在GitHub上评论,运行Grok-1的GPU(图形处理器)配置是8个英伟达A100芯片。xAI也强调,由于Grok-1的模型规模较大,参数量达到了3140亿,因此需要有足够GPU内存的机器使用示例代码测试模型。

李培序告诉记者,参数量是大模型的重要指标。一般而言,大模型参数量越大,意味着它越能够捕捉到丰富的数据特征,从而可能在某些应用领域展现出更强的性能。Grok-1模型是当前参数量最大的开源大模型,并且采用先进的混合专家架构,确实标志着它具有一定竞争力。但是参数量的大小并不是衡量模型性能的唯一标准,模型的架构、训练数据的多样性、算法的创新性等因素也同样重要。

“对于大模型赛道而言,开源Grok所带来的影响可能相对有限。首先,如此大参数量的模型需要大算力和大数据作为支撑,并不适用于个人或小团队开发,而大企业往往在技术上已有较强的储备,并不依赖于开源模型;其次,当前开源的大模型市场已经相当丰富,Grok的开源只是为开发者们增加了一个备选方案,提供了更多的选择空间,并没有技术上的颠覆性创新。”李培序表示。



开源与闭源之争

开源大模型允许任何人访问和使用源代码,而闭源模型则由单一实体控制,通常需要付费使用。与IT(互联网技术)产业中Windows(微软研发的闭源操作系统)和Linux(一种开源操作系统)、iOS(苹果研发的闭源操作系统)和Android(谷歌旗下的开源操作系统,下称“安卓”)的发展历史相似,一直以来,AI领域围绕大模型开源和闭源间的争论不断。支持大模型开源的一方认为,开源有利于技术和监管透明,推动人类共同进步,另一方则认为,闭源有助于防范AI技术被滥用。

从阵营来看,开源大模型包括Meta的Llama-2、开源生成式AI公司Stability AI的Stable Diffusion、阿里云的通义千问等,闭源大模型则以OpenAI的ChatGPT、百度的文心一言等为代表。

李明顺更倾向于站在开源一方,“我自己曾经做过开源软件,当时在没有很多钱的情况下,没花太多的经费,就推广了几百万的站长用我们的软件,其中开源发挥了重要的作用”。他说:“开源能降低使用者的门槛和成本,相较闭源更有生命力。安卓今天可能没有苹果那么挣钱,但是它的设备使用量和影响力远远大于苹果。

李培序表示,开源模型的优势在于可以吸引全球的开发者共同参与改进和优化,形成一个强大的社区支持网络,这有助于快速提升模型的性能和质量。同时,开源模型降低了个人、企业、研究机构进入人工智能领域的门槛,使更多的人能参与到人工智能的研究和应用中。此外,开源模型可以作为教学和研究工具,这对培养新一代的技术人才至关重要。

“然而,开源模型也存在劣势。由于源代码是公开的,开源模型可能面临更高的安全风险。对于企业而言,开源模型较难形成稳定的盈利模式。”李培序说。

对于闭源模型,李培序认为,闭源模型更容易形成商业模式,企业可以通过销售许可、提供专业服务等途径获取收益。另外,闭源模型由单一实体集中管理和维护,模型的稳定性和安全性更有保障,并且它能够提供定制化的服务。但与此同时,闭源模型也缺乏开源模型那样的社区支持和协作环境,通常只能依靠内部团队进行改进和优化,因此创新速度可能会比较慢。

“大模型的开源与闭源之争,实际上是两种不同的研发和管理模式的较量,每种模式都有它独特的优势和劣势。在未来,大模型的模式可能会趋向于两者的融合,即在保持一定开源性的同时,通过合理的商业模式来平衡创新和盈利之间的关系。”李培序称。






微信扫码关注该文公众号作者

来源:报人刘亚东

相关新闻

苹果开源大模型OpenELM来了,或将用在下一代iPhone上;红杉入局,传马斯克AI公司将获60亿美元投资丨AI周报P70系列有3或4款新品;国内首个开源千亿参数MoE大模型来了,对标马斯克的Grok……许家印组织造假被罚4700万;马斯克开源大模型Grok-1;侯毅正式卸任盒马CEO;英伟达推出最强AI芯片...黄仁勋扔出的算力核弹​是堆叠吗?马斯克开源的大模型Grok才是全球最大吗?1至2月社零总额增长5.5%,马斯克突然开源大模型 | 财经日日评AI早知道|马斯克Grok大模型开源;荣耀正式发布首款AI PC;苹果谷歌和OpenAI商谈iPhone大模型使用马斯克宣布正式开源大语言模型Grok;人体避免多个精子使一个卵子受精的机制揭示 | 环球科学要闻马斯克发全球最大开源模型!3140亿参数的Grok真打脸OpenAI了?最强开源大模型深夜炸场! Llama 3 王者归来,直逼 GPT-4, 马斯克点赞 | 附体验链接马斯克正式开源 Grok-1,成为全球最大的开源大模型马斯克称每年要投资数十亿美元在AI硬件上;Meta发布开源大模型Code Llama 70B丨AIGC日报AI进化太快了,马斯克开源Grok-1,爆火!马斯克大模型Grok1.5来了:推理能力大升级,支持128k上下文马斯克发布全球最大开源模型Grok-1李想回应MEGA被黑,余承东何小鹏声援/马斯克开源自家 AI 大模型/711 回应门店停售农夫山泉讯飞医疗递交IPO申请;Meta发开源大模型Code Llama 70B;马化腾称两年内不会有纯原生AI大应用丨AIGC大事日报刚刚!马斯克开源 Grok:参数量近 Llama 四倍,成全球最大开源模型开源日报 | 马斯克的梗图满天飞;deepin V23发布;谷歌前CEO大爆料;网传海思可能脱离华为独立;滴滴开源Unify贾玲公开瘦身食谱;马云妻子被曝在新加坡购房;报告称养娃到本科毕业平均花费68万元;谷歌发布开源AI大模型Gemma...马斯克打脸OpenAI,全球最大巨无霸模型Grok-1开源!3140亿参数8个MoE,GitHub狂揽6k星红杉资本入局,马斯克的AI公司接近达成60亿美元融资;苹果发布基于开源训练和推理框架的语言模型OpenELM丨AIGC日报李彦宏称开源落后于闭源,圈内大佬力挺;雷军否认“爽文人生” ;特斯拉裁员遣散费“过低”,马斯克:“得加钱”! | Q资讯说到做到,马斯克开源Grok,3140亿参数免费可商用开源日报 | 微软AI程序员登场,马斯克开源Grok;Open-Sora全面开源
logo
联系我们隐私协议©2024 bendi.news
Bendi新闻
Bendi.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Bendi.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。