Bendi新闻
>
全局智算 眼见为实

全局智算 眼见为实






智算,一个热得不能再热的话题。但是对于大多数人来说,可能只闻其名,不见其形。如果你对智算也充满好奇与期待,那么不妨和我一起,来一次说走就走的智算沉浸式体验,现在就开启一场“桐乡之旅”!

在桐乡,由宁畅打造的首个AI算力栈“NEX AI Lab”已经正式开放预约试用,集群管理系统、问答机器人、自然语言训练、图像识别、推荐系统、情感分析模型、文本生成图像等智算体验项目应有尽有。宁畅CTO赵雷揭秘,NEX AI Lab由于集成了加速计算节点、全闪存存储节点,可为GPT、LLaMA、Stable Diffusion等AI模型提供多元场景应用优化支持,其强大的全局AI能力,所见即所得。


全局性 系统化 平衡力

NEX AI Lab看似横空出世,实则是宁畅基于“全局智算”的规划与战略构想,在背后运筹帷幄。

从公司成立以来,宁畅在每年开年的时候都会为接下来一个阶段的发展“定调”。从定制化、服务器专家到冷静计算,再到如今的全局智算,在明确的战略指导之下,宁畅还会制定一套清晰的执行策略与落地想法。在桐乡成功落地的NEX AI Lab,就是全局智算最佳的代言人。

智算,顾名思义就是要解决人工智能相关的应用问题。随着大模型的快速发展,其在细分行业落地过程中,面临着诸如算效、适配、应用等一系列问题。对于智算来说,不是解决了高性能算力的问题,就万事大吉了,而是需要系统性AI计算方案提供全方位、全周期支持。这也是宁畅提出全局智算的初衷。

宁畅总裁 秦晓宁

宁畅总裁秦晓宁剖析说,智能计算作为推动产业发展的关键引擎,已经不再局限于算力性能这一单一竞争要素。算法协同优化、数据处理能力、模型可解释性以及与特定行业应用的融合度,都智能计算能否成功推动技术创新和应用落地的关键因素。

由此可见,宁畅全局智算战略的本质,是通过全栈智能计算能力,以及涵盖硬件、软件、算法、液冷和服务质量等多个维度的系统性AI计算方案,为更多行业发展带来坚实的支强劲的动力。

从字面来分析,全局智算“全”,包括六个方面,即“全体系、全液冷、全服务、全场景、全行业、全阶段”,覆盖了大模型发展的全周期需求,能够更好地解决客户在人工智能场景下的复杂应用难题。秦晓宁进一步解释说,所谓全,就是宁畅通过涵盖软硬件全体系及全液冷产品,提供从咨询到运维的全流程服务,满足全行业用户大模型开发、适配、部署的全场景需求,并按用户发展阶段,定制专业且性价比高的AI计算方案。

全局AI能力的养成

从战略和业务体系的角度,宁畅要借由全局智算,锻造“六全”能力。而落实到产品和解决方案层面,全局智算又包括哪些关键要素呢?

庖丁解牛,赵雷结合其AI算力栈,解析了宁畅的全局AI能力。由下至上,宁畅的全局智算能力由六个层面构成。

宁畅CTO 赵雷

第一层,AI硬件资源层。在这一层,除了必须具备的对最新CPU\GPU的支持、强大的存储能力以及高性能网络以外,宁畅最引以为豪的就是其领先的全栈液冷方案,可以实现多种交付形态的灵活组合。特别值得一提的是,宁畅B8000液冷整机柜服务器采用电、液、网三路全盲插设计,部署周期相较传统方式提升30倍。根据不同客户不同应用阶段的需求,宁畅还可以提供风冷或风冷+液冷的过渡性解决方案。

第二层,AI集群设计层。集群设计并不像人们想象的那样,只是将海量的硬件进行简单地连接或堆叠,而是要针对不同客户的实际应用场景,先分析整个业务运行的特征和系统的量化需求,然后再提供包括微架构、网络、存储、AI模型特征等在内的系统化的方案。

第三层,AI算子优化层。这一层是AI集群调优和交付的关键所在。为了更好地降本增效,宁畅提供了整体的AI算子自优化能力,且优化工作不是单点,而是AI全栈优化,从而有效地减少了模型执行时间,降低了资源的消耗,同时提高了能效比,使得AI应用能够在有效的资源上高效运行。

第四层,AI中台层。在这一层,宁畅提供了开箱即用的平台级AI工具,不仅全面支持NVAIE的中台系统,而且也提供自己的中台——NEX AIOM,方便进行算力互联和调度,提供Notebook服务、模型与数据管理服务,以及用户认证安全等。

第五层,AI业务层。核心任务是面向AI业务,提供性能方面的保障,让用户可以更轻松地进行大规模应用性能分析优化,或者实现快速故障诊断和恢复等。

第六层:AI场景。面向各行各业不同的应用场景,宁畅可以提供全栈智算服务。基于最新发布的AI算力栈,宁畅已经完成了大量、多元的AI场景实际测试和部署。

赵雷表示,宁畅的全局智算能力映射在AI算力栈上,体现的是宁畅雄厚的硬实力(硬件)+软动力(软件)+服务力(服务)。从某种程度上说,宁畅AI算力栈既是一个高度集成的端到端智算解决方案,又是一个智算平台的参考设计架构,甚至可以看作是一个Mini AIDC,可以根据用户的不同需求,进行扩展。面对智算需求,宁畅已经成为硬到,同时全平台服务能力的厂商。这不仅是时代的要求,更是宁畅实现自身突破式成长的必然选择。

全局智算,智算全局

随着大模型的逐步落地,复杂的客户需求不断涌现,涉及到算法、算力、数据三个维度。如何平衡算效、精度服务,满足多元化的客户需求成了宁畅要面对的挑战。因此,宁畅提出“全局智算”战略希望通过提供具备六个“全”特点的能力矩阵,向上解决极致算效、精度增强、高效稳定三个复杂的客户问题,向下赋能千行百业,打造新质生产力。


“全局智算”要求宁畅持续进行能力拓展,从硬到软,还要有服务加持,这样才是名副其实的“全”。秦晓宁透露了战略发布会上的一个细节。宁畅软件团队的负责人也到了发布会现场。在看到挤得水泄不通的硬件展台后,他有些担心,自己准备的与软件、大模型相关的资料和数据派不上用场。秦晓宁让他放轻松,并表示未来一定会有更多机会让软件站到前台,也让更多用户可以更直观地看到宁畅针对一些具体模型完成的大量微调、优化和测试的效果。

秦晓宁特别强调,全局智算不可能只靠宁畅一己之力实现,无论是硬件、集群、中台、内容还是服务层都离不开各个方面伙伴的通力只有融合和互补才能真正构建起全局智算的强大能力。

全局智算,智算全局。奔赴智算新时代,宁畅身先士卒。



微信扫码关注该文公众号作者

来源:云数智观察

相关新闻

华为Pura 70首次实现北斗卫星发送图片信息;全球运营商最大单体智算中心已投入使用丨智能制造日报宁畅AI算力栈火力全开,用全局智算凿出通往AGI的快车道华裔艺术史学家方闻:中国艺术即历史,眼见为实反转!钢琴家伦敦街头直播与中国人起冲突,当事女生还原事情真相!眼见不一定为实大模型场景下智算平台的设计与优化实践专家:特斯拉FSD入华已是万事俱备;极氪法务部:网传的“极氪员工因吐槽智驾被开除、内容已被和谐”为不实信息丨汽车交通日报小米SU7遭华为“截胡”,雷军大度发文:实在着急可选购智界S7等震惊!多伦多中医诊所实为-x-情-按-摩-店!违规提供 X虐等特-殊-服务……董宇辉分手费实为3.58亿;罗永浩:董宇辉是老天送给俞敏洪的补偿礼物;何猷君成亚洲最年轻纳斯达克上市公司创始人丨邦早报华人珠宝大盗实为偷渡客,入境美国后一直没闲着2亿年终奖实为滞销手机?格力紧急声明格力2亿年终奖实为发格力手机?官方回应称不实消息格力发声明辟谣年终奖实为发手机;质疑与辉同行抄袭博主再度发声;小米汽车计划2月量产;董宇辉谈信息茧房...格力多发2亿元年终奖实为公司滞销手机?官方发布声明与裁员无关!谷歌清华杀妻案更多现场细节曝光!实为殴打妻子致死...最新!硅谷清华杀妻案更多现场细节曝光!与裁员无关,实为殴打妻子致死!谷歌华人工程师死亡案细节披露:实为杀妻案将川普著名“遇刺照”标为不实信息 Meta道歉眼见不为实做好自己该做的,结结实实活下去 | 为你读诗亚瑟士新王牌来了!超轻超薄,复古潮流又实穿,专为夏天而生!时尚与舒适并重!亚瑟士新款跑鞋,复古潮流又实穿,专为夏天而生!618最后1天 | 亚瑟士新王牌来了!超轻超薄,复古潮流又实穿,专为夏天而生!实探华为北京多家门店:部分店「随时可买」,店员要「边卖边学」
logo
联系我们隐私协议©2024 bendi.news
Bendi新闻
Bendi.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Bendi.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。