Bendi新闻
>
英特尔AI PC开启商用元年!打造6大AI场景应用,三大AI引擎助力本地跑20B大模型

英特尔AI PC开启商用元年!打造6大AI场景应用,三大AI引擎助力本地跑20B大模型

英特尔史上最大CPU技术变革,酷睿Ultra已落地100+本土应用。
作者 |  香草
编辑 |  漠影
AI PC在商用领域,能带来什么样的新质生产力?
芯东西4月2日报道,近日,英特尔重磅推出全新商用客户端AI PC产品,将基于英特尔酷睿Ultra处理器的AI特性扩展至商用领域,在AI PC规模应用元年,踏出行业落地的关键一步。
酷睿Ultra处理器是英特尔40年来最大的架构变革,其首次引入两颗低功耗内核、首次集成独立显卡架构,并集成了NPU(神经元处理器),通过三大AI引擎架构革新,可本地运行200亿参数大模型,无需联网即可秒级生成高质量多模态数据。
本次发布将酷睿Ultra的能力从个人延伸至行业,在视频会议、多媒体处理等商用场景中,相比上一代产品处理器功耗下降最高36%,生产力提升最高47%,视频编辑的AI性能提升2.2倍
发布会现场,英特尔与超35家ISV(独立软件开发商)及10家OEM(原厂设备制造商)合作伙伴分享了酷睿Ultra在商用AI PC中的应用爆发,全方位瞄准AI Chatbot、AI PC助理、AI Office助手、AI本地知识库、AI图像视频处理、AI PC管理六大AI场景,在经济、物理、数据保密三大AI PC法则的指导下推动各行业数字化转型。
那么,英特尔此次升级的产品点具体有哪些?六大AI场景中,具体有哪些创新应用?为什么说本地生成式AI是必然的趋势?芯东西通过现场调研,寻找这些问题的答案。

01.
低功耗、独立显卡、NPU三大AI引擎架构更新,本地跑200亿参数大模型


英特尔酷睿Ultra处理器专为AI PC打造,其采用全新英特尔4制程工艺,基于3D性能混合架构,将两个内核微架构组合至同一个处理器芯片上,并可提供内置英特尔锐炫GPU。

▲英特尔酷睿Ultra性能一览(图源:英特尔)

据英特尔客户端事业部副总裁、细分市场部总经理冯大为介绍,面向企业用户,酷睿Ultra处理器在CPU+GPU+NPU三大AI引擎上做了重大架构更新,能够支持200亿参数大模型在本地运行,无需联网即可秒级生成高质量图片或视频。

▲面向企业用户的酷睿Ultra处理器

一是CPU上的低功耗管理。酷睿Ultra首次引入两颗低功耗内核,其专为多线程可扩展性能和分载后台任务而设计,更优的性能核和能效核带来更高数据吞吐量,办公场景性能提升最高可达47%。
二是GPU首次集成了独立显卡架构,英特尔锐炫GPU带来最高2.2倍的性能及性能功耗比提升,让视频剪辑速度更快,视频体积更小。
三是采用NPU进行AI推理,在视频会议等场景中功耗最高下降36%,基于Intel 4制程工艺和3D高性能混合架构的设计,大幅提升续航能力,让AI体验更省电。
此外,此次酷睿Ultra内置的ARC显卡已达到移动工作站的性能需求,在3D渲染评分上最高达到上一代产品12倍的性能。

02.
从聊天机器人到AI Agent
六大AI场景应用爆发


工业和信息化部赛迪研究院数据显示,到2035年,生成式AI有望为全球贡献近90万亿元的经济价值,其中中国将突破30万亿元。AI市场蕴含着巨大的潜能,其中丰富的创新AI应用成为商用AI PC产业发力的重点。
英特尔中国区技术部总经理高宇描绘了英特尔锚定的六大AI场景应用图,以AI Chatbot、AI PC助理、AI Office助手、AI本地知识库、AI图像视频处理、AI PC管理为横坐标,医疗、教育、法务等各行业为纵坐标,形成一张巨大的应用场景蓝图。

▲六大AI应用场景

英特尔发布会现场,有35+家本土ISV合作伙伴向我们展示了商用AI PC在六大AI场景+AI行业应用等垂直领域的潜能。
1AI Chatbot:直击行业应用痛点,提供专业领域问答
操作系统技术提供商中科创达人工智能中心副总裁杨新辉,演示了魔方智能法务助手,其基于基础语言大模型,结合百万条法律大数据训练得到70亿参数规模的AI PC端侧大模型,提供案件分析、文书撰写等法律相关功能。

▲魔方智能法务助手

中科创达大模型产品负责人邱瑞翔告诉芯东西,法律卷宗等数据隐私性很高,需要进行严格的数据监管。同时律师群体出差频率高,常遇到在飞机上办公等无网络的场景。AI PC将大模型搬到了终端上,杜绝了信息泄露和断网的影响。
2AI PC助理:AI智能控制,简化各种PC操作
智谱AI基于酷睿Ultra打造了AI PC智能助手,提供AI智能控制、PC使用问答、文档内容提炼等功能。其COO张帆展示了该应用的智能操作功能,输入一句包含静音、切换性能、打开文件3个操作的指令,PC便按顺序完成了3个操作。

▲AI智能控制演示

值得注意的是,在打开文件的指令中用户无需给出完整准确的文件名,只需采用“上次打开的”“昨天没看完的”等模糊描述,大模型就可以根据使用记录或用户习惯,找到需要的文件。
3AI Office助手玩转办公三件套”,提高办公效率
专注Office“办公三件套”扩展工具开发的ExtendOffice的CEO林洁演示了基于本地AI的全新插件Kutools AI。
表格工具Excel中有许多复杂的公式,造成了一定的学习成本,同时企业客户的大量数据具有高度隐私性,上传到云端会有泄露风险,这使得本地化的离线数据处理极为重要。
Kutools AI以侧边栏形式呈现在应用中,用户可使用自然语言输入指令。如用户想将“金额”一栏的数值按汇率换算成人民币,只需输入“美元转人民币”指令,Kutools AI便会弹出对应聊天框,再输入相应的汇率即可自动完成换算。

▲使用Kutools AI将美元转换为人民币

4AI本地知识库:深挖企业私域数据,快速文档处理和知识检索
星环科技副总裁杨一帆介绍了RAG(检索增强生成)产品无涯-问知,基于AI PC能力,它能快速将本地文件资料转换成知识,支持多种格式和模态、不限长度文件自动入库。

▲无涯-问知产品功能

该产品契合AI PC全部三条法则。首先数据在本地处理,避免了云服务费用,从而降低了AI服务成本;其次避免了数据传输中的瓶颈,满足物理法则;最后数据全部保存在本地设备上,保障了安全性和隐私性。
5AI图像视频处理:随时随地后期,开辟全新媒体制作方式
在多媒体处理赛道,视频等大文件的传输十分考验网络速率。当虹科技CTO黄进展示了基于AI PC打造的视频慢动作解决方案,用大模型生成更多的视频帧,实现3倍慢动作视频生成。

▲当虹科技视频慢动作解决方案

一方面,本地化的视频处理降低了数据传输和云服务成本。另一方面,在酷睿Ultra加持下原本只能在专业服务器和大型工作站才能实现的能力,现在也可以普惠到企业用户。
6AI PC管理:借助NPU处理能力,增强设备资产安全性
在商用领域,资产安全性极为重要。火绒安全、贝锐向日葵、VMware等厂商基于NPU强大的处理能力,将AI运用到威胁检测、安全风险管控、远程操作等应用中,解放了CPU算力,提升了商用PC管理效率。

▲AI助力商用PC管理

这六大应用场景,延伸到具体的垂直行业领域中,又能带来不一样的想象力。
医疗行业,AI制药头部企业英矽智能通过在AI PC部署大模型,推出AI生物学软件PandaOmics,基于超过20种预测模型和生成生物学模型,实现专业的靶点筛选、排序和分析,提升了药物研发效率。

▲英矽智能AI生物学软件PandaOmics演示

在应用展区,英矽智能BD吴剑宇向芯东西演示了PandaOmics的知识图谱和问答功能,通过来自公开文献、科研基金、临床试验的文本数据,该软件能自动生成知识图谱,用户可在左侧交互窗口进一步追问。
据其介绍,医院内部数据具有高度隐私性,本地化的大模型和算力可在满足数据安全的前提下,提升医生和科研人员在药物研发阶段的效率。
数字人领域,英麒智能利用酷睿Ultra处理器和OpenVINO深度学习套件,打造了低成本、高质量的数字人解决方案,实现快速精准的数字人智能问答。
据英麒智能介绍,用户只需录制约2分钟的视频,通过10分钟左右的云端计算,即可生成专属数字人模型,之后便可结合本地大语言模型离线使用。
高宇展示了他在会前录制的数字人模型,其口型同步、手部动作等十分生动,几乎达到“以假乱真”的程度。

▲高宇展示其数字人视频

总的来说,在经济法则中,AI数据在本地处理可降低云服务成本,优化经济性;在物理法则中,AI服务的及时性和准确性要求提升云与端之间的传输速度,解决瓶颈;在数据保密法则中,需要保证用户数据的安全和隐私,防止滥用和泄露。AI PC三大法则为AI应用指明了方向,生成式AI本地化成为必然趋势。

03.
结语:英特尔商用AI PC
打通行业落地最后一公里


通过三大AI引擎架构升级,英特尔为AI PC应用打通了落地最后一公里,基于经济、物理、数据保密三大法则,提供了AI本地化的底层基础。
去年10月,英特尔开启“AI PC加速计划”,5个月以来已累计2120个报名团队,孕育出1083个高质量的创新AI应用。值得一提的是,报名团队中超30%都来自高校大学生。
为了激励更多开发者加入,英特尔宣布“AI PC加速计划”再添两项新举措,新增“AI PC开发者计划”,并吸纳独立硬件供应商加入,以加速在2025年前为超过1亿台基于英特尔平台的PC带来AI特性。相信未来,我们会看到更多本地化AI应用,为商用场景带来更多新质生产力。





微信扫码关注该文公众号作者

来源:芯东西

相关新闻

大模型生产力的头场变革,从英特尔商用 AI PC 说起前瞻产业研究院&华为云:2024年中国AI大模型场景探索及产业应用调研报告-大模型“引爆”行业新一轮变革港股暴涨!进入技术性牛市!5天涨超80%!股价创3个月新高,商汤AI大模型瞩目!中概股跑赢大盘,市场回暖了?规模增长超 50%!普通人如何上手 AI 大模型应用开发? | 极客时间乔布斯看了得哭!与小米、华为的AI 大模型应用打擂台,苹果盖不住的“安卓味儿”都上了热搜各品牌智能手机发展大模型,技术创新大竞合,AI手机元年即将开启?聚焦AI大模型应用,ICDIA-IC Show众多亮点抢「鲜」看!中国生成式AI大会再揭晓15位嘉宾!大模型及应用技术大咖、算力专家和青年学者都来了“圣瞳智巡”工业巡检大模型通过工信部工业文化发展中心“AI产业创新场景应用案例”评估豆包大模型家族发布、火山方舟升级,火山引擎如何打造全栈AI技术服务?国产AI PC处理器来了!6nm制程,45TOPS算力,能跑百亿参数大模型大模型应用成本卷到了千元级!云天励飞发布“深目”AI 模盒:搭载自研芯片,单手可托起AI早知道|腾讯文档智能助手开启公测;GPT-4、文心一言领跑主流大模型全网独一份!AI大模型学习训练资源...(限时免费领)通义大模型成巴黎奥运会首个AI大模型应用技术提供方;保时捷CEO:接受中国销量下降,不会加入价格战....新趋势!AI大模型走下神坛!「启发式」新物种,猿辅导教育大模型AI场景测试曝光|36氪首发“5.20元送一朵花”:Kimi试水打赏收费,AI大模型应用的商业化有了新路径?大模型时代的操作系统:融合 Rust 和大模型,vivo 打造 AI 操作系统大模型时代的操作系统:融合Rust和大模型,vivo打造AI操作系统目前最全的!国内AI大模型名单!百家争鸣!全球首个全学科智适应教育大模型升级!AI孔子/达芬奇/爱因斯坦组团当家教全球开源新王Qwen2-72B诞生,碾压Llama3-70B击败国产闭源模型!AI圈大佬转疯了美国封锁开源AI!国产大模型还能卷多久?
logo
联系我们隐私协议©2024 bendi.news
Bendi新闻
Bendi.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Bendi.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。