Bendi新闻
>
​亚马逊云科技突破生成式AI“最后三公里”

​亚马逊云科技突破生成式AI“最后三公里”

7月前




“云+大模型”,也要成标配了吗?

前有ChatGPT之于Azure,后有阿里云宣称中国一半的大模型企业都跑在阿里云上。近日,当亚马逊宣布已完成对Anthropic的40亿美元投资,“Anthropic+亚马逊云科技”又成了一对黄金搭档。

这个大模型不简单

根据双方的战略合作协议,Anthropic将亚马逊云科技作为首选云服务提供商,以承担包括安全性研究及未来基础模型开发在内的关键任务。从Anthropic的角度,将利用Amazon Trainium及Inferentia芯片构建、训练及部署其未来的基础模型,并承诺为全球亚马逊云科技的客户提供在Amazon Bedrock上对其未来基础模型的长期访问权限。

Anthropic最新的Claude 3系列模型展现出领先的智能、几乎媲美人类的反应速度、更高的可操控性和精确度,以及革新的视觉能力。行业基准测试表明,该系列中最智能的模型Claude 3 Opus已成为新的标准,在推理、数学和编码领域超越了当今可用的其他模型,包括OpenAI的GPT-4。

Claude 3系列模型包含三个模型:具有几乎即时响应能力且最紧凑的 Claude 3 Haiku;在技能与速度之间达到理想平衡的Claude 3 Sonnet;为处理高度复杂任务设计的最智能的模型 Claude 3 Opus。用户可以根据自己的商业需求,从中选择最合适的智能、速度和价格的组合。

Claude 3的优势非常明显。比如,它在数学问题、编程练习和科学推理等标准评估中超越了所有现有模型;具备多模态能力,速度优于其他多模态模型;能够有效降低幻觉,提升回答准确率;可以提供200K超长上下文准确召回,针对某些特殊场景,开放支持1M token的上下文窗口等。

当前,Claude 3的主要应用场景包括内容续写、代码辅助、电商商品描述撰写、长文本知识召回总结等。


从亚马逊云科技的角度,Amazon Bedrock是其推出的一项全托管服务,使用户能够安全轻松地访问行业领先的高性能基础模型,以及一系列备受关注的功能,包括RAG检索增强生成、Guardrails安全防护功能、模型评估和Agent代理等,旨在帮助客户构建功能全面、性价比高、响应迅速的生成式AI应用。从3月开始,Amazon Bedrock已经可以提供对Claude 3系列模型的访问。

提供对业内领先的大模型的全方位支持,是亚马逊云科技的一项基本策略。Anthropic不是第一个,也不会是最后一个。Anthropic的加入,就像是又一个加速引擎,让亚马逊云科技可以更快更好地将生成式AI技术推广至全球各地。

如果将大模型比作水,那么亚马逊云科技就是“送水人”,其战略、解决方案及服务、生态,都是为了让生成式AI能够尽快地在行业场景中开花、结果。正如亚马逊云科技大中华区产品部总经理陈晓建所说:“尽管大模型非常重要,但仅仅靠大模型来赋能生产是远远不够的,企业还需要一系列周边的能力来正确、合理、安全、高效地使用大模型。这就是亚马逊云科技一系列产品所提供的价值所在。”

生成式AI落地 全面就绪

由于各行各业的场景千变万化,即使大模型本身的技术能力再强,也不可能有一个基础模型,能够放之四海皆准,适用于所有业务场景。作为一个开放的平台,Amazon Bedrock提供了各种领先的基础模型供客户选择,其中既有知名的开源模型,如Stable Diffusion XL、Llama、Mistral 7B和Mixtral 8*7B,也有Anthropic Claude 3、AI21labs Jurassic、Cohere Command、Amazon Titan等非开源模型。

Amazon Bedrock只是亚马逊云科技在生成式AI领域的一个支柱。从更广泛、更通用的支撑能力来看,亚马逊云科技为生成式AI的用户提供了完整的三层技术栈:从最底层的高性能基础设施,到中间层最广泛的基础模型选择,再到最上层的应用生成式AI技术的开箱即用的云服务。



具体来看,在最底层的算力基础设施层,亚马逊云科技为客户提供了对最强劲算力的支持,包括NVIDIA G200芯片,以及亚马逊云科技自研的芯片,如用于训练的第二代Amazon Trainium芯片、用于推理的第二代Amazon Inferentia芯片,以及用于训练和推理的平台Amazon Sagemaker等。陈晓建强调说,除了芯片的持续迭代升级以外,亚马逊云科技的优势还体现在,它拥有一整套用于大规模并行训练的基础架构UltralClusters,可以支持10万+最新的Amazon Trainium2用于并行训练。总之在算力基础架构方面,亚马逊云科技是可以让用户放心的。

中间一层,就是随着生成式AI衍生出来的全新产品,Amazon Bedrock就其中的典型代表,它可以支持多种大模型。“从模型能力到真正的运营生产之间,企业还需要增加很多辅助能力。Amazon Bedrock提供了一系列广泛的能力,例如预置吞吐量功能以保障业务拥有稳定独享的底层资源,模型微调能够将企业自身的业务数据与大模型快速结合,以及能够全面监管大模型的Guardrails功能等。”陈晓建表示,“这些工程化的能力是企业在将生成式AI用于生产环境时所必需的。”

Amazon Bedrock提供了对全球领先基础模型的接入,并提供知识库、代理、Guardrails等各种便捷工具,同时还可以确保数据隐私和安全。陈晓建表示,如今Amazon Bedrock已经成了企业构建和应用生成式AI的首选。

那么,Amazon Bedrock究竟赢在哪里呢?让我们逐一揭晓。

首先,强大的知识库功能。Knowledge Bases for Amazon Bedrock为基础模型和Agent提供来自企业私人数据源的上下文信息,用于检索增强生成(RAG),以提供更相关、更准确和更个性化的响应。从Amazon Bedrock知识库检索到的所有信息均附有引文,可进一步提高透明度,并最大限度地减少幻觉。

其次,进阶的代理功能,Agents for Amazon Bedrock使生成式AI应用能够使用自然语言来执行多步骤的业务任务。代理功能会使用基础模型的推理功能分解问题,并通过分步骤的方式解决用户提出的问题。Agent会利用推理功能将这个需求分解并逐步执行。Agent还能够访问组织的企业系统、流程、知识库以及一些基础构建模块,进而制定出解决问题的逻辑步骤,确定调用哪些API以及调用时机,从而确保事务按照正确顺序完成。如果需要用户输入特定信息,Agent还会主动询问,用自然语言获取所需的附加细节。最重要的是,Agent始终利用最新的信息,并在保证安全与隐私的前提下为用户提供解决方案。

再次,切实践行负责任的AI。Guardrails for Amazon Bedrock允许客户根据应用程序的特定要求和负责任的AI策略来管理用户体验,同时构建适合其应用场景且符合安全和隐私要求的生成式AI应用程序,为Amazon Bedrock上的多种基础模型和代理提供保护;根据用户设置的负责任AI策略来配置有害内容过滤器;通过简短的自然语言描述来定义并拒绝生成被禁止的话题;能够在基础模型的回复结果中屏幕个人隐私数据。

最后,确保合规。Amazon Bedrock是基于全面的数据保护和隐私保护构建的,传输中的数据和静态数据都会被加密,而且数据不会与模型提供者共享,也不会用于改进基础模型。Amazon Bedrock提供全面的监控和日志记录功能,为治理和审计需求提供支持。Amazon Bedrock也符合包括ISO、SOC、CSA STAR 2级在内的常见合规标准,并具有HIPAA资格。客户可以在遵循GDPR要求的情况下使用Amazon Bedrock。

最上一层是与应用进行很好的结合。例如,Amazon Q与亚马逊云科技自身的BI产品Amazon QuickSight、智能客服产品Amazon Connect、面向编程开发人员的平台Amazon CodeWhisperer等都实现了非常有效的结合。

陈晓建表示,用户可以根据自己的实际环境,以及具体的业务需求,选择亚马逊云科技不同层级的产品来进行对接,从而达到以生成式AI赋能业务创新与发展的目的。


携手共进 事半功倍

亚马逊云科技的三层技术栈,为生成式AI的落地提供了技术上的强有力的支撑,但这对于亚马逊云科技来说还远远不够,因为亚马逊云科技致力于彻底解决生成式AI落地“最后三公里”的问题,降低生成式AI的应用门槛。

亚马逊云科技的解决方案架构师可以和用户一起寻找场景和解决方案;其产品技术专家可以根据用户的需求,匹配最合适的产品及服务;亚马逊云科技的人工智能实验室可以帮助客户打磨算法;专业服务团队可以提供专业的从咨询到实施的全流程服务;培训与认证部门可以为用户提供专业的机器学习培训等。完善的数据基础、强大的算力和工具,再加上专业的本地化团队的辅助,这才是亚马逊云科技努力要实现的将用户“扶上马并送一程”,为各行各业的用户采用生成式AI保驾护航。

对于行业用户怎样才能用好大模型,陈晓建给出了中肯的建议:首先选择一个合适的场景,可以采用循序渐进、从简单到复杂的思路,从最容易落地的场景切入;其次,选择合适的工具和平台;再次,用户不必从头开始,完全依靠自己的力量生成大模型,可以与像亚马逊云科技这样拥有全栈技术能力的服务商合作,这样会事半功倍;最后,在生成式AI领域,很多用户都是“摸着石头过河”,所以要擅于借助外部力量、专业服务团队,共同攻坚克难,在实践中学习和提升。

生成式AI,任重而道远。



往/期/回/顾

从科技赋能到价值引领,东莞证券可进化的信创云建设启示录“智算”雄起 | 智算操作系统要“顶天立地”

云和AI“一哥”再携手,亚马逊云科技与英伟达共攀云上AI算力新高峰


一手AI,一手云,亚马逊云科技继续重塑之旅


为生成式AI铺路筑基 亚马逊云科技用了哪些招儿?




微信扫码关注该文公众号作者

来源:云数智观察

相关新闻

提供工业AI生成式设计软件,「设序科技」完成近亿元A+轮融资|早起看早期提供工业AI生成式设计软件,「设序科技」完成近亿元A+轮融资|36氪首发商汤进入2.0时代:“日日新”大模型驱动生成式AI业务收入率先突破10亿世界第一部AI“生成式”纪录片,5250亿个剪辑版本,每场放映都独一无二大模型进入「实用」时代,亚马逊云科技已是Next Level关于AI落地“最后一公里”,这里有30条前沿洞察一句话生成丝滑的二次元视频,AI视频生成公司「鹿影科技」完成天使轮融资|36氪首发彰显科创力量 上市公司在行动丨云天励飞AI“硬科技”赋能商业新生态科技成果转化“最后一公里问题”是个伪命题行者AI尹学渊:AI打破内容创作“不可能三角”,推动美术/音乐大模型落地“最后一公里”|GenAICon2024今年第1号台风“艾云尼”生成;神农架发现“伟烈报春”丨科技早新闻亚马逊云科技出海日:“出海,从来没有如此确定过”“2024GenAI生成式人工智能峰会”燃爆旧金山艺术宫!畅享智慧盛宴,引领AI新纪元亚马逊云科技 CEO 将离职:“云的未来是光明的”​【活动】“云游故宫·凡尔赛宫”AI绘画大赛福布斯AI 50强榜单发布!多位「2024生成式人工智能旧金山峰会」嘉宾入选阿里通义实验室薄列峰:从兵马俑跳“科目三”到照片唱歌,四大框架让AI生成的人物活起来丨GenAICon 2024首次用生成式AI设计抗体,蛋白质设计领域“鼻祖”David Baker的最新研究斯坦福团队开发生成式AI模型,设计易于合成的新抗生素分子对抗「超级细菌」谷歌对“AI概览”功能进行了紧急修复;超一半德企拟加大力度应用生成式人工智能丨AIGC日报复旦团队重大突破登Cell,破纪录复活「冰封」18个月人脑!三体云天明计划成真?拼多多啃下“最后一公里”,快递末端竞争再起?“最后1公里”争夺战,驿站老板赢了吗?AI「搅动」云计算,阿里云推动算力底层变革
logo
联系我们隐私协议©2024 bendi.news
Bendi新闻
Bendi.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Bendi.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。