Bendi新闻
>
零一万物 API 上线,用户反馈多模态中文图表体验超过 GPT-4V

零一万物 API 上线,用户反馈多模态中文图表体验超过 GPT-4V


长文本、多模态依然是当下大模型公司努力攻坚的领域。

作者丨张进

编辑丨陈彩娴

近日,大模型初创公司零一万物发布了Yi 大模型 API 开放平台,为开发者提供通用 Chat、200k 超长上下文、多模态交互等模型。

零一万物由创新工场董事长兼首席执行官李开复创办于 2023 年 6 月,零一万物便成功发布了 Yi 系列模型,包含 6B 和 34B 两个版本,并开源,打破了当时国产开源模型一直难以超过 14B 的现状。34B也是黄金尺寸的模型,既达到了大模型“涌现”能力的门槛,同时也能在消费级显卡上训练,对开发者相对友好。

此后较长一段时间 Yi-34B 在 Hugging Face 英文开源社区平台跻身前列,一举打响了零一万物的模型名声。

而此次推出 Yi 大模型 API 开放平台,意味着经过数月的筹措与准备,零一万物已经具备了一个初步的模型产品矩阵,将模型能力完全开放出去供开发者测试、使用。

跟开源一样,这同样需要很大的勇气,是对零一模型能力进一步的测试与考验,但好在经过前期体验与一些用户实测,收获了诸多好评。在 Yi-34B-Chat-0205、Yi-34B-Chat-200K 之外,零一万物开放平台此次同期上新的多模态大模型 Yi-VL-Plus,支持文本、视觉多模态输入,面向实际场景大幅增强。多位用户反馈:中文图表体验超过 GPT-4V。

开发者作为大模型生态中非常重要的一环,从开源 Yi-34B 模型免费供开发者使用,到今天又推出Yi 大模型 API 开放平台,可以看到零一万物非常重视开发者生态的塑造。

Yi 大模型 API 名额目前限量开放,零一万物会为新用户免费赠送 60 元,感兴趣的开发者不妨多多申请体验一下。



1

API 开放平台:

聚焦 200K 长上下文和多模态
据介绍,此次 API 开放平台提供以下模型,包括:
  • Yi-34B-Chat-0205:支持通用聊天、问答、对话、写作、翻译等功能。
  • Yi-34B-Chat-200K:200K 上下文,多文档阅读理解、超长知识库构建小能手。
  • Yi-VL-Plus:多模态模型,支持文本、视觉多模态输入,中文图表体验超过 GPT-4V。
(零一万物API开放平台链接:https://platform.lingyiwanwu.com/)

AI 科技评论发现,此次零一万物 API 开放平台主要聚焦于当下两个最重要的领域,一是长文本,二是多模态。

大模型早已进入长文本时代,各家大模型都在推自己的长文本能力,Yi-34B-Chat-200K 支持处理约 30 万个中英文字符,更具象的体现是可以轻松处理整本《哈利·波特与魔法石》 小说,适合用于多篇文档内容理解、海量数据分析挖掘和跨领域知识融合等行业人员。

例如金融分析师可用 Yi-34B-Chat-200K 快速阅读报告并预测市场趋势、律师可以用它精准解读法律条文、科研人员可以用它提取论文要点等。

在“大海捞针”的测评中,Yi-34B-Chat-200K 的性能提高了 10.5%,从 89.3% 提升到 99.8% 。该测试是将一个目标句子(针)放进一个随机文档语料库(大海),然后提出一个只能使用“针”(目标句子)中的信息才能回答的问题来测试模型的回忆能力。

Yi-34B-Chat-200K 可以对近300页的英文长篇小说《Frankentein 科学怪人》进行中文归纳总结和用表格例举书中人物。

而零一万物开发的多模态模型 Yi-VL-Plus,可支持文本、视觉多模态输入,面向实际应用场景大幅增强:

  • 增强Charts, Table, Inforgraphics, Screenshot 识别能力,支持复杂图表理解、信息提取、问答以及推理。中文图表体验超过GPT-4V。

  • 在 Yi-VL 基础上进一步提高了图片分辨率,模型支持 1024*1024 分辨率输入,显著提高生产力场景中的文字、数字 OCR 的准确性。

  • 保持了 LLM 通用语言、知识、推理、指令跟随等能力。

在全球多项权威评测榜单中,Yi 大模型表现优异,性能直追 GPT-4。从实际测评结果显示,很多场景 Yi-VL-Plus 效果超过 GPT-4V。

例如,当我们把下述表格分别给 Yi-VL-Plus 和 ChatGPT 处理,发现两个模型的处理结果不同:

Yi-VL-Plus 得出了正确答案,GPT-4V 没有,可见 Yi-VL-Plus 对中文复杂表格的信息识别处理准确度高于 GPT-4V:

再例如,我们将下述模糊汉字的图片提交给 Yi-VL-Plus 和 ChatGPT 识别:

发现Yi-VL-Plus 回答正确了,ChatGPT 没能答对:



2

在实际应用场景中的效果:

用户评价较高

据零一万物透露,此前,Yi 大模型 API 小范围开放内测,全球已有不少开发者申请使用,并普遍反馈效果超出预期,其中,星云爱店 CTO 大董、技术人负责人刘亚光和测试过零一万物 API 开放平台后,也给出了较高评价。

星云爱店是知识探索服务的先行者,该公司的业务包含2C的“学术科研助手”,2B的儿童心理健康诊疗、青少年科学素养培养三大领域。

大模型爆火后,针对科研学术场景,星云爱店“万能小in科研助手”可以加载大模型能力,帮助用户进行深层次文本资料解读、文献分析以及创造性写作;针对青少年科学素养培育计划,星云可以利用大模型来辅助制定个性化学习计划,提供学习辅导,评估学习成果,并引导学生举一反三,创造性提升学习效果。

所以要求大模型同时具备智商IQ和情商  EQ——做研究时大模型要有智商IQ,精确、严谨、化繁为简,而在服务用户时又有情商EQ,善解人意、无微不至。

星云爱店 CTO 大董参加过诸多一线大模型的测评,但他发现找到双商兼并的平台并不容易,他们要求大模型能达到:长文本精确摘要,对话文案专业化、精细化,拒答率低。这次,星云爱店成为零一万物 Yi 大模型 API 开放平台邀测的首批用户。大董说,相比其他大模型,满分 10 分的话,给 Yi 大模型 API 开放平台整体评分可达 8.5,属于他们测试大模型 API 中的头部玩家。

经过多次测试后,大董发现零一万物 Yi 大模型 API 开放平台,相对其他模型有以下优势:

(1)当执行复杂任务时,拒绝任务率低,完成度好,测试案例如下:

其他模型,被拒率达 40%。

切换到零一模型后,任务未发生拒绝执行,且篇幅控制准确,撰写创业优良,翻译专业准确。

(2)学习专业知识并立即用于解读,表现优良。有深度、有创意。(星云爱店提供的资料均脱敏)

结合历史病历和从图片信息,零一模型可以较好的完成对青少年心理健康水平解读。并被中国顶级精神卫生医院评价为:较准确。

(3)阅读18万字的报告集合,未遗漏重点

其他模型(左标黄图所示):无地缘政治风险。

零一模型(右图所示):英国脱欧导致索尼总部搬迁,导致索尼欧洲业务连续性受影响。

使用了 Yi 大模型API开放平台后,现在,星云爱店的业务能力和用户体验明显提升。

首先是复杂场景下多指令理解反馈高效精准。不管是学术研究还是为儿童青少年提供辅导,经常都会有“既要又要还要”的刁钻需求,比如需要总结一系列文章核心观点,并按照某一标准排序打分后进行语言翻译,这是对模型的指令遵循、创意内容生成以及推理速度的综合考验。大董说:“Yi-34B-Chat-200K面对几万字的超长提示词,10 秒钟就反馈回来了结果,极大提高大家的工作效率。”

其次是长文本中“大海捞针”精确度优异,这让星云爱店的产品可以在诸多文本分析与写作平台中独占鳌头。学术研究最难的并非找到1万篇文献的共同点,而是要在浩如烟海的文字中,找到可能会被前人忽略的关键信息。大董说,即使是做诗词韵律相关的分析,在测试中发现 Yi 大模型都可以准确理解文献表达的意思,很快抓住重点。30 万字的处理能力者对于知识库的分析整理很重要。Yi 大模型在语义理解、摘要总结等精确度等方面是他测试过的各类长文本模型里的领先者。

此外,不管是服务科研还是做心理咨询,“靠谱”是最重要的品质。大董说,以心理咨询场景为例,在线拒答率、回答文案的温暖程度极大影响用户体验。零一万物的API做到了靠谱且易用,这对一家业务正在持续增长,用户规模不断扩大的公司尤为重要。

而 Yi 大模型API开放平台的“靠谱易用”,还体现在 API 接入的顺滑程度上。星云爱店技术负责人刘亚光说,接入 Yi 大模型 API 代码修改量极少,几乎是分分钟就可以搞定。

而用户能拥有上述体验则要源于零一万物对 API 的优化,据零一万物透露,为了提升 API 性能,零一万物在 API 侧进行了推理优化,因此 Yi-34B-Chat 系列 API 具备较快的推理速度,这不仅缩短了处理时间,同时也保持了出色的模型效果。此外,优化的 API 接口显著降低了模型回复的延迟,进一步提高了用户体验的流畅性和响应速度。

同时,Yi 系列模型 API 与 OpenAI API完全兼容,只需要修改少量代码,就能平滑迁移。

据零一万物透露,未来零一万物将会持续为开发者提供更多更强模型和 AI 开发框架,让大模型更好地完成落地,包括:

  • 推出一系列的模型 API,覆盖更大的参数量、更强的多模态,更专业的代码/数学推理模型等。

  • 突破更长的上下文,目标 100万 tokens;支持更快的推理速度,显著降低推理成本。

  • 基于超长上下文能力,构建向量数据库、RAG、Agent 架构在内的全新开发者 AI 框架。旨在提供更加丰富和灵活的开发工具,以适应多样化的应用场景。

本文作者(vx: zzjj752254)长期关注AI大模型领域的人、公司与行业动态,欢迎交流。

阅读原文,登录零一万物API开放平台👇🏻

更多内容,点击下方关注:

未经「AI科技评论」授权,严禁以任何方式在网页、论坛、社区进行转载!


公众号转载请先在「AI科技评论」后台留言取得授权,转载时需标注来源并插入本公众号名片。

微信扫码关注该文公众号作者

来源:AI科技评论

相关新闻

一口气读完《沙丘》 ,零一万物宝藏API正式开箱!酷炫Demo实测,多模态中文图表体验超越GPT-4V零一万物发布Yi-VL多模态语言模型并开源,测评仅次于GPT-4V北京获准的大模型占全国近半;OpenAI CEO筹建AI芯片公司;零一万物多模态语言模型上线丨AIGC大事日报零一万物Yi-VL多模态大模型开源,MMMU、CMMMU两大权威榜单领先世界顶尖多模态大模型开源!又是零一万物,又是李开复爆打多模态王者 GPT-4V、Gemini Pro!这个小小端侧模型杀疯了!国产端侧小模型超越 GPT-4V,「多模态」能力飞升上海AI Lab开源首个可替代GPT-4V的多模态大模型无需人工/GPT-4V排序,针对多模态大模型的全自动多级偏好学习OpenAI 断供中国大陆市场,零一万物 Yi API 二折平替 GPT-4o完全开源!谢赛宁发布最新SOTA多模态模型Cambrian-1,“不与GPT-4V媲美”开源多模态SOTA再易主,19B模型比肩GPT-4v,16G显存就能跑面壁智能发布最强端侧多模态模型:超越Gemini Pro 、GPT-4V,图像编码快150倍!不怕OpenAI断供!零一万物“二折平替GPT计划”上线手机上能跑的 GPT-4V!面壁发布端侧最强多模态小钢炮 2.6,实时视频理解首次上端多模态模型学会打扑克:表现超越GPT-4v,全新强化学习框架是关键面壁发布多模态小钢炮仅仅 8B 参数规模,超越 GPT-4V 和 Gemini Pro超越 GPT-4V 和 Gemini Pro!HyperGAI 发布最新多模态大模型 HPT,已开源仅8B,全面超越GPT-4V!单图、多图、视频理解端侧三冠王!史上最强端侧多模态诞生手机上能跑的「GPT-4V」来啦!多图、视频理解首次上端!面壁小钢炮开源史上最强端侧多模态国产「小钢炮」一夜干翻巨无霸GPT-4V、Gemini Pro!稳坐端侧多模态铁王座GPT-4V只能排第二!华科大等发布多模态大模型新基准:五大任务14个模型全面测评速读60万字《马斯克传》、手机一键生成PPT,零一万物上线AI生产力工具「万知」争算力,争数据,争用户!零一万物、月之暗面再掀国产大模型资本战:年内亿元级融资已有20起
logo
联系我们隐私协议©2024 bendi.news
Bendi新闻
Bendi.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Bendi.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。