Bendi新闻
>
中文得分世界第一,多项盲测并肩 GPT4o,这个国产大模型怎么就成了 AI 界的黑马?

中文得分世界第一,多项盲测并肩 GPT4o,这个国产大模型怎么就成了 AI 界的黑马?

6月前
零一万物,像是装上了 V12 发动机。
本月 13 号,李开复携零一万物发布了旗下第二款产品 Yi-Large 闭源模型。公开不到半个月,Yi-Large 就从初生牛犊不怕虎的新生代,成为了长江后浪排前浪的实力派。
上周,一个名为「im-also-a-good-gpt2-chatbot」的神秘模型突然现身大模型竞技场 Chatbot Arena,排名直接超过 GPT-4-Turbo、Gemini 1 .5 Pro、Claude 3 0pus、Llama-3-70b 等各家国际大厂的当家基座模型。
而这个神秘模型正是 GPT-4o 的测试版本,OpenAI CEO Sam Altman 也在 GPT-4o 发布后亲自转帖引用 LMSYS arena 盲测擂台的测试结果。
时隔一周,在最新更新的排名中,类「im-also-a-good-gpt2-chatbot」的黑马故事再次上演,这次排名飞速上涨的模型正是由中国大模型公司零一万物提交的「Yi-Large」 千亿参数闭源大模型。
在 LMSYS 盲测竞技场最新排名中,零一万物的最新千亿参数模型 Yi-Large 总榜排名世界模型第 7,中国大模型中排名第 1,已经超过 Llama-3-70B、Claude 3 Sonnet;其中文分榜更是与 GPT4o 并列世界第一。
由开放研究组织 LMSYS Org (Large Model Systems Organization)发布的 Chatbot Arena 已经成为 OpenAI、Anthropic、Google、Meta 等国际大厂硬碰硬的擂台,并且还开放了群众投票功能。
零一万物也由此成为了总榜上唯一一个自家模型进入排名前十的中国大模型企业。
在总榜上,GPT 系列占了前 10 的 4 个,以机构排序,零一万物 01.AI 仅次于 OpenAI, Google, Anthropic 之后,正式进击国际顶级大模型企业阵营。
现在看来,那句「成为 World’s No.1」的口号,不是空喊,而是正在成为。
中文得分世界第一,「烧脑」盲测全球第二
美国时间 2024 年 5 月 20 日刚刷新的 LMSYS Chatboat Arena 盲测结果,来自至今积累超过 1170 万的全球用户真实投票数。
值得一提的是,为了提高 Chatbot Arena 查询的整体质量,LMSYS 还实施了重复数据删除机制,并出具了去除冗余查询后的榜单。
这个新机制旨在消除过度冗余的用户提示,如过度重复的「你好」,这类冗余提示可能会影响排行榜的准确性。
LMSYS 公开表示,去除冗余查询后的榜单将在后续成为默认榜单。
在去除冗余查询后的总榜中, Yi-Large 的 Elo 得分更进一步,与 Claude 3 Opus、GPT-4-0125-preview 并列第四。
在总榜之外,LMSYS 的语言类别上新增了英语、中文、法文三种语言评测,开始注重全球大模型的多样性。Yi-Large 的中文语言分榜上拔得头筹,与 GPT4o 并列第一,Qwen-Max 和 GLM-4 在中文榜上也都表现不凡。
国内大模型厂商中,阿里的 Qwen-Max 和智谱的 GLM-4 都有表现不凡。
在分类别的排行榜中,Yi-Large 同样表现亮眼。编程能力、长提问及最新推出的 「艰难提示词」 的三个评测是LMSYS所给出的针对性榜单,以专业性与高难度著称,可称作大模型「最烧脑」的公开盲测。
编程能力、长提问及最新推出的 「艰难提示词」 的三个评测,专业性与高难度,也被称为 LMSYS 榜单中「最烧脑」的公开盲测。
在编程能力(Coding)排行榜上,Yi-Large 的 Elo 分数超过 Anthropic 的 Claude 3 Opus,仅低于 GPT-4o,与 GPT-4-Turbo、GPT-4 并列第二;
长提问(Longer Query)榜单上,Yi-Large 同样位列全球第二,与 GPT-4-Turbo、GPT-4、Claude 3 Opus 并列;
艰难提示词(Hard Prompts)榜单上,Yi-Large 与 GPT-4-Turbo、GPT-4、Claude 3 Opus 并列第二。
用科学方法,得客观结果
如何为大模型给出客观公正的评测一直是业内广泛关注的话题。
此前,业内出现过各式各样的「刷榜」方法,但始终无法体现大模型的真实能力,让想了解的人云里雾里,也让相关行业的投资人摸不着头脑。
而 LMSYS Org 发布的 Chatbot Arena 则开始打破这一乱象。
凭借其新颖的「竞技场」形式、测试团队的严谨性,成为目前全球业界公认的基准标杆,连 OpenAI 在 GPT-4o 正式发布前,都在 LMSYS 上匿名预发布和预测试。
OpenAI 创始团队成员 Andrej Karpathy 甚至公开表示:
Chatbot Arena is awesome(Chatbot Arena 是令人惊叹的).
在形式上,Chatbot Arena 借鉴了搜索引擎时代的横向对比评测思路:

首先将所有上传评测的「参赛」模型随机两两配对,以匿名模型的形式呈现在用户面前;

随后号召真实用户输入自己的提示词,在不知道模型型号名称的前提下,由真实用户对两个模型产品的作答给出评价;

接着在盲测平台 https://arena.lmsys.org/ 上,将大模型们两两相比,用户自主输入对大模型的提问;

模型 A、模型 B 两侧分别生成两 PK 模型的真实结果,用户在结果下方做出投票四选一:A 模型较佳/B 模型较佳/两者平手/两者都不好;

提交后,可进行下一轮 PK。
通过众筹真实用户来进行线上实时盲测和匿名投票,Chatbot Arena 一方面减少偏见的影响,另一方面也最大概率避免基于测试集进行刷榜的可能性,以此增加最终成绩的客观性。
在经过清洗和匿名化处理后,Chatbot Arena 还会公开所有用户投票数据。
在收集真实用户投票数据之后,LMSYS Chatbot Arena 还会使用 Elo 评分系统来量化模型的表现,进一步优化评分机制,力求公平反应参与者的实力。
在 Elo 评分系统中,每个参与者都会获得基准评分,每场比赛结束后,参与者的评分会基于比赛结果进行调整。
系统会根据参与者评分来计算其赢得比赛的概率,一旦低分选手击败高分选手,那么低分选手就会获得较多的分数,反之则较少。
通过引入 Elo 评分系统,LMSYS Chatbot Arena 很大程度上保证了排名的客观公正。
以小搏大
此次 Chatbot Arena 共有 44 款模型参赛,既包含了顶尖开源模型 Llama3-70B,也包含了各家大厂的闭源模型。

以最新公布的 Elo 评分来看,GPT-4o 以 1287分 高居榜首;

GPT-4-Turbo、Gemini 1 5 Pro、Claude 3 0pus、Yi-Large 等模型则以 1240 左右的评分位居第二梯队;

其后的 Bard (Gemini Pro)、Llama-3-70b-Instruct、Claude 3 sonnet 的成绩则断崖式下滑至 1200 分左右。
值得一提的是,排名前 6 的模型分别归属于海外巨头 OpenAI、Google、Anthropic,零一万物位列全球第四机构,且 GPT-4、Gemini 1.5 Pro 等模型均为万亿级别超大参数规模的旗舰模型,其他模型也都在大几千亿参数级别。
Yi-Large「以小搏大」,以仅仅千亿参数量级紧追其后。
AI 大模型的竞争发展仍然处于白热化阶段,人工智能的「百模大战」仍会持续上演,在这个以「周」甚至以「天」为迭代单位的领域,有一个相对公平客观的评价体系,就显得尤为重要。
持续更新评分体系的评测平台,不仅可以让行业投资人看到技术发展的真实状况,也能让用户对先进模型有选择的权利,更可以促进整个大模型行业的健康发展。
无论是出于自身模型能力迭代的考虑,还是立足于长期口碑的视角,大模型厂商应当积极参与到像 Chatbot Arena 这样的权威评测平台中,通过实际的用户反馈和专业的评测机制来证明其产品的竞争力。
相反,如果只在乎刷榜的结果,而忽视模型真实的应用效果,那么模型能力与市场需求之间的鸿沟会越发明显,最终将难以在激烈的 AI 市场竞争中立足。
在 AI 时代的浪口,各大模型厂商想要做到优秀甚至顶端,至少需要两种特质:

吾日三省吾身:在进步中获得经验,在竞争中得到答案;

真金不怕火炼:比起在「野榜」拿第一的花架子,不如向内审视,提升自己的真本事。
值得期待的是,现在有一批优秀的国产大模型厂商,正在脚踏实地,创新研发,甚至能够在国际舞台上,和行业巨头一较高下。

LMSYS Chatbot Arena 盲测竞技场公开投票地址:

https://arena.lmsys.org/
LMSYS Chatbot Leaderboard 评测排行(滚动更新):

https://chat.lmsys.org/?leaderboard


微信扫码关注该文公众号作者

来源:APPSO

相关新闻

大模型盲测竞技场放榜!国产黑马冲进世界七强,中文并列第一国产黑马大模型盲测竞技场挺进全球前十!中文榜和GPT-4o并列第一全球市值第一的AI公司, 怎么就成了“美股最大泡沫”?| 文化纵横13家媒体怒告OpenAl等AI巨头背后:“合理使用”or“偷窃”?内容创作为何成了大模型的“免费午餐”?刚发布就被对标Sora,这个国产模型来头这么大?Wanderboat AI:这个华人团队开发的AI旅行app,是大模型时代的小红书+马蜂窝?中国大模型头名易主:全球盲测榜单上,Yi-Large与GPT-4o中文并列第一Figma 大更新:这个由理科生创办的设计界独角兽,果然要用AI取代设计师了?国产黑马与GPT-4o称霸中文榜首!Yi-Large勇夺国内LLM盲测桂冠,冲进世界第七AI视觉的“大一统”:从CV到多模态,从行业大模型到机器人,旷视如何布局?今日arXiv最热大模型论文:上海AI lab发布MathBench,GPT-4o的数学能力有多强?耐克阿迪落伍了?这个品牌怎么就成了最新“中产收割机”金价狂飙,准备IPO的梦金园怎么就成了最不赚钱的那个?卖鞋的骆驼,怎么就成了冲锋衣的TOP1?大模型,到底是怎么生成文字的?压力大就想吃点东西?多项研究表明:「一包零食减压定律」有科学依据,咀嚼这一动作可以显著缓解压力,改善情绪这副差点失败的智能眼镜,怎么就成了爆款?速抢!比耐克便宜,比亚瑟士舒服,这个跑鞋界的路虎到底多牛?比耐克便宜,比亚瑟士舒服,这个跑鞋界的路虎到底多牛?比某迪某克便宜,比某瑟士舒服,这个跑鞋界的路虎到底多牛?美国封锁开源AI!国产大模型还能卷多久?Mistral-Medium意外泄露?冲上榜单的这个神秘模型让AI社区讨论爆了刘涛送金被全网夸10天,金子怎么就成了年轻人送礼的硬通货?如果 MaaS 是个伪命题,大模型时代的「云」应该怎么建?
logo
联系我们隐私协议©2024 bendi.news
Bendi新闻
Bendi.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Bendi.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。