Bendi新闻
>
单张A100全精度推理!谷歌明星开源模型Gemma 2上新9B/27B,挑战3140亿Grok-1
单张A100全精度推理!谷歌明星开源模型Gemma 2上新9B/27B,挑战3140亿Grok-1
7分钟前
新智元报道
新智元报道
【新智元导读】昨晚,谷歌正式开源了自家最强的开源模型Gemma 2,直指为全球范围研究开发者提供实用部署工具。
高效新模型的诞生
与其他大模型在Lmsys同场竞技,同等规模模型中Gemma 2的性能「一览众山小」。
高效的源头:架构创新
局部滑动窗口和全局注意力
Logit软上限
使用RMSNorm进行前后归一化
分组查询注意力
知识蒸馏
功能强大,实用为先
对AI安全性的提升
打造史上「最亲民」大模型
全球各地都使用Gemma制作项目。例如,Navarasa利用Gemma创建了一个植根于印度语言多样性的模式。
Gemma 2目前可以在Google AI Studio中使用,在Gemma 27B下测试其全部性能,而无需硬件要求。
微信扫码关注该文公众号作者
来源:新智元
相关新闻
国内首个开源千亿参数MoE大模型来了!性能超Grok-1,单张GPU可跑马斯克打脸OpenAI,全球最大巨无霸模型Grok-1开源!3140亿参数8个MoE,GitHub狂揽6k星全球最强开源模型一夜易主,1320亿参数推理飙升2倍!全球最强开源模型一夜易主,1320亿参数推理飙升2倍新开源之王来了!1320亿参数,逻辑数理全面打赢Grok,还比Llama2-70B快1倍斯坦福15张图揭示最新AI 动态:开源风评又“被害”,谷歌、OpenAI争当基础模型“劳模”小扎自曝愿开源100亿美元模型!2025年AGI没戏,能源短缺成最大瓶颈谷歌开源TimesFM:1000亿个时间点训练,入选ICML 20240门槛免费商用!孟子3-13B大模型正式开源,万亿token数据训练别等OpenAI了,全球首个类Sora抢先开源!所有训练细节/模型权重全公开,成本仅1万美元杀疯了!全面超越Llama3的强悍开源模型,仅9B,1000k上下文;GPT-4级别模型1年降价1万倍英伟达最强通用大模型Nemotron-4登场!15B击败62B,目标单张A100/H100可跑谷歌发布“Vlogger”模型:单张图片生成10秒视频史上首个100%开源大模型重磅登场!破纪录公开代码/权重/数据集/训练全过程,AMD都能训$2亿Powerball今晚开奖!大批澳人抢购彩票,1分钟售出数千张单个4090可推理,2000亿稀疏大模型「天工MoE」开源哈佛及谷歌金牌面试官硬核开讲!2025名校申请10步实操罗盘法则全揭秘!套壳丑闻让斯坦福AI Lab主任怒了!抄袭团队2人甩锅1人失踪、前科经历被扒,网友:重新认识中国开源模型马斯克发布全球最大开源模型Grok-1许家印组织造假被罚4700万;马斯克开源大模型Grok-1;侯毅正式卸任盒马CEO;英伟达推出最强AI芯片...最全!LLaMA 3/2/1模型结构总览 & 亮点分析AI进化太快了,马斯克开源Grok-1,爆火!海澜剪标2024春夏上新低至19.9元!全场1折起!马斯克正式开源 Grok-1,成为全球最大的开源大模型