Bendi新闻
>
首席分析师揭秘爆火Groq,每小时要烧168美元!10倍H100拥有成本,老黄笑而不语
首席分析师揭秘爆火Groq,每小时要烧168美元!10倍H100拥有成本,老黄笑而不语
4月前
新智元报道
新智元报道
【新智元导读】SemiAnalysis的行业专家对最近爆火的Groq推理系统进行了像素级的拆解,测算出其持有成本依然高达现有H100的10倍,看来要赶上老黄的步伐,初创公司还有很多要做。
Groq构架解密
和英伟达H100的成本对比
英伟达的后手
挑战
挑战一:处理极长的上下文信息
挑战二:推测性解码等技术的快速发展
挑战三:英伟达更强的GPU即将发货
微信扫码关注该文公众号作者
来源:新智元
相关新闻
流量|汪小菲高调要二婚,女主背景曝光!大S祝:这次要白头到老!网友酸茶言茶语[无语]跑美国加油也要上税了?!大温网友爆料不缴还要罚款…小红书爆火的渣男语录:“到时候你来美国,咱俩幸福就完了!”10分钟读懂!高考语文后的深度思考:为何坦诚交流前要先学会识人?一集入坑,假期必看,语文老师力荐!央视新综艺,在小孩圈爆火免费领丨揭秘汉字的神秘面纱:《字有道理》课程,让你的语文学习更上一层楼!OpenAI神秘搞事,GPT-4.5默默上线?推理碾压GPT-4网友震惊,奥特曼笑而不语欧盟嘴上说不要,身体很诚实,中国笑而不语领导跟下属说“最近表现不错”,情商低的笑而不语,高情商的这样说给英语让路!毛利语要“靠边站”了?!NZ政府终于对机构的毛利名动手!已有公共部门被要求改回英语名![无语]房顶都烧没!加拿大房地产公司总裁多次派人在竞争公司放火!现在惨了[无语]还要加税?!BC省学校开口要90亿加元!这还不算扩建……华人好欺负!?法拉盛华男被抢车还要遭暴揍!西语裔团伙太嚣张!新西兰“有史以来最好的工作”招人了!炸鸡品鉴师、“首席搞事官”、社交“喵”体达人…了解一下?「限量」香门永存!勇敢的人已经在吃香菜面了!每口都是好吃到无语,冲!CVPR 2024 | 加快199倍!清华和哈佛提出LangSplat:3D语义高斯泼溅OpenAI惊变!首席科学家突然离职!王煜全独家分析!拉香蕉的黑人小哥,说出了全网爆火奥德彪语录?OpenAI大招要来了!AI语音助手狙击谷歌苹果,官宣下周二上新,GPT-5年前见爱丁堡大学出新招,大小语言模型配合节约成本!爆火ChatTTS突破开源语音天花板,3天斩获9k的Star量免费在线体验Meta LIama 3大语言模型!GpuMall狂送10万代金券!$218劲爆早鸟价!全语言模式快乐中文夏令营:集中强化2个月等于学中文一整年揭秘Sora:用大语言模型的方法理解视频,实现了对物理世界的“涌现”