Bendi新闻
>
目标检测新SOTA,端侧实时识别,沈向洋罕见转发点赞

目标检测新SOTA,端侧实时识别,沈向洋罕见转发点赞

5月前
白交 发自 凹非寺
量子位 | 公众号 QbitAI

目标检测领域,迎来了新进展——

Grounding DINO 1.5,IDEA研究院团队出品,在端侧就可实现实时识别。

这一进展获得AI大佬沈向洋转发,他一般都是一年一转的节奏。

此次发布主要有两个版本:Pro和Edge。Pro版更强,Edge版更快。

它仍然保留了上一个版本Grounding DINO双编码器-单解码器结构,在此基础上通过结合更大的视觉 backbone 扩大模型尺寸,并使用超过2000万的Grounding 数据获得了丰富的语料,大幅提升了检测精度和速度,且通过Pro和Edge版本分别针对不同应用场景进行了优化。

Pro版本在大规模数据集构建和高精度需求场景中表现卓越,而Edge版本则在端侧部署中展示了其独特的优势。

这就来分别看一看。

Pro版目标检测新SOTA

Grounding DINO 1.5 Pro版本实现了当前开集目标检测SOTA水平,在图像和文本的语义理解上表现出色,能够快速、准确地根据语言提示检测和识别图像中的目标对象。

在COCO、LVIS、ODinW35和ODinW13基准测试中的零样本迁移性能对比

物体级别理解是机器和物理世界交互的感知基础,也是解决多模态大模型(VLM)幻觉问题绕不过去的基础问题。

作为当前性能最好的开集检测模型,Grounding DINO 1.5 Pro 可以帮助构建海量的具有物体级别语义信息的多模态数据,从而有效地助力多模态大模型的训练。

它可以将长文本描述中的短语与图像中的具体对象或场景精确匹配,以增强AI对视觉内容和文本之间关系的理解


另外,在其他需要处理大量复杂数据的领域,如电商、社交媒体和自动驾驶等,Grounding DINO 1.5 Pro 也具有强大应用价值。

例如,在电商领域,该模型可以帮助快速标注商品图像,优化搜索和推荐系统。在社交媒体中,该模型能自动标注用户上传的图片,提升内容审核和分类的效率。

支持行业数据微调

除此之外,Pro版还支持通过行业数据进行微调(fine tuning),以满足各行业的特定需求,从而达到更加精准的识别效果。

为了验证微调带来的提升,CVR团队在视觉领域通用的LVIS等公开数据集上进行了对比实验。

从最后两行可看出,Grounding DINO 1.5 Pro经过微调,在多个数据集上都展现出大幅的性能提升。

而在多个实际场景,也十分适配。

像在医疗领域,通过微调后的Grounding DINO 1.5 Pro可以更准确地识别医疗影像中的病灶,辅助医生进行诊断,提高诊疗效率。

在零售行业,微调后的模型能更精准地识别和分类商品,有助于库存管理和销售分析。

Edge版端侧可部署

在端侧部署方面,Grounding DINO 1.5 Edge版本通过模型结构优化,成功部署在NVIDIA Orin NX卡上,并实现了10FPS的推理速度。

再者,它可以让机器人和开放环境进行交互。

在自动驾驶领域,Grounding DINO 1.5 Edge未来可以在车辆上实时运行,实现高效的目标检测和环境感知,提高驾驶安全性。在智能安防中,该模型能快速处理视频监控数据,实时检测异常行为,提升安全监控的响应速度。

未来,Grounding DINO 1.5 Edge的运行速度有望提升至20到30FPS,进一步扩大其在边缘计算领域的应用范围。

论文链接:
https://arxiv.org/abs/2405.10300
项目试玩链接:
https://deepdataspace.com/playground/grounding_dino

—  —


投稿请发邮件到:

[email protected]

标题注明【投稿】,告诉我们:

你是谁,从哪来,投稿内容

附上论文/项目主页链接,以及联系方式哦

我们会(尽量)及时回复你


点这里👇关注我,记得标星哦~

一键三连「分享」、「点赞」和「在看」

科技前沿进展日日相见 ~ 


微信扫码关注该文公众号作者

来源:量子位

相关新闻

4000本好书免费领!不用点赞转发,还包邮到家?!NeurIPS 2023 | 港科大&华为提出CoDA:开放词汇3D目标检测新网络20个小样本目标检测涨点方法!美团推出新短剧,上线首日点赞量破十万为新加坡组屋翻新计划点赞,装修厕所才用了450新币贾扬清点赞:3K star量的SGLang上新,加速Llama 405B推理秒杀vLLM、TensorRT-LLM美国Costco宣布新规 有人赞有人骂!女子结账时购物车被扣下 当场赶出!点赞高、商单广,漫画博主成品牌新宠?被央视点赞、破解精度与速度悖论,普利生用微纳3D打印点亮医疗新思路Costco新规:女子装满价值$400杂货,结账时被扣下!有人赞有人骂赞爆!多伦多华人回国又多一个选择!中国推出新航线, 近期入境要注意这个检测!ECCV 2024 | 满分Oral论文!整数训练脉冲推理的高性能低能耗目标检测网络要求员工点赞拉踩贴、抢到对方客户给奖金!40 多位知情人曝这两家 AI 数据商业巨头“生死大战”,如今“开撕”微软ECCV 2024 Oral 满分论文!SpikeYOLO:高性能低能耗目标检测网络阿里巴巴用AI为奥运做的这件事,让奥委会主席巴赫真心点赞新西兰也要跟?这一国家允许祖父母休育儿假,还发工资!NZ专家疯狂点赞!创新谈丨为“楼上创新、楼下创业”点赞网易员工内部群怼丁磊:人人陪你演戏点赞;李彦宏:开源模型是智商税;小红书再裁员:人效比只能达到拼多多的一半 | AI周报为腾讯点赞!一时砸车伤人爽,十年铁窗泪茫茫!在澳洲,原来这类停车罚单可以“免单”!网友纷纷点赞注意!7月新政即将生效,百万华人受影响!月底还有这一好消重磅来袭,网友点赞:绝了!川普要是真把这几件事整成了,就必须点赞澳洲人都是懒惰的废物!澳毒舌名嘴直播开喷,网友点赞:说得对!不惯着!女店员遭顾客泼咖啡、吐口水 她“抄起家伙就干” 网友点赞
logo
联系我们隐私协议©2024 bendi.news
Bendi新闻
Bendi.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Bendi.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。