Bendi新闻
>
手机「本地部署」开源 GPT,火了!

手机「本地部署」开源 GPT,火了!

1月前

大家好,今天继续聊聊科技圈发生的那些事。

一、MiniCPM-V

我们能把 GPT 本地部署到手机上了!不是用 API,而是完全本地化!

MiniCPM-V,这是一款端侧可用的 GPT-4V 级多模态大模型。MiniCPM 是一个大系列的模型,通常来说,大模型都是部署在服务器上,或是 PC 本地部署的。而 MiniCPM 将大模型部署到了手机上!(当然,苹果手机肯定是用不了的

系列有两个值得关注的模型,一个是 MiniCPM,一个是 MiniCPM-V,二者的区别主要在于,MiniCPM-V 侧重于图像处理。而今天我们分享的内容,主要关于 MiniCPM-V。

对于这样一款侧重图像分析的模型,我们只需要提供一张图片作为输入,再提供一些文本指示需要根据图片生成的内容,模型就会在很快的时间内提供输出。比如,你可以让它帮你把图片中的内容转成 Markdown 格式,或是分析图上讲了什么。

MiniCPM-V 拥有超级优秀的 OCR 能力。MiniCPM-Llama3-V 2.5 可接受 180 万像素的任意宽高比图像输入,在OCRBench 得分达到 725,超越 GPT-4o、GPT-4V、Gemini Pro、Qwen-VL-Max 等商用闭源模型,遥遥领先!

借助最新的 RLAIF-V 对齐技术,MiniCPM-Llama3-V 2.5 具有更加可信的多模态行为,幻觉率已经显著低于 GPT-4V-1106,来到了开源模型的 TOP1 宝座。

无论你使用的是 Windows、Mac 还是手机,MiniCPM-V 都能兼容你的设备提供本地部署方案。当然,Huggingface 的在线体验 demo 也已经发布。感兴趣的小伙伴,可以根据条件自行试试。

在线体验地址:

https://huggingface.co/spaces/openbmb/MiniCPM-V-2

项目地址:

https://github.com/OpenBMB/MiniCPM-V

二、VirtualWife

VirtualWife,虚拟老婆?一个令人激动,又有一点害羞的名字,事实上,这是一款虚拟数字人项目。基于 Python 开发,运用了自然语言处理(NLP)和机器学习技术,你可以创建属于自己的 AI 伴侣。

不知道大家是否有了解过前些年大火的游戏《主播女孩重度依赖》?在游戏中,玩家作为男友陪伴患有心理疾病的主播女友,不断攻略发展,最终走向不同的结局。

即使拥有20多种不同的结局和拉满的小细节,游戏的内容始终是人们设定好的。现在,VirtualWife 项目可以让我们真正的实现虚拟伴侣,不再是类似 Galgame 的交互,而是配合人工智能技术,实现你本人“私人订制”的伴侣。

实现 VirtualWife 的核心是 NLP 技术。NLP 即 Natural language processing,自然语言处理。这使得 AI 可以通过自然语言输入进行语义的理解和分析,并且能给出相应的输出。同时,随着交互越来越深入,VirtualWife 会通过持续的学习,生成更具个性化的回复。

于是,经过一段时间的培养,一个可以陪伴你日常生活,听你倾诉,有问必答的虚拟伴侣就诞生了。下至生活琐碎,上至天文地理,对你的 VirtualWife 来说都不在话下。

如果你愿意的话,通过 VirtualWife 创造的虚拟伴侣可以支持B站直播,你可以在直播间的弹幕里发信息,它会像一个真正的虚拟主播一般回复你。

项目通过 Docker 部署,项目主页上也有很完整的部署教程,感兴趣的小伙伴可以自行体验一下。

项目地址:

https://github.com/yakami129/VirtualWife

好了,本期的内容就是这么多,我们下期再见!

·················END·················

微信扫码关注该文公众号作者

来源:Jack Cui

相关新闻

这个「AI 写真」开源项目火了! GitHub 一周暴涨四千星,Yann LeCun 亲自转发史上最强!全球首个“开源GPT-4”出世!全球首个「开源GPT-4」出世!Llama 3震撼发布,Meta AI免登录可用最佳开源模型刷新多项SOTA,首次超越Mixtral Instruct!「开源版GPT-4」家族迎来大爆发iOS 越狱开发者被苹果 “ 招安 ” :以后不能碰 “ 越狱 ” 了,转身开源了 10 款工具!iOS 越狱开发者被苹果“招安”:以后不能碰“越狱”了,转身开源了 10 款工具!大模型又开“卷”!万亿参数闭源模型、四千亿开源模型来了开源“靓仔”头像生成器:纯前端本地实现、完全随机绘制——保证独一无二!这地楼市火了!中介忙疯:“一批接着一批,从早到晚一刻不停!”还有多个网红盘齐开抢市场完全开源!谢赛宁发布最新SOTA多模态模型Cambrian-1,“不与GPT-4V媲美”马斯克又“火”了!要求澳洲前员工还钱!华人大爷大妈又“火了”!组团干这事,监控拍下实时画面刷爆海外华人圈...华人大爷大妈又“火了”!组团干这事,监控拍下实时画面刷爆海外华人朋友圈...今年春天“静奢风”火了!「羊绒裤+小香风」,显瘦藏肉,太太太高级了!!今年过年“静奢风”火了!「羊绒裤+毛呢大衣」,显瘦藏肉又保暖,太太太高级了!!清华团队国产“Sora”火了!画面效果对标OpenAI,长度可达16秒,还能读懂物理规律95后男生把梳子「玩」火了!还是非遗手作木梳!​“因老板回家结婚1月10至2月14号闭店”,这张“请假条”火了!微信聊天记录导出的开源项目,火了!这类策略“彻底火了”!私募出手每年花$200万“永葆青春”的科技大亨和马斯克“开撕”了! “我能滋养你,马斯克只会解雇你”毕业典礼上,学生研制的这个“脱稿神器”火了!“她”来了!GPT-4o让AI陪伴创业公司无路可走?“我们坚持开源!”阿里云发布“地表最强”中文大模型:半年一迭代、性能翻倍?
logo
联系我们隐私协议©2024 bendi.news
Bendi新闻
Bendi.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Bendi.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。