Bendi新闻
>
深夜重磅!GPT-4o 正式发布:视频语音交互丝滑到吓人,还免费可用

深夜重磅!GPT-4o 正式发布:视频语音交互丝滑到吓人,还免费可用

6月前

今天凌晨,一场不到 30 分钟的发布会,将又一次大大改变 AI 行业和我们未来的生活,也会让无数 AI 初创公司焦头烂额。
这真不是标题党,因为这是 OpenAI 的发布会。
刚刚,OpenAI 正式发布了 GPT-4o,其中的「o」代表「omni」(即全面、全能的意思),这个模型同时具备文本、图片、视频和语音方面的能力,甚至就是 GPT-5 的一个未完成版。
更重要的是,这个 GPT-4 级别的模型,将向所有用户开放,并且未来几周内先向 ChatGPT Plus 推送。
我们先给大家一次性总结这场发布会的亮点,更多功能解析请接着往下看。
发布会要点
1.
新的 GPT-4o 模型:打通任何文本、音频和图像的输入,相互之间可以直接生成,无需中间转换
2.
GPT-4o 语音延迟大幅降低,能在 232 毫秒内回应音频输入,平均为 320 毫秒,这与对话中人类的响应时间相似。
3.
GPT-4 向所有用户免费开放
4.
GPT-4o API,比 GPT 4-Turbo 快 2 倍,价格便宜 50%
5.
惊艳的实时语音助手演示:对话更像人、能实时翻译,识别表情,可以通过摄像头识别画面写代码分析图表
6.
ChatGPT 新 UI,更简洁
7.
一个新的 ChatGPT 桌面应用程序,适用于 macOS,Windows 版本今年晚些时候推出
这些功能早在预热阶段就被 Altman 形容为「感觉像魔法」。既然全世界 AI 模型都在「赶超 GPT-4」,那 OpenAI 也要从武器库掏出点真家伙。
当然,还轮不到 GPT-5 登场。

视频来自@dotey
免费可用的 GPT-4o 来了,但这不是它最大的亮点
其实在发布会前一天,我们发现 OpenAI 已经悄悄将 GPT-4 的描述从「最先进的模型」,修改为「先进的」。这正是为了迎接 GPT-4o 的到来。
GPT-4o 的强大在于,可以接受任何文本、音频和图像的组合作为输入,并直接生成上述这几种媒介输出。
这意味着人机交互将更接近人与人的自然交流。
GPT-4o 可以在 232 毫秒内回应音频输入,平均为 320 毫秒,这接近于人类对话的反应时间。此前使用语音模式与 ChatGPT 进行交流,平均延迟为 2.8 秒(GPT-3.5)和 5.4 秒(GPT-4)。
它在英文和代码文本上与 GPT-4 Turbo 的性能相匹敌,在非英语语言文本上有显著改进,同时在 API 上更快速且价格便宜 50%。
而与现有模型相比,GPT-4o 在视觉和音频理解方面表现尤为出色。

你在对话时可以随时打断

可以根据场景生成多种音调,带有人类般的情绪和情感

直接通过和 AI 视频通话让它在线解答各种问题
从测试参数来看,GPT-4o 主要能力上基本和目前最强 OpenAI 的 GPT-4 Turbo 处于一个水平。
向左滑动查看更多内容
过去 Siri 或其他语音助手的使用体验都不够理想,本质上是因为语音助手对话要经历三个阶段:
1.
语音识别或「ASR」:音频 -> 文本,类似 Whisper;
2.
LLM 计划下一步要说什么:文本 1 -> 文本 2;
3.
语音合成或「TTS」:文本 2 -> 音频,想象 ElevenLabs 或 VALL-E。
然而我们日常的自然对话基本上却是这样的

在听和说的同时考虑下一步要说什么;

在适当的时刻插入「是的,嗯,嗯」;

预测对方讲话结束的时间,并立即接管;

自然地决定打断对方的谈话,而不会引起反感;

在听和说的同时考虑下一步要说什么;

在适当的时刻插入「是的,嗯,嗯」;

优雅地处理并打断。
此前的 AI 语言助手无法很好处理这些问题,在对话的三个阶段每一步都有较大延迟,因此体验不佳。同时会在过程中丢失很多信息,比如无法直接观察语调、多个说话者或背景噪音,也无法输出笑声、歌唱或表达情感。
当音频能直接生成音频、图像、文字、视频,整个体验将是跨越式的。
GPT-4o 就是 OpenAI 为此而训练的一个全新的模型,而要时间跨越文本、视频和音频的直接转换,这要求所有的输入和输出都由同一个神经网络处理。
而更令人惊喜的是,ChatGPT 免费用户就能使用 GPT-4o 可以体验以下功能:

体验 GPT-4 级别的智能

从模型和网络获取响应

分析数据并创建图表

聊一聊你拍的照片

上传文件以获取摘要、写作或分析帮助

使用 GPTs 和 GPT Store

通过 Memory 构建更加有帮助的体验
而当你看完 GPT-4o 下面这些演示,你的感受或许将更加复杂。
ChatGPT 版「贾维斯」,人人都有
ChatGPT 不光能说,能听,还能看,这已经不是什么新鲜事了,但「船新版本」的 ChatGPT 还是惊艳到我了。
睡觉搭子
以一个具体的生活场景为例,让 ChatGPT 讲一个关于机器人和爱的睡前故事,它几乎不用太多思考,张口就能说出一个带有情感和戏剧性的睡前故事。
甚至它还能以唱歌的形式来讲述故事,简直可以充当用户的睡眠搭子。
做题高手
又或者,在发布会现场,让其演示如何给线性方程 3X+1=4 的求解提供帮助,它能够一步步贴心地引导并给出正确答案。
当然,上述还是一些「小儿戏」,现场的编码难题才是真正的考验。不过,三下五除二的功夫,它都能轻松解决。
借助 ChatGPT 的「视觉」,它能够查看电脑屏幕上的一切,譬如与代码库交互并查看代码生成的图表,咦,不对劲?那我们以后的隐私岂不是也要被看得一清二楚了?
实时翻译
现场的观众也给 ChatGPT 提出了一些刁钻的问题。
从英语翻译到意大利语,从意大利语翻译到英语,无论怎么折腾该 AI 语音助手,它都游刃有余,看来没必要花大价钱去买翻译机了,在未来,指不定 ChatGPT 可能比你的实时翻译机还靠谱。

实时翻译(官网案例)
感知语言的情绪还只是第一步,ChatGPT 还能解读人类的的面部情绪。
在发布会现场,面对摄像头拍摄的人脸,ChatGPT 直接将其「误认为」桌子,正当大家伙以为要翻车时,原来是因为最先打开的前置摄像头瞄准了桌子。
不过,最后它还是准确描述出自拍面部的情绪,并且准确识别出脸上的「灿烂」的笑脸。

两个 GPT-4o 互动并唱歌(官网案例)
有趣的是,在发布会的尾声,发言人也不忘 Cue 了英伟达和其创始人老黄的「鼎力支持」,属实是懂人情世故的。
对话语言界面的想法具有令人难以置信的预见性。
Altman 在此前的采访中表示希望最终开发出一种类似于 AI 电影《Her》中的 AI 助理,而今天 OpenAI 发布的语音助手切实是有走进现实那味了。
OpenAI 的首席运营官 Brad Lightcap 前不久曾预测,未来我们会像人类交谈一样与 AI 聊天机器人对话,将其视为团队中的一员。
现在看来,这不仅为今天的发布会埋下了伏笔,同时也是我们未来十年生活的生动注脚。
苹果在 AI 语音助手「兜兜转转」了十三年的时间都没能走出迷宫,而 OpenAI 一夜之间就找到出口。在不久的将来,也许人手一个钢铁侠的「贾维斯」将不再是幻想。
《她》来了
虽然 Sam Altman 没在发布会上出现,但他在发布会后就发布了一篇博客,并且在 X 上发了一个词:her。
这显然在暗指那部同名的经典科幻电影《她》,这也是我观看这场发布会的演示时,脑子里最先联想的画面。
电影《她》里的萨曼莎,不只是产品,甚至比人类更懂人类,也更像人类自己 ,你真的能在和她的交流中逐渐忘记,她原来是一个 AI。
这意味着人机交互模式可能迎来图像界面后真正的革命性更新,如同 Sam Altman 在博客中表示:
新的语音(和视频)模式是我使用过的最好的计算机界面。它感觉像电影中的人工智能;而且我仍然有点惊讶它是真实的。达到人类级别的响应时间和表现力原来是一个很大的改变。
之前的 ChatGPT 让我们看到自然用户界面初露端倪:简单性高于一切:复杂性是自然用户界面的敌人。每个交互都应该是不言自明的,不需要说明手册。
但今天发布的 GPT-4o 则完全不同,它的几乎无延迟的相应、聪明、有趣、且实用,我们和计算机的交互从未真正体验过这样的自然顺畅。
这里面还藏着巨大可能性,当支持更多的个性化功能和与不同终端设备的协同后,意味着我们能够利用手机、电脑、智能眼镜等计算终端做到很多以往无法实现的事情。
AI 硬件不会再试积累,当下更令人期待的,就是如果下个月苹果 WWDC 真的官宣与 OpenAI 达成合作,那么 iPhone 的体验提升或许将比近几年任何一次发布会都大。
英伟达高级科学家 Jim Fan认为,号称史上最大更新 iOS 18 ,和 OpenAI 的合作可能会有三个层面:

放弃 Siri,OpenAI 为 iOS 提炼出一个纯粹在设备上运行的小型 GPT-4o,可选择付费升级使用云服务。

原生功能将摄像头或屏幕流输入到模型中。芯片级支持神经音视频编解码器。

与 iOS 系统级操作 API 和智能家居 API 集成。没有人使用 Siri 快捷方式,但是是时候复兴了。这可能会成为一开始就拥有十亿用户的 AI 代理产品。这对智能手机来说,就像特斯拉那样的全尺寸数据飞轮。
说到这里,也不得不心疼明天要举办发布会的 Google 一秒。



微信扫码关注该文公众号作者

来源:APPSO

相关新闻

GPT-4o深夜炸场!AI实时视频通话丝滑如人类,Plus功能免费可用,奥特曼:《她》来了GPT-4o 不再是最强!Claude 3.5 深夜发布,还免费可用 | 附体验链接苹果深夜重磅发布:整合GPT-4o、Siri全面进化;华为否认曾对柔宇科技有投资计划;小米辟谣“买SU7补贴2万”丨邦早报OpenAI 突然发布 GPT-4o mini !更快更便宜,人人免费可用,GPT-3.5 成为历史OpenAI深夜炸场,GPT-4o干翻所有语音助手!麦当劳回应使用过期食材:深表歉意;璩静离职后发声丨邦早报OpenAI深夜发布GPT-4o!跟所有公司、所有企业主都有关!微软深夜发布 50+ 重磅更新!Copilot 重新定义生产力,ChatGPT 之父压轴登场重磅!Mistral Large 2深夜发布!Llama3.1仅一天被超越,最强开源再易主GPT-4o 惊艳亮相,免费可用/Apple Music 首次发布 Best 100 专辑榜单/小米与京东达成全新战略合作深夜重磅!刚刚,“星舰”第四次试飞,成功!马斯克:巨大的成就深夜重磅!巴菲特谈了9件重要的事:将长期持有这3只股票,今年只卖1本书,如何使用2000亿元巨款……沪深交易所深夜重磅公告!新规后,IPO和再融资申请来了深夜,重磅信号!突发|飞机撞上豪华酒店 当场爆炸起火 400人深夜大逃亡!现场视频曝光...无法无天了!洛杉矶深夜骚乱:数百人纵火焚烧汽车、洗劫餐厅深夜,中美传来重磅消息!理性与感性的极限拉扯!工党或为中东难民发放永久签证!自由党警告:风险很大!大批澳洲人不敢深夜出门!黄晓明和闫妮正式官宣!Angelababy深夜发文:很想你,但终究回不去了……奥特曼深夜发动价格战,GPT-4o mini暴跌99%!清华同济校友立功,GPT-3.5退役深夜重磅! AP成绩取消后续来了! 28门AP科目将采用机考模式,作弊成为过去式!不用等Sora了!生成视频王者宝座易主!Luma效果完全碾压Sora,不用排队免费可用!别等 Sora 了!Runway 深夜发布 Gen-3 模型,演示惊艳网友,AI 视频卷出新高度新加坡大型家具展来了!可用$300气候优惠券、免费送胡姬花、还可抽$3888大奖B站视频意外捧红“油王克星”,千万网友深夜围观:好解压!
logo
联系我们隐私协议©2024 bendi.news
Bendi新闻
Bendi.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Bendi.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。