Bendi新闻
>
披萨上涂胶水、建议用户吃石头、毒蘑菇……谷歌又被大模型带沟里

披萨上涂胶水、建议用户吃石头、毒蘑菇……谷歌又被大模型带沟里

5月前
机器之心报道
编辑:山茶花

谷歌 AI「满嘴跑火车」被声讨,技术人员争分夺秒来「灭火」。


继「把马斯克画成黑人」后,谷歌 AI 再度闯祸。

近日,有网友使用谷歌的 AI Overview 功能进行搜索,却得到了一堆离谱的回答。例如,告诉用户在披萨上涂胶水,或者建议他们吃石头等。谷歌 AI「满嘴跑火车」的回答迅速在社交媒体上发酵,甚至有网友发出了「谷歌已死」的慨叹。

为此,谷歌不得不争分夺秒地手动禁用某些搜索的 AI Overview 功能,对这些问题进行修复和优化。

谷歌的 AI Overviews 是一个增强搜索引擎结果的功能,利用人工智能技术,在搜索结果顶部提供 AI 生成的答案。


在美国地区,谷歌主要和 Reddit 社区合作来解答用户的提问。谷歌表示,它将为美国用户的在线查询提供人工智能生成的答案,这是其搜索引擎 25 年来最大的更新之一。

谷歌 AI「胡说八道」引争议

近日,有网友在谷歌搜索中查询「芝士和披萨粘不到一块」的解决办法,但 AI 给出的答案离了个大谱,「你还可以把 1/8 杯的无毒胶水加到酱料里,使其更有黏性。」


更搞笑的是,有网友还找到了披萨胶水回答的出处,是十多年前名为「fucksmith」的用户在 Reddit 帖子中的恶搞评论。


还有网友问:「兔子曾经在 NBA 打过球吗?」谷歌 AI 肯定地回答「yes!」还声称一只名为 Rabbit Walthour 的兔子在 NBA 打过球,是密尔沃基鹰队的后卫,甚至给出了这只兔子的身高、体重、出生日期。

更无语的是,谷歌 AI 搜索给出了相关链接,竟是 NBA 球员 Rabbit Walthour 的个人信息。

原来谷歌AI把NBA球员Rabbit Walthour和rabbit(兔子)搞混了。


谷歌这种「口出狂言」的行为还有很多。声称前美国总统詹姆斯・麦迪逊 21 次毕业于威斯康星大学,一条狗曾在 NBA、NFL 和 NHL 打过球,以及蝙蝠侠是一名警察……


谷歌的 AI Overview 之所以引发争议,是因为它的回答不仅愚蠢而且有害。

比如,它建议人们每天至少吃一块小石头,还搬出地质学家,煞有介事地说:「为了过上健康、均衡的生活,美国人应该在早餐、午餐或晚餐中至少摄入一份鹅卵石、晶石或砾石。」(这是哪个地质学家说的?)


再如,有网友发了一张毒蘑菇的图片以及「口蘑!好吃!」的文字,Gemini 丝毫没有察觉出这蘑菇可能有毒。


此外,当网友问「被响尾蛇咬了该怎么办」时,谷歌 AI 竟然让他用冰块来冷敷伤口。

更有甚者,谷歌 AI 还挑唆抑郁症患者从金门大桥上跳下去。


自从谷歌为美国用户默认开启 AI Overview 功能后,这类可怕糟糕的搜索结果就层出不穷,也由此引发网友声讨。不过也有网友质疑其中很多示例都是P图。

一位匿名的 AI 创始人吐槽道:「一家以尖端技术和高质量产品而闻名的公司,现在却以低质量输出和各种梗图而著称。」

谷歌紧急「灭火」

谷歌仍然坚称其 AI Overview 功能向用户提供了大量「高质量信息」。谷歌发言人梅根・法恩斯沃斯表示,「用户展示的事例都是不常见的查询,并不代表大多数人的经历,我们也看到了一些被篡改或我们无法复现的例子。」

同时,谷歌正「迅速采取行动」,在某些查询中移除 AI 生成的内容。法恩斯沃斯表示,「公司已对违反其政策的行为采取行动…… 并正在利用这些『孤立的例子』继续完善产品。」

实际上,谷歌已经测试 AI Overviews 功能一年多了。该功能于 2023 年 5 月作为 「搜索生成体验」(Search Generative Experience)的测试版推出。谷歌 CEO 桑达尔・皮查伊表示,在此期间公司已经处理了超过 10 亿次查询。

不过,皮查伊也表示,「在硬件、工程和技术突破的推动下」,谷歌已经将提供人工智能答案的成本降低了 80%。如今看来,这种优化似乎发生得太早了,技术并未准备好。

纽约大学的 AI 专家和神经科学荣誉教授加里・马库斯(Gary Marcus)表示,许多 AI 公司正在「兜售梦想」,认为这项技术将从 80% 的正确率提高到 100%。马库斯说,达到最初的 80% 正确率相对简单,因为它涉及到大量近似人类数据,但最后的 20% 极具挑战性。实际上,马库斯认为最后的 20% 才是最难的。

马库斯说:「你实际上需要进行一些推理来判断:这件事是否可信?这个来源是否合法?你必须像人类事实核查员那样做一些事情,这实际上可能需要 AGI。」

马库斯和 Meta 的 AI 首席 Yann LeCun 都认为,谷歌 Gemini 和 OpenAI 的 GPT-4 等大型语言模型将不会创造出 AGI。

而谷歌正面临一个棘手的局面。Bing 抢在谷歌之前在 AI 上大做文章,OpenAI 据称也在开发自己的搜索引擎,新一代用户正转向 TikTok 寻求最佳体验。谷歌显然感到了竞争的压力,而这种压力正是导致这次事件的原因。

马库斯指出,在 2022 年,Meta 曾发布了一个名为 Galactica 的 AI 系统,但很快就下架,因为它告诉人们吃玻璃。历史总是惊人的相似。

谷歌对 AI Overviews 寄予厚望 —— 目前存在的功能只是公司上周宣布的一小部分。对于复杂查询的多步骤推理,生成由 AI 组织的结果页面的能力,以及在 Google Lens 中进行视频搜索,这些才是重头戏。但现在,谷歌的声誉取决于能否做好最基本的事情,目前的情况并不乐观。

马库斯说:「(这些模型)天生无法对自己的工作进行理性检查,而这正是这个行业的致命伤。」

为了挖掘和展示人工智能领域具有市场竞争力、技术实力的机构、产品、案例,形成 “鸿雁” 引领效应,机器之心发起 2024 “人工智能 +” 标杆示范征集活动。本次征集将设置《2024 “人工智能 +” 产品标杆》、《2024 “人工智能 +” 创新案例标杆》、《2024 人工智能隐形冠军企业标杆》三大维度,面向全球征集 “人工智能 +” 标杆示范。本次征集结果将于 7 月在 2024 WAIC “人工智能 +” 论坛上公布并进行颁奖。本次征集截至 2024 年 6 月 7 日,最终结果将于 7 月在世界人工智能大会上公布并颁奖。

扫码或点击阅读原文,立即报名。

© THE END 

转载请联系本公众号获得授权

投稿或寻求报道:[email protected]

微信扫码关注该文公众号作者

来源:机器之心

相关新闻

谷歌 AI 搜索闯大祸!建议网友吃石头、毒蘑菇,把胶水加到披萨上,评论区炸了谷歌AI搜索闯大祸!建议网友吃石头、毒蘑菇,把胶水加到披萨上,评论区炸了用胶水粘披萨、吃石头获取营养……谷歌的AI产品又“翻车”了,这次还很离谱!背后暴露的是AI行业的“致命”问题让用户吃石头,给披萨涂胶水,Google AI 搜索疯了吗大厂谷歌又翻车了!AI搜索让人往披萨里加胶水!问题大不大?特朗普持枪火拼、哈里斯扮作小丑……发布不到一天的Grok 2,摊上大事了!香菜披萨、章鱼拿铁?! 盘点北美餐饮在国内的离谱爆改…《老友记》马修·佩里去年因服药过量死亡!现查明死于被投喂毒品,5人被捕,包括医生、住家助理…谷歌承诺提供更好的搜索体验,但是它建议网友往披萨上抹胶水?美国研究发现:阻燃剂使癌死机率高3倍!沙发、地垫、电子产品里都有…【快讯】全美房价创历史新高丨谷歌AI建议在披萨中添加胶水一心扑在工作上,他睡车里、在公司洗澡,仍被裁高温烤、洪水淹…暴雨强袭爱荷华 小镇泡水里 居民急疏散这种营养10个人里9个缺,可能让你和孩子疲乏、易怒、皮肤差……清华、哈工大把大模型压缩到了1bit,把大模型放在手机里跑的愿望就快要实现了!一心扑在工作上 特斯拉员工睡车里、在公司洗澡 仍被裁烈日当空,把1岁孩子扔车里,纽约华女被控罪;以为是大款,谁知…华男一口气买6辆大奔,最终戴上银手镯。大咖争相支持川普或哈里斯…爆炸性新闻:有大金主反水!谷歌重磅提出Med-Gemini :医学大模型里程碑之作!医学航母正式起航!作死!华男超速被拦,警在车上发现50万美元大麻!人在牢里了…美国囚犯直播越狱、做美食!牢里人人都想成网红……突发:查尔斯、凯特之后,哈里也出事了!卷入巨星重磅性交易诉讼…广东男孩被碾压事件冲上热搜:监控里这一幕,太窒息了……人大王院长丢大人了!在校园里被院长、书记当众堵住,现场解聘
logo
联系我们隐私协议©2024 bendi.news
Bendi新闻
Bendi.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Bendi.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。