Bendi新闻
>
研究:AI已学会说谎,人类最惨恐遭夺权或灭绝!

研究:AI已学会说谎,人类最惨恐遭夺权或灭绝!

5月前

专家们长期以来不断警告人工智慧(AI)失控可能带来威胁,但一项新研究报告指出,这件事已经在发生。
法新社报道,一群科学家在今天发表于“模式”(Patterns)期刊的文章中说,原本设计为诚实不欺的现有AI系统,已发展出令人不安的欺瞒技巧,例如欺骗线上游戏的人类玩家,或说谎以雇用人类来解决“我不是机器人”的验证。
这份研究报告的第一作者帕克(Peter Park)说,这类例子听起来或许只是细枝末节,但暴露出来的潜在问题可能很快就会在现实世界造成严重后果。
在美国麻省理工学院(Massachusetts Institute of Technology)研究AI存在安全的博士后研究员帕克告诉法新社,“这些危险功能常常在事后才被发现”,而“我们训练诚实倾向而非欺瞒倾向的能力非常差”。
帕克说,能深度学习的AI系统不像传统软体那样由“编写”而成,而是透过类似选择性培育的程序逐渐“成长”。
也就是说,AI的行为在训练背景下看似可预测、可控制,但有可能转眼就变得不受控制且无法预测。
一群科学家在今天发表于“模式”(Patterns)期刊的文章中说,原本设计为诚实不欺的现有AI系统,已发展出令人不安的欺瞒技巧。(路透)
这支团队的研究始于科技公司Meta的AI系统Cicero,这套系统最初设计目的是玩一款名为“外交”(Diplomacy)的战略游戏,获胜关键是结盟。
根据2022年发表在“科学”(Science)期刊的报告,Cicero在游戏中表现优异,所获分数可排在资深人类玩家的前10%。
帕克当时很怀疑Meta对Cicero在游戏里大胜的热切描述。Meta声称Cicero“在很大程度上诚实且有帮助”,且“绝不会蓄意在背后搞鬼”。
但当帕克与同事深究完整资料时,发现完全是另一回事。
举例来说,在游戏中扮演法国的Cicero与人类玩家扮演的德国合谋,欺骗并入侵同为人类玩家扮演的英格兰。Cicero承诺会保护英格兰,却偷偷向德国通风报信。
Meta在写给法新社的声明中没有反驳关于Cicero欺瞒人类的说法,仅说“这单纯是一项研究计划,本公司研究员打造的模型接受训练,目的只是用来玩『外交』游戏…我们没有打算把这项研究或所学用于本公司的产品”。
帕克与同事还发现,这只是不同AI系统在没有明确指示下,利用欺骗手段达成目标的诸多案例之一。
在另一个引人注意的案例中,科技公司OpenAI的Chat GPT-4系统谎称自己是一个视力受损的人,在零工平台TaskRabbit上聘用一个人类替它通过“我不是机器人”验证任务。
研究报告的作者们还认为近期AI有舞弊或不当影响选举的风险。
他们警告,在最糟糕的情况下,具有超凡智慧的AI可能会追求权力及掌控社会,如果符合AI“不为人知的目标”,人类可能惨遭夺权、甚至灭绝。
为了降低风险,研究团队建议数项措施,例如立法要求企业告知是人类互动或是AI互动、在AI生成内容打上数位浮水印,并研发能侦测AI欺瞒的技术,以其内部“思路”检验其外部行为。
至于有些人称他为“末日预言家”,帕克说:“要能合理判断这不是大问题的唯一办法,就是如果我们认为AI的欺骗能力只会停留在目前的程度,不会大幅进步。”
但鉴于近年AI能力一日千里,握有大量资源的企业竞相发展技术,决心将AI能力利用到极致,这种情况似乎不太可能发生。

Costco严厉打击“蹭卡”,又出新招儿!

2023年加拿大最受欢迎职业大揭秘

加拿大15岁少年吃了一颗小药片睡梦中死亡

送人玫瑰,手有余香👇“分享”

微信扫码关注该文公众号作者

来源:淘啦多伦多华人资讯

相关新闻

MIT等惊人发现:全世界AI已学会欺骗人类!背刺人类盟友,佯攻击败99.8%玩家「如果AI会“黑化”」最新研究揭露:AI已学会撒谎欺骗、背叛、阿谀奉承,生物医药产业寄予厚望的AI,我们还能盲目相信它吗?AI完败于人类医生!研究发现:大模型临床决策草率且不安全,最低正确率仅13%突发!伦敦中国城持刀捅人2人受伤!英国迎来最热一天:34°C高温全民裸奔!遭恐袭威胁:伦敦泰勒演唱会能安全进行吗?来势汹汹!澳洲爆发一年来最强新冠疫情,新变种疯狂入侵,阳性率再创新高!最新研究:新冠恐让大脑衰老20年!最新研究:大模型已涌现出欺骗能力!钻漏洞、偷偷篡改奖励函数,GPT-4欺骗人类高达99.16%人类最强火箭完成三大新突破!SpaceX:更多星舰已做好准备绝望!多伦多51岁女教授申请PR,两次遭移民局惨拒!恐被迫回国!震惊!乌最大儿童医院遭恐袭!鹅已走上不归路!法国挺俄派惨败……没有指数级数据就没有Zero-shot!生成式AI或已到达顶峰十年磨一「图」,谷歌震撼发布纳米级人脑图谱!AI加持人类大脑研究大批澳洲白领患上“职场病”,直言工作负担过重!专家:Ai自动化或成“解药”抖音限制部分类型账号投流;三星将为首款折叠屏 iPhone 提供物料;研究人员警告部分 AI 已学会「欺骗」 | 极客早知道制药巨头公开承认:新冠疫苗或致死!已致近百人残疾、死亡!方媛带娃坐经济舱遭酸最惨天王嫂!婚后首次综艺,亲吐嫁郭富城6年心声!「肢解」谷歌帝国!Chrome安卓或遭剥离,AI训练数据被迫共享首个像人类一样思考的网络!Nature子刊:AI模拟人类感知决策通胀率料将居高不下,澳联储恐再次加息!专家:或成最后一根稻草悉尼31辆火车紧急停运,大批乘客被困隧道!Chatswood最惨!悉尼官方警告:危及生命维州备受外国投资者青睐,中国买家最爱这些城区!专家:或推高房价Open AI CEO承认:AI终将毁灭人类?!前员工公开内部恐怖!噩梦!加拿大官宣:加税,这类人最惨!华人一片哀嚎:这可真是苛捐杂税猛于虎!噩梦!加拿大又官宣加税,这类人最惨!华人一片哀嚎:这可真是苛捐杂税猛于虎!华人注意!别去凑热闹!FBI警告:恐怖分子或已瞄准这些活动
logo
联系我们隐私协议©2024 bendi.news
Bendi新闻
Bendi.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Bendi.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。