Bendi新闻
>
牛津剑桥「投毒」AI失败9次登Nature封面,引爆学术圈激辩!AI训AI能否打破崩溃魔咒?
牛津剑桥「投毒」AI失败9次登Nature封面,引爆学术圈激辩!AI训AI能否打破崩溃魔咒?
3月前
新智元报道
新智元报道
【新智元导读】牛津剑桥的9次投毒导致模型崩溃的论文,已经遭到了诸多吐槽:这也能上Nature?学术圈则对此进行了进一步讨论,大家的观点殊途同归:合成数据被很多人视为灵丹妙药,但天下没有免费的午餐。
如何避免模型崩溃?
混合数据才是未来
合成数据可以在短期内提升评估结果,但之后你会为模型崩溃付出代价 你在训练或微调模型过程中积累了隐形的债务,而这些债务将很难偿还
统计近似误差(statistical approximation error) 功能表达误差(functional expressivity error) 功能近似误差(functional approximation error)
(1)使用真实世界数据作为种子
(2)人类专家参与
强化学习is all you need
真实数据+合成数据
微信扫码关注该文公众号作者
来源:新智元
相关新闻
AI训AI惨遭投毒9次大崩溃,牛津剑桥等惊天发现登Nature封面!每秒执行超40万亿次运算!微软推出内置GPT-4o的全新AI PC“硬刚”,苹果将会如何应对?PC市场是否将迎来换机潮?《歌手》为何因「难听」登上热搜?!这个AI是音乐人的救星「用 AI 训 AI」这事靠谱吗?大模型也追剧,靠《长相思2》火热出圈,为影视剧量身定制角色AI“钱途”几何?科技界的“AI月”即将开启!OpenAI、谷歌、微软等巨头将带来哪些颠覆性体验和期待?剑指百度!360上线「AI搜索」APP,是挑衅还是防御?点击收获霉霉旗袍写真!阿里“AI替换万物”框架火爆社区,网友:偶像不需要真人了?腾讯重拳出击后,网易“创新三消RPG爽游”登场,还用上了AI?“这图一眼就是AI!”那你能展开讲讲么?“即梦AI”上架,字节能否在视频大模型上赶超快手?CS Ranking「AI最强」美本排名!MIT豪掷10亿,竟没打赢“保底”?史上首届“AI选美”出现,还让AI做评委?!评选结果迟迟没出来,网友:乱套了...一次曝 9 个大模型,「字节 AI」这一年都在做什么?提前两个月“抢跑”!谷歌Pixel发布会成AI“秀场”,安卓手机未来集体“上车”Gemini,苹果慌不慌?“她”来了!GPT-4o让AI陪伴创业公司无路可走?前谷歌CEO:AI崛起得靠“卷”和“抄”?朱啸虎三次投资的AI公司,引前员工围攻声讨;中国已有近8万家AI公司消失! | Q资讯ChatGPT如何「思考」?心理学和神经科学破解AI大模型,Nature发文“评论罗伯特”在微博火出圈,AI是怎么成为评论区网红的?AI进军建筑业,能否解决“用工荒”?本届硅谷“AI月”巨头炫技不断,“绝对震撼”的苹果WWDC,我们可以期待什么?!大老板总念不对Prompt?一网打尽那些拗口又难懂的“AI黑话”|《AI黑话辞典》来了!亚马逊“AI零售店”背后藏着1000个印度人!无人零售发展遭遇哪些挑战?10大AI功能“剧透”,苹果开发者大会还有“惊喜”吗?22亿台设备能否撑起其在AI时代的未来?