Bendi新闻
>
数百万苹果、AMD和高通GPU被发现漏洞:或暴露AI大模型数据!
数百万苹果、AMD和高通GPU被发现漏洞:或暴露AI大模型数据!
▲研究人员测试时在一些设备上发现LeftoverLocals漏洞
▲使用LeftoverLocals实现对交互式大语言模型聊天对话的攻击。大语言模型用户(左)查询大语言模型,攻击者(右)可以侦听大语言模型响应。
▲侦听器和写入器交互过程,以及如果没有清除本地内存,侦听器是如何观察写入器的值的。
苹果、高通和AMD都证实了它们受到影响。截至Trail of Bits发文,其现状如下:
▲PoC利用的步骤,攻击者进程可以发现数据,以高保真度监听另一个用户的交互式大语言模型对话
▲LeftoverLocals logo:你的机器学习模型留下了哪些剩余数据供其他用户窃取?
鉴于GPU的多样性及其在实现AI应用方面的关键作用,这些设备及其生态系统需要:1)一个详细的威胁模型,考虑到GPU上处理的各类数据以及这些数据可能如何被破坏;2)探索GPU执行堆栈,以确定应在何处以及如何指定和实现GPU安全属性;3)重要的测试和审计,以加强GPU生态系统。
研究人员还警告说,随着GPU虚拟化在公共云基础设施中变得越来越普遍,以及越来越多的AI应用程序从本地实施转向在共享云环境中运行,GPU内存安全问题和漏洞将变得更加严重。如果不对GPU内存隐私进行重大改革,这些转换可能会为攻击者创造肥沃的土壤,让他们在一次攻击中轻松从众多目标中获取大量数据。
博客原文:
微信扫码关注该文公众号作者
来源:芯东西
相关新闻
苹果、AMD和高通GPU被爆存在漏洞!只需十行代码即可窃取数据,数百万台苹果设备或将受到影响乔布斯看了得哭!与小米、华为的AI 大模型应用打擂台,苹果盖不住的“安卓味儿”都上了热搜最新研究:大模型已涌现出欺骗能力!钻漏洞、偷偷篡改奖励函数,GPT-4欺骗人类高达99.16%苹果一次性开源了8个大模型! 包含模型权重、训练日志和设置,OpenELM全面开源美国「开源 AI 大模型」出口限制法案:43票赞成、3票反对!第一轮通过!惨!Rabbit R1被持续扒皮:AI风口一夜转型,NFT充值用户欲哭无泪,动作大模型也是套壳的中国生成式AI大会再揭晓15位嘉宾!大模型及应用技术大咖、算力专家和青年学者都来了今日Arxiv最热NLP大模型论文:MIT推出新方法,大幅提升LLMs的连贯性、准确性和可更新性!套壳丑闻让斯坦福AI Lab主任怒了!抄袭团队2人甩锅1人失踪、前科经历被扒,网友:重新认识中国开源模型中央督察组暗访,发现小江豚在油污中拼命挣扎!当地官员称“只是条大青鱼”,被纠正后改口:“可能是黑鱼或水獭”苹果或停止升级Mac起步内存,盒马会员恢复开通,特斯拉再次在美被调查,小米高管否认雷军被李想锁车里,这就是今天的其他大新闻!李飞飞团队重磅报告解读AI十大趋势:中国AI专利数全球第一,大模型训练狂烧钱,医学领域AI应用突出 | 大模界打破奥数天花板!DeepMind最新AI数学大模型,能以人类金牌水平解决几何题OpenAI否认加入的AI搜索已是一片红海!Stack Overflow 数据用于 AI 训练再次引发争议!| 大模型一周大事教程来了!3分钟教你搭建:AI大模型前端界面太赞了!我无意间发现的一本AI大模型PDF,免费下载!终局之战!OpenAI Sora大佬专访:AI视频模型仍处在GPT-1时代ICLR 2024 | 高分工作!Uni3D:3D基础大模型,刷新多个SOTA!谷歌狂喜:JAX性能超越Pytorch、TensorFlow!或成GPU推理训练最快选择蜜月期结束,邹至蕙支持率大幅下跌!多伦多3大问题:住房、治安和公交纽约男偷了老板大笔钱!担心被发现,把他杀死电锯肢解:斩首砍下双臂ICML2024高分论文!大模型计算效率暴涨至200%,来自中国AI公司AI Trust资讯 | 492项!我国大模型加速落地:第六批深度合成服务算法备案信息公布谷歌放大招,AI搜索引擎来了,发布最强AI模型!发布会现场:总共提了120次AI、视频模型登场......