Bendi新闻
>
AI 换脸骗走跨国公司近 2 亿,警惕这些新型诈骗

AI 换脸骗走跨国公司近 2 亿,警惕这些新型诈骗

新数字鸿沟
已经出现


新年新气象,除了和财神爷搞好关系,守住钱袋子也很重要。
技术落地的过程,往往是黄色内容和诈骗套路的进化史。
趁着假期还有余额,教长辈警惕 AI 新型骗局,才能实现「相亲相爱一家人」家族群的「共同富裕」。
一抓一大把的 AI 博主,比「假靳东」更能骗人
《大话西游》里说,人是人他妈生的,妖是妖他妈生的,代码产出的 AI 没有父母,但想装得有血有肉,让你误解它是人类。
最近,视频号冒出了不少「俄罗斯美女」。她们个个肤白貌美,普通话流畅但断句和咬字奇怪,声调和前后鼻音读不准。当然,考虑到她们外国人的身份,带点口音才显得自然。
她们热情,也热爱中国文化,为视频打上「俄罗斯女孩在中国」「中俄友谊」之类的标签,为观众朋友带来「家乡特产」的牛筋肠、大列巴、羊奶粉、酸黄瓜、巧克力、手工皂。
她们两弯似蹙非蹙罥烟眉,一双似喜非喜含情目,除了带货也会输出观点,相信爱情无国界,信奉平平淡淡才是真,感叹这里的繁华,想把爸妈和妹妹也接来发展。
她们可能是彼此失散多年的姐妹,叶连娜和艾琳娜就长得一模一样,IP 还都是山东的。她们聚是一团火、散是满天星,分布在五湖四海,莉娜是上海的,尼娜是安徽的,艾琳是河北的,卡佳是辽宁的,阿丽莎是福建的。
这些俄罗斯美女都是 AI,平台贴心地标注了。通过她们虚化夸张的模糊背景、没抠好的头发丝、循环的几套表情和动作、过于接地气的台词,我们也能分辨一二。
但评论区的中老年看不出来,真心希望她们留下来,「俄罗斯美女」们回复时也只挂念着自己的任务,完成了一场不动声色的软性诈骗。
被美貌所惑是人之常情,不分年龄。小红书的AI颜值博主,用时髦的、极具网感的人设实现老少通杀。「西装精英男」「白袜体育生」「纯欲女神」......乍一看,只以为是 P 图 P 过了的真人。
这时候辨别是不是 AI,看手仍然是一种方式,因为脸相对平面,容易学习,而手有三维结构,比较耗费功夫。手指数量超出无须多言,手指关节扭曲得留个心眼,非必要不露手也十分可疑。类似地,肌肉、四肢、衣服等细节也可能有着显而易见的破绽。
其余的分辨方式越来越向玄学和直觉发展:画风油腻、文案网抑云、没有生活气息、光影效果不自然、眼神透着死气,脸部过于精致完美,只有静态图片没有视频,单看一张图片不好确定,但多看几张就能发现,什么姿势都是一个表情......
小红书 AI 博主 @cyberAngel_ 本职是一名软件工程师,AI 绘画权当为爱发电的业余爱好,他不隐藏使用 AI 的事实,帖子标题注明「AI 绘画」,账号简介也写着「我只是一个没有感情的机器人」。
图片来自:小红书 @cyberAngel_
同时 @cyberAngel_ 认为,未来的 AI 绘画将越来越难以分辨真假,AI 生成和 AI 检测是互相进化的,创作者们更加清楚 AI 哪里不像真人,所以会努力让这部分「像」真人,比如 AI 产出的美少女过于完美,可以适当模糊化,加点「胶片感」。
哪怕 AI 颜值博主还没那么真,和「俄罗斯美女」大同小异的剧情已经出现,平台明明已经提示「疑似包含 AI 创作信息」,评论区仍有人留下彩虹屁,甚至追着询问衣服链接,似乎真或假的问题,最终将不可避免地让位于美丽即是正义。
等到粉丝量上来了,AI 颜值博主的变现方式可以十分多样,有的自力更生,通过广告等将流量变现,有的知识付费,卖课、卖定制模型,按 @cyberAngel_ 的话说,「新媒体有新媒体的变现方式,技术有技术的变现方式」。
真人模型.
AI「俄罗斯美女」和「颜值博主」,和之前骗中老年女性情感和钱财的「假靳东」有些相似之处,却更加可怕,也更加有想象空间。
「假靳东」没什么技术含量,和明星相关的视频和照片是下载或者打包购买的,深情的声音是用变声软件伪造的,粗糙得「一眼假」,AI 的段位更高,有时候还真的没那么好辨别。
只能说,当我们看到盘靓条顺的互联网帅哥美女时,最好不要默认是真人,也不必太真情实感,网红公司不想花钱在真人 KOL 上,观众也更加快速地消费批量的美貌和廉价的观点,多么符合互联网的传播规律。
AI 模仿你的脸,还要恐吓你的心
除了通过「颜值博主」和「俄罗斯美女」广撒网,AI 同样也能精准锁定。
或者说,AI 既能编织出温柔乡,也能改头换面当 PUA 大师。
一类常见的 AI 诈骗是,骗子伪造来电显示和熟人声音,告诉接到电话的中老年,他们的孙子孙女遇到了麻烦,要么是犯了事需要拿钱消灾,要么是身陷险境得用赎金救出。
国外报道了好几起这样的电话诈骗事件,剧情大同小异,绑架、受伤、酒驾追尾......类似的事情也发生在国内,尤其是利用「时空差」,编造留学生被绑架,从而诈骗家长。
套路本身并不新鲜,已经横行了几年,但因为技术发展,算力、样本等各方面的要求降低了,效果更逼真了,骗局更容易实施了。
AI 语音克隆界的领头羊 ElevenLabs 只需一美元和一分钟的高质量音频,让你瞬间掌握 29 种语言和多种语气,还保留自己的口音、语调和节奏。
虽然如今的 Elevenlabs 再三保证,只有你可以克隆自己的声音,并且有验证程序证明声音属于你自己,然而这是亡羊补牢,2023 年 Elevenlabs 刚推出测试版时,泰勒·斯威夫特等名人的克隆语音已经满天飞了。AI 泰勒·斯威夫特说什么,本人无权决定。
不过,对方固然可以伪造来电显示和声音,但如果当事人头脑清醒,挂断电话,重新输入手机号,主动联系到亲人,谎言往往不攻自破。
比起语音,视频通话可能更让相信「眼见为实」的中老年怀疑人生。
屏幕那端不知是人是狗的古早笑话永不过时,技术上也不难实现。比较常见的操作是,骗子通过虚拟摄像头软件和 AI 换脸功能,和对方进行视频聊天。
CCTV 采访的、为公安机关提供技术支持的一家深圳科技公司表示,进行视频聊天的实时换脸时,不管是头像还是朋友圈照片,上传图像后,特征识别只需要 30 秒左右,然后 AI 开始建模,建模完成后进行实时转换。
一对一的视频或许尚存戒心,如果一对多的「专业团队」呢?
最近,一家跨国公司香港分公司因为 AI 被骗走了 2500 万美元(约 1.8 亿人民币)。受害人是一名财务职员,其收到了英国总部「CFO」的邮件,受邀参与了一场涉及「秘密交易」的视频会议,会上不仅有「CFO」,还有几个眼熟的「同事」。
与会同事并非真的在场,骗子下载了公开视频,通过 Deepfake 伪造了真人的脸和声音,再套用到视频会议。为了避免露馅,「CFO」单方面下指令,「同事」们没有和受害人交流,并且视频很快挂断了,骗子之后通过邮件等方式继续和受害人联系。
警方示范怎么用 Deepfake 伪造多人视频会议.
虽然此事有了调查结果,也有网友怀疑是内鬼作祟而已。跨国公司的风险管控措施如何不为人知,但可以确定的是,AI 换脸还可以延伸到很多地方,从最早的色情片换头,到假冒明星在直播间带货。
所幸,AI 还没有那么完美,辨别方式依然简单可行。
假如是通过 AI 换脸视频,摄像头的原始画面在几层转换时十分消耗算力,声音和画面往往会有延时。另外,可以引导对方做些动作,比如张嘴、大幅度摇头、把手指挡在脸前来回移动等,若是 AI 换脸,「人脸」可能会出现变形和瑕疵。
除了从技术的 bug 突破重围,还有百试不爽的一招是,问些你知我知但他不知的隐私问题,或者编造谎言故意套路,看对方如何接招。
当然,技术的不足只能解一时之困,不妨战略上蔑视、战术上重视,不能觉得自己一定不会被骗,可能只是高端局还没出现。
AI 诈骗并不新,但新的数字鸿沟已经出现
2023 年被称为生成式 AI 的元年,然而技术的推广有滞后性,或许大多数普通人更能感知的是,看似并不新鲜的、但近年越发普及的技术,如何影响了日常生活。
技术是把双刃剑的道理人人明白,Elevenlabs 可以让有语言障碍的人发声,HeyGen 让霉霉对口型说出不带翻译腔的中文,妙鸭相机让人足不出户收获精修证件照,技术的光明面和阴暗面并无长短,只是客观存在罢了。
然而,对于很多中老年来说,智能手机和互联网本来就玩不明白,现在 AI 又来捣乱了。
AI 时代,文字、声音、图片和视频都有可能是假的,甚至以组合形式上场,骗子伪造的身份更加具体,诈骗也更加对症下药和真情实感,让中老年受骗的概率更高。
以魔法对抗魔法,以技术攻防技术,是个此消彼长的猫鼠游戏,中老年未必能快速消化,我们或许从诈骗的本质入手,降低中老年上当的可能。
不管技术如何发展,很多诈骗的套路万变不离其宗:窃取隐私,利用恐惧、贪欲、情绪价值编故事,冒充熟人或包装自己获取信任,图穷匕见以钱为最终目的。
在 AI 时尚教皇出圈后,一位粉丝近 1300 万的 X(原 Twitter)大 V 感叹:「我以为教皇的羽绒服是真的,没有多想。我不可能在技术的未来中幸存下来。」
对于中老年来说,眼见不等于真实、有图未必是真相的规则更难被适应。我们可以告诉他们一些简单、传统但依然有效的办法。
一类是小心驶得万年船,不轻易相信互联网的内容,不接骚扰电话,不点陌生链接,尽量不在互联网过度暴露人脸、声音、指纹等个人生物信息。
尤其接到可疑电话、短信时,不要盲目相信「一面之词」,不管对方是谁,谈到钱就多个心眼,通过多种方式验证对方身份,如果对方说家人遭遇了某事,再次回拨家人电话确认情况是否属实。
另一类是主动出击有备无患,中老年有自己偏好的媒体,家人可以将政府部门微信公众号等信源的反诈内容转发给他们。如果条件允许,也可以向中老年展示如何使用 ChatGPT 等 AI 工具。
当然,对于不懂智能手机的老人,尽量在源头解决问题,最好不要在微信、支付宝绑定银行卡,只存少量的零钱。
AI 诈骗得逞只是最后的结果,防范 AI 骗局却可以随时开始。
技术应当服务于每一个人,引路人为后来者照亮数字世界的灯塔,探明水下未知的暗礁,我们才能共同走向一个技术不被恐惧而是被合理使用的未来。

微信扫码关注该文公众号作者

来源:爱范儿

相关新闻

京东宣布:涨薪30%;香港最大AI诈骗细节曝光:英国CFO被换脸,骗走公司2亿港币;斗鱼虎牙再传合并,最新回应丨雷峰早报香港最大AI诈骗案!Deepfake换脸「英国CFO」,直接骗走公司2亿港币天工2.0 MoE大模型发布;苹果开源自动修图神器MGIE;香港公司被AI换脸骗走2亿港元丨AIGC大事日报香港公司被AI换脸骗走2亿港元;李想回应理想汽车多发年终奖;极氪回应001起火事件;京东一线客服全员平均涨薪超30%丨邦早报AI换脸诈骗,澳洲市长被冒充!东南亚杀猪盘玩出新花样,亲妈都认不出!这些套路一定要懂...炒菜机器人公司橡鹿科技再获京东近 2 亿元投资;袁进辉公司硅基流动新增两位联创,获哈勃智谱 AI 等入股丨AI情报局阿里2亿元投了一家AI教育公司,将推AI辅学机|36氪首发运载火箭研发商东方空间获近6亿元投资;AI公司ElevenLabs估值11亿美元,跻身独角兽丨投融资周报 01.20-01.268点1氪:上市公司遭电信诈骗,涉案近1亿元;全球近8亿人工资落后于通货膨胀;苹果官网大降价活动可退差价震惊!"变脸"冒充CFO,骗走两个亿!香港最大AI诈骗案细节曝光Gemini Ultra训练烧掉近2亿美元!斯坦福迄今最全AI报告发布,中国AI专利数遥遥领先警惕!中企海外遭诈骗损失近亿元!被电信诈骗近1亿!海普瑞意大利子公司实探网友吵翻!成龙新片用AI换脸重返20多岁?电影成本逾3亿,目前票房7000多万仅22.5万美元开局,AI制药界新锐如何跨越“寒冬”完成近2亿美元融资?AI助纣为虐?招聘诈骗激增118%,找个工作被骗走2千元AI助纣为虐?招聘诈骗激增118%,找个工作被骗走2千消息称软银拟投资近10亿美元强化生成式AI运算能力;Sora进一步引爆全球算力需求,A股公司加速布局丨AIGC日报全球「医疗健康」行业新增7个大额融资事件;AI医疗初创公司Abridge完成1.5亿美元融资丨2月「医疗健康」行业投融资报告让用户无痛开发AI应用,袁进辉新公司「硅基流动」获近亿元天使+轮融资|36氪首发四个月融两轮,千寻智能获 2 亿元天使轮融资;大模型公司卓世科技获亿元人民币 B+ 轮融资;小鹏机器手首次亮相丨AI情报局香港最大AI诈骗案超恐怖!光明正大转走2个亿,一周后才发现不对劲......新员工入职 5 年最少赚 2 亿元、以前挖人现在撬整个团队,AI 公司抢人大战再升级!AI 换脸项目 Deep-Live-Cam 一夜爆火:只需一张照片,变身马斯克直播
logo
联系我们隐私协议©2024 bendi.news
Bendi新闻
Bendi.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Bendi.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。