骗子利用AI克隆你家人语音 如何不上当受骗?
人工智能技术的发展给骗子带来新的诈骗花招,AI语言克隆便是其中之一,在这种诈骗中,骗子通常会用AI克隆你的家人或亲友的声音,向你发出求助,让你信以为真,当你把钱汇出去时,才恍然发现原来是骗局。
根据CBS2NY报道,美国联邦贸易委员会的数据显示,过去四年,涉及商业冒名顶替者的诈骗不断增加。去年,损失超过
7.52亿美元。
CBS2NY进行了调查,发现克隆某人的声音非常容易。
由人工智能支持的网站允许任何人克隆亲人的声音,步骤简单快捷。用
Google搜索,很快就可以找到一个人工智能网站,仅需支付五美元,就可以使用其语音克隆服务。
AI语音技术是一把双刃剑,它可以帮助失去声音的人发声,也会被利用来行骗。图为一名失去声音的女孩输入文字,AI用她的声音说出。(美联社图)
接下来只需要某人一段 30秒的音频片段,然后输入你想说的话,AI便能克隆出这个人的语音。整个过程只需二到四分钟。 骗子可以从发布到社交媒体的视频,或从语音邮件中提取你的声音,或者他们可以给你打电话并录音,让你防不胜防。 AI语音克隆是如此逼真,甚至连经验丰富的人也可能受骗上当。 据CBS2NY报道,加里·希尔霍恩 (Gary Schildhorn)是一位律师,他本人也差点成为声音克隆骗局的受害者。 某天他接到儿子的来电,说“爸爸,我遇到麻烦了,我出了事故。我想我鼻子骨折了。我撞到了一名孕妇。他们逮捕了我,我进了监狱。你需要帮助我。” 希尔霍恩说,他真的以为就是儿子。“我知道那是我的儿子。我心里毫无疑问。” 他赶紧开车去银行提取 9000美元现金,同时向儿子的妻子通报了最新情况。然后他接到儿子通过 FaceTime打来的电话。 儿子说,“爸爸,我的鼻子没骨折。我很好。你被骗了。” 由于他没有损失金钱,所以没有法律追索权。 希尔霍恩联系了执法部门,但被告知犯罪分子无法追踪,因为骗子使用一次性手机来获取加密货币。 AI骗局这么厉害,怎么防范呢? 国会众议员伊维特·克拉克(Yvette D.Clarke)代表纽约第九选区,也是美国众议院人工智能工作组的成员。她提出了一项立法,要求公司对人工智能生成的内容添加数字水印。 如果该法案通过,消费者将被警告他们正在听假的语音,如果他们受到假语音内容的伤害,他们可以提起诉讼。 克拉克说:“对于普通人来说,辨别人工智能生成的内容和真实的内容将非常困难……采取防范措施的时间很紧迫。” 一家AI合成音频的初创公司对制定法规表示支持:“非常支持引入监管,这将有助于确定数字内容的起源,包括水印。” 执法部门建议民众,您应该创建一个密码并与家人分享。在紧急情况下,代码将帮助您验证电话上的人是真还是假。 执法人员还表示,如果有人向你索要金钱或敏感信息,请暂停。 皇后区检察官凯兹说:“尊重你的感觉,相信你的直觉,相信你的判断并仔细检查。” (编译:JL)