AI换脸 华女变色情片女主 嫌犯竟是求爱不成男同学
当人工智能(AI)换脸技术愈来愈发达时,不法分子也在利用这项高科技犯罪。加州一名年轻华人女子,发现自己被换脸成为色情片的女主角,背后嫌犯竟是求爱未成的男同学。受害人曾想自杀了却此生,也曾经历报警却无法获得救助的绝望境地,如今她奋起反抗,正通过自己的方式挑战残酷的现实。
根据CBS、People等多家媒体的报导,这名深受AI换脸技术伤害的华女名叫刘微风(Breeze Liu,意译)。2020年4月的一个下午,刘微风在网上发现有人发布色情视频,女主角的面孔竟是自己,她从无法相信到伤心绝望,「我感到羞辱,非常孤独。」这是深度伪造色情视频的技术噩梦,该技术利用AI将一个人的脸,放入其他人的性爱视频中,模仿真实的视觉效果。
当年24岁的刘微风深受此事打击,在接下来的10天内整整瘦了12磅,「我试图过正常的生活,但内心深处每一秒都在尖叫,我一直在想,每个街上经过的人是否都看过这段视频。」从中国移民到加州的这名女孩,因为遭遇这件事,生活发生发生翻天覆地的变化。她爬上公寓大楼屋顶,认为自己不再有任何活下去的理由,「我满脑子想的就是,还不如死了好。」
刘微风最后没有选择自杀,她拨通加州柏克莱(Berkeley)警方的电话,并举报制作色情视频的嫌犯,她怀疑是柏克莱加大的一名男同学所为。当刘微风与这名男生对峙时,她才知道,事情起因于自己曾拒绝男生求爱,对方通过这个方式打击报复,「他想羞辱我」。
但警方对于这起案件的处理态度,让当事人再次陷入孤立无援的绝望境地。刘微风回忆说,警察当时问她是否曾经卖淫、或用裸体视频换取金钱。这些问题让年轻的女孩十分震惊,三个月后,警方宣布调查结束。对于当年的处理结果,执法部门目前尚无回应。
打击接踵而至,嫌疑人从第一个成人网站上删除这段视频,之后又在数百个其他网站上分享类似帖子,刘微风最终发现800多个包含自己面孔的色情视频链接,她明白,将这些视频全部删除困难重重。面对生活的重击,刘微风最后选择反击,「除非我改变整个系统,否则正义对我来说是不可能的。」2022年,当事人用自己的积蓄创办位于旧金山的公司Alecto AI,该公司采用脸部辨识技术,帮助用户根据自己的肖像,定位深度造假视频和其他内容,并与主要平台合作将其删除。
刘微风仍在抗击网络暴力的路上继续负重行走,类似案例近几年愈来愈多,这是一个急需解决的社会问题。不少当红明星同样深受其害;校园内的一些青少年也参与相关行为,制作同学的色情视频并传播,甚至勒索当事人。借助日益先进的AI工具,深度伪造色情内容可以在几分钟内创建而成,但目前还没有相应法律可以制裁。根据相关数据,去年网上有超过2万1000个深度造假色情视频,比一年前增长460% 以上。
面对日益猖獗的网络暴力,国会两党正在共同起草立法,打击在网上分享未经同意的深度伪造色情图片、视频。该法案提出,违法者将被判处最高两年监禁,以及高达15万元的罚款,法案可能需要几个月的时间才能在参议院获得通过。
微信扫码关注该文公众号作者