24岁中国移民女子被 AI 生成色情片女主！报警无果后，自己开发软件帮助更多受害者！

2020年4月的一个下午，当一位朋友打电话给年仅24岁的 Breeze Liu 说有人在网上发布了她的色情视频时，她知道这是假的。她说：“不，这不是真的，你弄错了！”

然而，很快她就在一个成人网站上看到了这段经过修改的视频，其中有她的脸，这让她感到十分恶心。

她说：“我很伤心！我感到非常羞辱，非常无助。”

Liu 万念俱灰地走到父母公寓楼的屋顶上，感觉自己没有任何活下去的理由。她回忆说：“我满脑子想的就是，我还不如死了好。”

不过，Liu 那天没有从屋顶上跳下去。相反，她向加州伯克利警方报警，还提供了她怀疑制作该视频的人的名字——他是两年前从加州大学伯克利分校毕业前认识的一名学生。但她很快了解到，警方几乎没有可以使用的工具来处理这个问题。

Liu 说：“他们（警方）告诉我他们无能为力。”

Liu 的警报促使她解决所谓的深度伪造（deepfake）色情的技术噩梦，该技术利用人工智能（AI）技术将另一个人的脸放入含有性的材料中以模仿真实的视频。

Liu 在加密货币领域工作了多年，现在正在开发免费使用的面部识别软件，该软件将允许受害者识别伪造和滥用内容，然后将其删除。

Liu 说：“除非我改变整个系统，否则正义对我来说是不可能的。”

Liu 于 2013 年从中国移民到美国，当时她年仅 17 岁。与许多深度造假受害者一样，她眼睁睁地看着自己的生活因虚假内容的传播而发生翻天覆地的变化。

在得知自己成为情色片女主角后，她在10天内爆瘦了 12 磅。她说：“我试图过上正常的生活，但内心深处，每一秒我都在尖叫，” “我想每个在街上经过我身边的人都看过这段视频吗？”

Liu 说，她与犯罪嫌疑人对峙后，犯罪嫌疑人最初从第一个成人网站上删除了这段视频，后来又在数百个其他网站上分享了类似的帖子。

她说，她拒绝了他的追求，而他因此想“羞辱我”。

当她向警方求助时，所发生的事情也让她感到震惊。Liu 说：“他们问我是否曾经卖淫或用裸体视频换取金钱”。Liu 还指出他们的调查在三个月后结束。 

Liu 最终发现了 800 多个包含她的深度伪造内容的链接，但由于官僚主义障碍，将它们全部删除的努力被证明是徒劳的，她说她了解到这种结果太常见了。

这一切都让 Liu 无法接受。2022 年，她用自己的积蓄创办了位于旧金山的公司 Alecto AI，该公司采用面部识别技术，帮助用户根据自己的肖像定位深度造假视频和其他内容，然后与主要平台合作将其删除。

在全面推出之前，Alecto AI 仍在等待新一轮的融资。但 Liu 的合资企业无疑为解决这一影响深远的问题提供了急需的工具。

Buffalo 大学的计算机科学家 Siwei Lyu 指出：“这种行为给受害者带来的心理和情感创伤是巨大的。”

目前，针对深度伪造色情内容的制作和传播尚无法律约束，而这些内容可以在几分钟内借助日益先进且易于获取的人工智能工具轻松创建。

Liu 坦言：“我无法控制国会或执法部门的行动，但有一件事是我们可以控制的——那就是我们自己在网络上的形象主权。我正在构建的这款软件是受害者夺回权力的第一道防线。”“我曾想过逃避、躲藏，但现在，我不会再这样做了。”