AI虚假信息流窜，扰乱“2024全球大选年”

8月前

在人工智能（AI）技术飞速发展下，全球范围内正面临“选举误导信息”的威胁。任何拥有智能手机和不怀好意的人都能够轻松创建虚假但令人信服的信息，其目的是为了欺骗选民。

与几年前相比，现在有了巨大的进步。以前，制作假照片、视频或音频剪辑需要庞大的团队、大量时间、高超的技术技能和巨额金钱投入。但是现在，借助像谷歌和OpenAI这类AI公司提供的免费或低成本的生成性AI软件，任何人只需简单的文本提示就能制作出高质量的深度虚假内容（deepfakes）。

专家警告称，“AI虚假内容”在即将到来的选举中，将造成更严重的影响。

为了防止选民被AI误导，美国联邦通信委员会（FCC）已禁止使用AI生成的自动拨号电话。一些主要的科技公司已签署协议，以防止AI被用于干扰民主选举。达沃斯论坛的一份报告指出，由AI驱动的误导信息是全球近期最大的威胁。随着众多国家的选民参与投票，由AI驱动的误导性信息和虚假信息正逐渐成为一个风险。

在欧洲和亚洲，与选举相关的一系列深度伪造视频已在社交媒体上流传数月，这是对即将进行选举的50多个国家的警示。

随着美国总统竞选的竞争加剧，FBI局长克里斯托弗·雷最近警告说，生成式AI使“外国对手更容易对竞选造成恶意影响”。使用深度伪造技术，候选人的形象可以被损害或美化。选民可能会被引导支持或反对某个候选人，甚至可能完全拒绝参与投票。但专家表示，对选举的最大威胁可能是大量的“AI虚假内容”会侵蚀公众对所见所闻信息的信任。

以下是最近一些利用AI技术，伪造“虚假内容”事件的例子：

摩尔多瓦的总统被虚假地描绘为支持与其政治立场相反的亲俄政党。
斯洛伐克自由党领导人被虚假地描绘在讨论与选举舞弊相关的话题以及提高啤酒价格。
孟加拉国的一个反对派议员被虚假地描绘为穿着比基尼，这与该国的保守穆斯林社会观念不符。

由于AI技术的新颖和复杂性，很难追踪到谁是AI深度伪造事件的幕后人员。专家表示，政府和相关公司尚未能够阻止这股造假洪流，短期内也很可能无法快速地解决这个问题。

一些“AI虚假内容”内容，旨在破坏候选人的声誉和信任度。

在摩尔多瓦，这个与乌克兰接壤的东欧国家，总统Maia Sandu经常成为虚假信息的目标。在“地方选举”之前，流传了一个AI深度伪造视频中，她被描绘为亲俄政党，并声称计划辞职。

摩尔多瓦的官员们认为，俄罗斯政府是这些活动的幕后黑手。随着今年总统选举日临近，这些虚假视频的目的是破坏选民对候选人和机构的信任，让选民对她的忠诚度产生怀疑。

在斯洛伐克选举前几天，一个虚假的音频片段广泛流传于社交媒体，音频中，自由党领导人谈论提高啤酒价格和操纵选票。选民可能会被这种欺骗所迷惑，因为人们“更习惯于用眼睛，而不是耳朵来判断”。

在美国，冒充美国总统乔·拜登的自动电话敦促新罕布什尔州的选民在1月初选中放弃投票。后来追踪到这些电话的来源是一名政治顾问，他说是想试图宣传“AI虚假内容”的危险性。

一些政治竞选活动正在使用生成式AI来增强他们候选人的形象。

在印度尼西亚，Prabowo Subianto的竞选团队使用了一款手机应用程序，旨在与印度尼西亚广大支持者建立更紧密的联系。这款应用程序允许选民上传自己的照片，然后使用人工智能技术生成与Prabowo Subianto相关的图像。这种做法可能用来增加选民对候选人的认同感，并加强选民与候选人之间的联系。

随着各种类型的“AI虚假内容”越来越多，全球各地的当局正在努力制定防范措施。

欧盟已要求社交媒体平台减少“误导信息”或“选举操纵信息”的传播。从明年开始，他们将要求对“AI虚假内容”添加特殊标签，但对于即将到来的6月欧盟议会选举来说，已经为时过晚。然而相比之下，全球其他地区的进展要慢得多。

最大的科技公司自愿签署了一项协议，防止AI工具干扰选举。比如，拥有Instagram和Facebook的公司表示，将开始为平台上出现的“AI虚假内容”添加标签。

然而，在Telegram等应用程序上，“AI虚假内容”更难以控制。Telegram没有签署这个协议，其采用加密聊天使得信息更加难以监控。

尽管主要的生成性AI服务已经制定了规则来限制其在政治上误导性的使用，但专家表示，仍存在方法可以绕过这些限制，从而使得政治误导信息仍然可能通过AI服务传播。

即使没有恶意，AI的使用也可能带来问题。许多受欢迎的AI聊天机器人仍然会输出错误和误导性信息，威胁到选民的投票权。

软件并非唯一的威胁。

候选人也可能试图欺骗选民，声称描绘他们不利的真实事件是由AI制造的。

“这是一个充满怀疑的世界，每个人都可以选择相信什么，然而，这也给民主制度带来了巨大挑战”弗吉尼亚州阿灵顿的国际选举系统基金会的研究员Lisa Reppell说。

总结：

在选举中，AI技术可以产生具有误导性的信息：

生成逼真的假新闻和内容：AI算法能够自动生成逼真的新闻文章、评论和社交媒体帖子，这些内容可能会误导公众，影响他们对候选人、政策和问题的看法。
创建深度伪造视频：利用AI技术，可以生成看起来非常真实的假视频，其中包含假候选人的演讲、虚假的新闻报道或其他误导性内容，以操纵公众舆论。
微观目标定向宣传： AI算法可以分析和理解大量的个人数据，从而能够精确地针对特定的选民群体进行定制的误导性信息宣传，以满足他们的偏见、恐惧和信仰。这种定向宣传能够更有效地影响选民的决策和投票行为。

应对AI虚假信息，目前面对的挑战：

技术检测的困难：由于AI生成内容的质量高，技术先进，传统的检测工具很难准确地识别和区分真实和操纵的内容。
公众教育的重要性：公众需要接受教育和提醒，了解AI生成的误导性信息的存在和风险，以及如何识别和避免受到这些信息的影响。
法律和政策的不足：当前的法律和政策可能不足以有效地制止和惩罚利用AI进行选举欺骗的行为，需要进行更新和完善。

AI生成的误导性信息，在政治活动和公众话语中构成了重大威胁，特别是在2024年选举年。为了应对这一问题，保障民主制度的信任和诚信，需要有效的检测工具、公众意识宣传活动、监管措施和媒体素养倡议。这需要政府、科技公司、教育者和公民社会的共同努力，以应对这一挑战，维护民主制度的信任和稳定。

微信扫码关注该文公众号作者

来源：另类投资知识

AI虚假信息流窜，扰乱“2024全球大选年”

相关新闻