Bendi新闻
>
OpenAI将推出新的AI工具,旨在防止美国大选期间虚假信息传播

OpenAI将推出新的AI工具,旨在防止美国大选期间虚假信息传播

 夕小瑶科技说 原创
 作者 | 松果、王二狗

2024 年是美国总统的大选年,然而每到大选之时,虚假信息泛滥等问题一直都很严重。美国一项民意调查发现,近60%的成年人认为人工智能工具将在大选中增加虚假和误导性信息的传播。

鉴于以上背景,OpenAI 今日发布了一篇博客,表示为应对2024年美国大选,保证平台安全工作做出了一些举措,包括:

  • 防止deepfakes等AI滥用;
  • 提供AI生成内容的透明度;
  • 改善对权威投票信息的获取;

防止deepfakes等AI滥用行为

OpenAI表示致力于预测和防止AI滥用行为(例如使用deepfakes虚假传播或冒充候选人的聊天机器人。)

具体有以下一些措施:

  • 对DALL·E 设有防护措施,可以拒绝要求生成真人(包括候选人)图像的请求;

  • 不允许人们构建用于政治竞选和游说的应用程序;

  • 不允许创建 阻止人们正当参与民主进程的应用程序;

  • 不允许开发者创建冒充真人(例如候选人)或机构(例如地方政府)的聊天机器人;

  • 用户可以借助GPTs向OpenAI报告潜在的违规行为;

提供AI生成内容的透明度

OpenAI将为提供AI生成内容的透明度做出以下举措:

将在今年年初为 DALL·E 3 生成的图像实施内容来源和真实性联盟的数字凭证(一种使用密码学对内容来源详细信息进行编码的方法)。

正在尝试构建一种用于“检测 DALL·E 生成的图像来源的分类器”新工具。即使图像经过了常见类型的修改,我们的内部测试也能做出很好的分类。我们计划很快将其提供给我们的第一组测试人员(包括记者、平台和研究人员)以获取反馈。

ChatGPT将越来越多地与现有信息源集成,例如,用户将开始访问包括归属和链的全球实时新闻报道。信息来源的透明度和新闻来源的平衡可以帮助选民更好地评估信息并自行决定他们可以信任什么。

改善对权威投票信息的获取

为改善对权威投票信息的获取,OpenAI表示当用户被问及某些与选举程序相关的问题(例如在哪里投票)时,ChatGPT 会将用户引导至美国投票信息权威网站 CanIVote.org

人工智能将使美国大选变得“一团糟”吗?

艾伦人工智能研究所的研究员Nathan Lambert表示,生成式AI将使2024年的美国选举变得“一团糟”——无论是来自聊天机器人还是deep fakes。而与此同时,政府也将减缓AI的监管工作。

Nathan Lambert透露,鉴于今年是选举年,他不认为美国会在今年出台人工智能监管。他认为美国大选将是人工智能发展平台中最大的决定因素,可以看出不同的候选人采取什么立场,人们如何滥用人工智能产品,以及这种归因是如何给出的,媒体是如何处理的。

随着人们使用ChatGPT和DALL-E等工具为选举机器创建内容,无论人们是否将这种使用归因于竞选活动、糟糕的演员或OpenAI等公司,都随之而来的可能会造成一片混乱。

比如尽管距离2024年美国总统大选还有半年多,但AI在美国政治竞选中的使用已经发出了“危险的信号”。例如,美国广播公司(ABC News)最近的一篇新闻报道中强调了佛罗里达州州长Ron DeSantis在23年夏季的竞选活动,利用AI合成图像在社交平台发布了前总统特朗普和前卫生官员Anthony Stephen Fauci博士亲密拥抱的虚假图像和音频。

在多伦多市长选举中,候选人Anthony Furey用AI生成的图像作为竞选材料,其中一幅图像展示了一条城市街道,街道两旁的人似乎是在建筑物旁露营的流浪者。

最后,很明显看得出来,OpenAI 正在减少虚假信息传播方面做出努力,至于会不会真的带来实际改善,让我们拭目以待吧!

参考链接:https://www.theverge.com/2024/1/15/24039333/openai-chatgpt-dalle-ai-2024-election-misinformation-plan

微信扫码关注该文公众号作者

来源:夕小瑶科技说

相关新闻

扎克伯格称「美国在AI领域领先中国数年」不现实;OpenAI今年可能亏损50亿美元;苹果2026将推出折叠手机 | 极客早知道OpenAI将推出新工具,能识别由DALL-E 3创建的图像;软银正在洽谈收购英国AI芯片公司Graphcore丨AIGC日报OpenAI 推出 AI 图片检测工具,识别准确率高达 98%,还在研发 AI 音频水印AI早知道|OpenAI推出新的图像检测分类器;Hugging Face开源机器人代码库AI早知道|OpenAI将推出基于GPTs使用量的分成机制;X AI 发布Grok-1.5“爱因斯坦”亲自授课,香港科技大学推出“AI 讲师”;消息称OpenAI将推出多模态人工智能数字助理丨AIGC日报法律翻译 | 洛伦佐案聚焦:虚假信息传播者的法律责任何在?OpenAI开发新的高准确率AI生成检测工具 但不敢发布英伟达中国特供芯片遇冷:阿里腾讯看不上;苹果或6月发布生成式AI工具;OpenAI CEO奥特曼与男友在夏威夷秘密结婚丨AI周报OpenAI推出在线商店GPT Store;百川智能发布角色大模型;王慧文参投老友AI公司|AIGC周观察第三十期面临资金短缺的Stability AI获得新投资,任命新CEO;OpenAI首席技术官:GPT-5将在一年半后发布丨AIGC日报AI早知道|Anthropic推出Claude移动端App;OpenAI或将发布 ChatGPT 版搜索引擎李彦宏内部评璩静风波;美国拟限制“开源 AI 大模型出口”;OpenAI 人工智能搜索产品有望于下周一推出 | AI 周报OpenAI创始人:目前的首要任务是推出新模型;三星发布搭载谷歌AI工具的Galaxy S24智能手机丨AIGC日报OpenAI在东京开设首个亚洲办事处;古尔曼:苹果iOS 18的首批AI功能将完全运行于设备端丨AIGC日报OpenAI被曝在研两款Agent;苹果已收购32家AI公司;马斯克将资助AI破译罗马古卷川普和马斯克对谈:两大虚假信息传播者谈了什么OpenAI推出新AI搜索,老伙计微软也默默更新了Bing速看!发烧、咳嗽、红眼睛!和新冠类似!这种病毒或将在新西兰传播!OpenAI或将在5月9日发布ChatGPT版搜索引擎;中文大模型最新排名出炉,腾讯混元位居前三丨AIGC日报下一个“棱镜门”?——OpenAI或将成为美国情报部门帮凶美国将对微软、OpenAI和英伟达展开反垄断调查苹果加紧与OpenAI谈判,在iOS18加入AI功能/小米高管否认雷军被李想锁车里/「中国版Sora」发布OpenAI有望在今年夏季推出GPT-5;英伟达推出更强GPU芯片;马斯克宣布正式开源Grok-1|AIGC周观察第三十七期
logo
联系我们隐私协议©2024 bendi.news
Bendi新闻
Bendi.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Bendi.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。