Bendi新闻
>
OpenAI打开了潘多拉的魔盒...

OpenAI打开了潘多拉的魔盒...


全文2221字,图片10张,预计阅读时间7分钟。
文章首发于“有理儿有面”(youli-youmian),欢迎大家在朋友圈和微信群转发。
公众号及其他平台转载请在后台留言。

期,美国调查新闻网站“拦截者”爆出一条大消息。

世界知名的人工智能(AI)技术公司,同时也是目前该领域的领头羊OpenAI,“悄悄地”更改了其产品的“使用政策”。

之前,他们列条款一般写明了“不允许”事项,现在改为了一段段的概括叙述加“举例”,最关键的是,在更改之后内容里,原先明文“不允许”的“军事和战争”用途,已经没了踪迹。

什么意思呢?
就是说,OpenAI原本明文写着,不允许他人将自家产品用于“军事和战争”,但自1月10日开始,已不再禁止“军事和战争”用途,就像潘多拉打开魔盒一样,后面到底能否可控,有理哥还真的有点担心。

OpenAI公司的产品中,最出名的就是2022年11月面市的ChatGPT聊天机器人程序。

这个程序,功能并不局限于聊天,实际上,除了一些相对固定的语言翻译、代码编写之外,它的“创作”能力也了得,只要人类用户给出一些关键词作为需求,它就能根据这些词,完成文案撰写、图画描绘等等,虽然初期部分内容让人一眼看上去就觉得“逆天”,比如文本里句子不通、逻辑不顺,图画中人物比例失调、肢体怪异等等,经过几次的快速迭代,现在智能化程度已经相当高了,说超出想象也不为过。
如果这样的技术用于军事目的,那么会怎么样?
AI在艺术创作上目前无法完全取代人类,但它的算力、观察力远超过人脑,其分析、对比、查找的能力与效率更是人力所不能比拟的,而且自我进化的速度也很快,功能超出想象。比如说,某人在社交平台上发了一张人在室内的照片,AI能把照片里的每一个要素都分解开来,分析那个房间布置、窗外景象、发贴信息等内容,比对庞大的数据资源,从而在极短的时间里,找到人物所在位置、时间。而以AI的效率而论,几分钟或者几秒钟内找到对方并不是什么难事。
放到军事用途上,那就是情报搜集的一把好手,甚至说能通过一张照片完成一次“斩首”作战,也是可行的。
大概正是担忧这种能力的滥用引发不可控的后果,OpenAI在之前才不允许将自己的产品用于“军事与战争”。
但是,现在他们已经放弃了这一坚持。
OpenAI公司,于2015年左右由数名科技大亨、计算机专家、投资人共同创立,原本只是非营利性的研究实验室,初创宗旨是促进和发展出友好的人工智能技术,使人类整体受益。2019年,该企业成立了营利性子公司OpenAI LP,并与微软合作,之后向营利机构转型。
这一转型,就出了情况了。

2023年11月17日,公司总裁、创始人之一的山姆·奥特曼(Samuel Harris Altman),被自家公司董事会发声明开除,理由大致是奥特曼对董事会不坦诚,而且违背了公司创立时关于推进使全人类受益的人工智能技术的“初心”。
但其公司员工却不这么认为,消息一出,770名公司员工,站出来738人联名发公开信,称如果董事会不重新聘回奥特曼,就集体跳槽去微软。
当年11月22日,OpenAI在社交平台X上宣布了奥特曼将重回OpenAI首席执行官之位,并重组新的董事会。值得一提的是,前美国财政部长劳伦斯·萨默斯(Larry Summers)也是新董事会的一员。
11月29日,奥特曼宣布自己重新担任首席执行官,而且,在公司新的董事会中,微软将有一个观察员席位(但无投票权)。
没办法,员工也要吃饭。山姆·奥特曼掌舵的OpenAI,找来了微软这样的大金主,带着公司蒸蒸日上,自然是受到欢迎。而董事会还陷在过去非营利机构的思维里,反而在员工眼中成了绊脚石。

所以,现在的OpenAI把禁止项里的“军事用途”删除掉,也不奇怪了。
赚钱嘛,不寒碜。

人工智能开发需要大笔地烧钱,OpenAI正需要经济效益来支持自己的发展,而美国军事需求大,正是OpenAI所需要的市场。再说,就算OpenAI继续端着高姿态,不挣这笔钱,但其他的AI技术公司也不会客气啊,这块市场被一旦他人抢占干净,OpenAI还怎么当行业领头羊?
虽然OpenAI在禁止项里还举例说明“禁止使用该公司技术开发破坏性的武器、破坏财产或伤害任何人”,但是,军事用途也不一定就用于直接杀伤。
除了前文笔者举例的“找人”之外,还有更多的应用。
据美国业界以及一些华尔街分析师的观点,AI技术在军事领域前景广阔,涵盖了作战指引、情报分析、无人操控旋转、日常训练等。尤其是在情报分析、虚拟战场训练、战术仿真模拟等方面,ChatGPT这类可以即时生成相关信息的AI工具,非常适用。
据日本共同社去年报道,日本防卫省12月22日发布消息称,已与美国国防部达成共识,将为了开发能为战机提供支援的AI无人机,能在战机旁伴飞并为收集信息提供帮助。
另有国外媒体消息,OpenAI的大股东——微软就有一份价值4.8亿美元的美国陆军订单,内容是将为士兵提供增强现实(AR)头显设备,全称为综合视觉增强系统(IVAS),今年已经向美军交付相关设备,进入实用测试阶段。这种头显,也就是大家在一些战争游戏中看到的那样,通过头盔内投射,实时为士兵展现战场地形、敌我双方位置、攻击预警、人员状态等等。

这钱微软都能赚,没理由OpenAI不想赚啊。
但钱也不是这么好赚的。正因为AI技术功能强大,所以引发不少科学界、政府的担忧与抵制。本届达沃斯世界经济论坛上,世界各国已经认识到,人工智能产生的虚假讯息和不实信息是巨大的危险。
毕竟,就像是那些科幻作品一样,一个具备不断学习成长能力的人工智能AI,一旦不再受人类管控,将是一个无法估量的危险。
OpenAI放弃了禁止军事战争用途的举动,将会助长了美国霸权主义,在当下日益复杂的国际形势下,对全人类而言绝不是什么好事,也与OpenAI创立的初衷背道而驰。
未来将会怎样,确实说不准,但愿AI这把双刃剑别伤了人类自己。

图片源自网络 





 


 关注公众号:

有理儿有面


理   性|   揭   秘|   探   讨


微信扫码关注该文公众号作者

来源:有理儿有面

相关新闻

Anthropic找到了打败OpenAI的方法:自己也成为OpenAIOpenAI的模型规范概述了人工智能的一些基本规则马斯克发全球最大开源模型!3140亿参数的Grok真打脸OpenAI了?程序员窃喜!卡了大模型脖子的Json输出,OpenAI终于做到了100%正确OpenAI的人才库,为何挤满了新人? |【经纬低调分享】OpenAI的搜索引擎真要来了:开启灰度测试,微软Bing加持OpenAI的搜索引擎要来了!OpenAI的AI搜索也要来了,但我们需要这么多AI搜索么OpenAI藏了1年多的技术正式公开!15秒素材克隆声音,HeyGen也在用昨晚,谷歌发布「AI 超级全家桶」,但最大的创新却被 OpenAI 狙击了OpenAI投的代码神器“叛变”了:默认使用Claude,程序员疯狂叫好:贵一倍也买「Ilya究竟看到了什么?」泄密被OpenAI解雇的前员工长文爆料:2030年超级人工智能将至第一家跟OpenAI签约用GPT的大学出现了!为啥是ASU?靠13页PPT,拿到1亿美元!OpenAI投的人形机器人公司火了OpenAI 的元老科学家们都跑光了!一个时代结束了?【今日天下0515】美国高中数学教育比国内难多了;有人现实中见过小三吗?OpenAI换掉了首席科学家;我眼中的宋博士OpenAI一夜之间革了Siri和同传的命,GPT-4o五大核心能力炸场!端到端纯视觉!OpenAI押注的人形机器人献艺拜年了比VS Code快得多!用Rust重写,支持OpenAI、Copilot 的Zed编辑器开源了OpenAI CEO资助的全民基本收入实验:得出了什么结论?有什么内在缺陷?曾经有一个投资OpenAI的机会摆在英特尔面前,但是它拒绝了微软“重造”PC!过目不忘、会说话的电脑来了,Copilot + PC问世,直接与苹果+OpenAI对线OpenAI 的 Q*没见过,一众创业公司的 Q*来了等不来OpenAI的Q*,华为诺亚探索LLM推理的秘密武器MindStar先来了
logo
联系我们隐私协议©2024 bendi.news
Bendi新闻
Bendi.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Bendi.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。