Bendi新闻
>
Science 重磅!旗下期刊允许论文使用 AI 写作,国内却再发严格禁令

Science 重磅!旗下期刊允许论文使用 AI 写作,国内却再发严格禁令

7月前

本文经授权转载自生物学霸(ID: shengwuxueba)


就在前不久,《科学》(Science)系列期刊抛出一枚重磅炸弹:规定允许在论文的“方法”章节说明后,正当地采用生成式人工智能(AI)和大型语言模型制作插图、撰写论文内容。这意味着 Science 及旗下子刊颠覆了先前于 2023 年 1 月所设定的铁律 —— 严禁任何 AI 工具生成的内容包括文本、数字和图像出现在论文中,同时将 AI 程序列入作者行列亦被视为篡改图像和抄袭等严重学术不正当行为。


图源:science 官网


AI 写作从“学术不端”摇身一变,成为合法工具,实在让科研人费解。不过从全球范围内来看,这类纠结的“禁令”,还不少出现。


去年开始,各大期刊也陆续发布了对 AI 写作的要求,但还是以保守态度为主。


图源:丁香园


态度各异,科研人员面临“规则迷宫”


而就在 Science 改变立场之后,中华医学杂志社却再次重申了严格的 GenAI(也就是常见的 AI)使用规范:明确指出 GenAI 由于不具备基本的作者属性和责任承担能力,不能作为论文署名作者。


图源:中华医学杂志社


一个顶刊封杀 AI 又解封,随即国内权威期刊再次下发 AI 禁令,科研人无一不迷糊。


其实,“反复横跳”的规则变化,可能离不开最近两年频繁被曝光的“AI 论文乌龙事件”。无论是图像描绘还是文字撰写,AI 已然悄无声息地渗透进论文创作的各个环节。


信任危机,AI 论文频出乌龙遭撤稿


早在去年 8 月,就出现了“忘记删除 AI 提示语”的可笑论文问题。一篇收录于《Physica Scripta》期刊上的论文,提出了一种复杂数学方程的全新解决方案。著名科学打假人 Guillaume Cabanac 在论文的第三页,发现了一处可疑的短语 Regenerate Response,这是一个常见的 AI 生成器提示语。


图源:论文截图


而这一次乌龙事件,并没有引起科研人员的警惕,反而让 AI 论文愈演愈烈。


2024 年刚开始不久,国内便也传出科研圈“AI 笑话”。2  月  17  日,国内一研究团队在 Surfaces and Interfaces 发表论文,而在介绍部分,开篇第一句就让常用 AI 的科研人倍感熟悉:“当然,以下是您的主题的一个备选引言......”


图源:论文截图


随即,今年 3 月,Radiology Case Reports 在线发表的一篇病例报告与文献回顾的文章也明显地暴露了 AI 工具的痕迹:“总之,处理双侧医源性 …… 我很抱歉,由于我是个 AI 语言模型,我没有获取实时信息或特定病人资料的能力”。


图源:论文截图


以上低级失误,真实让人哭笑不得。AI 写论文本就是一个敏感的话题,即使各大期刊禁止后又解封,但是在文中没有明确“声明”的前提下,直接粘贴上 AI 的回复,足以让一个科研人在圈内“名誉扫地”。


除了这种谜底写在谜面儿上的乌龙事件,今年还爆出了因 AI 绘画不专业,出现“4 个睾丸小鼠”插图的国内基础研究。该研究成为 3 天就被撤稿的超短命论文。文章中的配图由人工智能(AI)生成,除了刚提到的畸形老鼠,还有“充满拼写错误的信号通路图”、“形似香肠番茄披萨的特征描述图”


图源:论文截图


不过种种论文事件,也让众多明眼人,产生疑问:配有如此“奇葩”的图像,这篇文章为何能够成功发表在 5.5 分期刊上呢?此外,这么多直接标记了 AI 回复语的论文,为什么还能“逃过” 专业审稿人的眼睛,得以顺利发表呢?


AI 论文真伪难辨?学术公平如何判定


AI 论文铺天盖地,网友纷纷吃瓜吐槽。一篇丁香园推文下面的网友回复,点出了 AI 论文事件背后的一个巨大的问题 —— 除了这些明显的例子外,是否真的有工具让审稿人检测这些文章、图片来源于 AI,以确保学术的公平公正以及科学性?


图源:丁香园公众号


答案是:有点困难。


最近美国南佛罗里达大学的一项研究表明,AI 生成的文字内容,可能已经无法与人类写的区分开来。


图源:论文截图


该研究邀请了 72 位顶级语言学期刊的专家,要求他们来审查各种类型的文章摘要,但即使是这样的专业人士,也很难确定,究竟哪些摘要是人写的?哪些是 AI 写的?


研究发现,即使是语言学专家,也会有 62% 的可能性被 AI 骗到。甚至 13% 的专家在这项研究中,一个都没猜对。


总的来说,虽然技术与专家,暂时无法准确检测论文是否完全由 AI 撰写,但全球学术界已经开始要求透明化 AI 的使用,确保科研诚信的同时鼓励合理利用 AI 工具为科学研究服务。换言之 “AI 是无法避免的,但是大家要公开使用方式,以确保学术公正性”。


而在这样的背景下,科研人员还是需要花些心思,学习下如何在遵循规范的前提下有效结合 AI 工具开展研究工作。比如:查论文、整理数据、整理资料等等。以免真正 AI 政策下发后,手忙脚乱,被同行赶超~


参考文献

[1]https://mp.weixinbridge.com/mp/wapredirect?url = [2]https%3A%2F%2Fwww.science.org%2Fcontent%2Fblog-post%2Fchange-policy-use-generative-ai-and-large-language-models&action = appmsg_redirect&uin = MTYyOTAxNzk4MQ%3D%3D&biz = MzA5NDkzNjIwMg ==&mid = 2651757821&idx = 1&type = 1&scene = 0Bader R, Imam A, Alnees M, et al. Successful management of an Iatrogenic portal vein and hepatic artery injury in a 4-month-old female patient: A case report and literature review. Radiology Case Reports. 2024;19(6):2106-11.https://pubpeer.com/publications/F93A8D69350BC6B12AB48B132161A7Cabanac G, Labbé C, Magazinov A. The'Problematic Paper Screener'automatically selects suspect publications for post-publication (re) assessment. arXiv e-prints. 2022:arXiv-2210.Faulds J, Johner A, Klass D, et al. Hepatic artery transection reconstructed with splenic artery transposition graft. Perspect Vasc Surg Endovasc Ther. 2012;24(2):87-9. doi: 10.1177/1531003512454580Zhang M, Wu L, Yang T, et al. The three-dimensional porous mesh structure of Cu-based metal-organic-framework-aramid cellulose separator enhances the electrochemical performance of lithium metal anode batteries. Surfaces and Interfaces. 2024:104081.https://pubpeer.com/publications/CAABBF887348FB2D1C0329E0A27BE6https://scienceintegritydigest.com/2024/02/15/the-rat-with-the-big-balls-and-enormous-penis-how-frontiers-published-a-paper-with-botched-ai-generated-images/https://doi.org/10.3389/fcell.2023.1339390

[1]https://mp.weixinbridge.com/mp/wapredirect?url = [2]https%3A%2F%2Fwww.science.org%2Fcontent%2Fblog-post%2Fchange-policy-use-generative-ai-and-large-language-models&action = appmsg_redirect&uin = MTYyOTAxNzk4MQ%3D%3D&biz = MzA5NDkzNjIwMg ==&mid = 2651757821&idx = 1&type = 1&scene = 0Bader R, Imam A, Alnees M, et al. Successful management of an Iatrogenic portal vein and hepatic artery injury in a 4-month-old female patient: A case report and literature review. Radiology Case Reports. 2024;19(6):2106-11.https://pubpeer.com/publications/F93A8D69350BC6B12AB48B132161A7Cabanac G, Labbé C, Magazinov A. The'Problematic Paper Screener'automatically selects suspect publications for post-publication (re) assessment. arXiv e-prints. 2022:arXiv-2210.Faulds J, Johner A, Klass D, et al. Hepatic artery transection reconstructed with splenic artery transposition graft. Perspect Vasc Surg Endovasc Ther. 2012;24(2):87-9. doi: 10.1177/1531003512454580Zhang M, Wu L, Yang T, et al. The three-dimensional porous mesh structure of Cu-based metal-organic-framework-aramid cellulose separator enhances the electrochemical performance of lithium metal anode batteries. Surfaces and Interfaces. 2024:104081.https://pubpeer.com/publications/CAABBF887348FB2D1C0329E0A27BE6https://scienceintegritydigest.com/2024/02/15/the-rat-with-the-big-balls-and-enormous-penis-how-frontiers-published-a-paper-with-botched-ai-generated-images/https://doi.org/10.3389/fcell.2023.1339390


编辑:苍术


本文经授权转载自生物学霸(ID:ShengWuXueBa),如需二次转载请联系原作者。欢迎转发到朋友圈。

微信扫码关注该文公众号作者

来源:果壳

相关新闻

美国政府再发AI禁令!将限制美国人对中国AI技术和产品投资美政府再发AI禁令!限制美国人对华AI技术和产品投资重磅!一篇Science论文+一篇Cell论文首次在真核细胞中发现固氮细胞器Science重磅!阿尔兹海默开山论文通讯作者承认造假,白费全世界18年研究?加拿大这省官宣重磅禁令!9月起这些场所全不能用手机!“看不见就不想用了”!社交媒体全禁刚刚安省官宣重磅禁令!9月起这些场所全不能用手机!“看不见就不想用了”!社交媒体全禁重磅!庇护禁令立竿见影!边境无证客骤降40% 逾2.4万人被递解美国众议院最新提案:限制中国人在美从事AI/ML职业!美国AI禁令再升级!突发!安省发布重磅禁令:9月起这些场所禁用手机!网友吵翻天!重磅,拜登签了!TikTok全美禁令,一年后生效!重磅!拜登签了,TikTok全美禁令,一年后生效!安省官宣重磅禁令:9月起这些场所全不能用手机和吸食电子烟!社交媒体全禁……重磅!中国:今天起,废除!对澳洲5年禁令取消!澳洲总理欢迎,华人终于等到了...重磅!加拿大住房危机严重!海外买家购房禁令延长到2027年!禁令再升级!拜登政府已不想让中国人在美从事AI工作了,套壳大模型的公司也危险了重磅利好!李强总理将访澳,7年来首次!龙虾牛肉禁令或短期内取消重磅! 加拿大延长外国人购房禁令,实施后没啥效果?BC省将引进受华人欢迎的新户型!CVPR成全球第二大学术出版物,超越Science!AI顶会占领前20|谷歌学术指标2024美国发布最新AI禁令!限制中国人在美从事AI/ML职业,AI赛道还适合留学生吗?美国AI禁令再升级:在美从事AI职业中国人或需要特殊许可紧急!澳洲CBD爆发冲突!当地发禁令,数十人打砸!随机突发伤人,11人死伤,美国又现暴乱,每逢复活节就...节假日堵爆了喜讯!加州限枪禁令再被推翻!“一月限买一支”法律被裁定违宪这才是美国!加州限枪禁令再被推翻!“一月限买一支”法律被裁定违宪美国教授用2岁女儿训AI模型登Science!人类幼崽头戴相机训练全新AI
logo
联系我们隐私协议©2024 bendi.news
Bendi新闻
Bendi.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Bendi.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。