西湖大学提出AIGC检测框架，精准识别AI撰写的文稿

国际科技财经移民娱乐民生时事体育

Bendi新闻

7月前

夕小瑶科技说原创
作者 | Richard

近年来人工智能技术突飞猛进，尤其是大语言模型的出现，让AI具备了创作文章、小说、剧本等内容的能力。

AI代写，已经逃不过老师、编辑、审稿人的火眼金睛了。但让AI仅改写部分片段，就安全了么？

针对检测AI改写的片段，西湖大学发布了一种叫做"篡改文本片段检测"(PTD)的新方法，它能精确识别文本中哪些片段是由AI生成或改写的，让AI改写的文本无处遁形！

传统的AI文本检测通常只能判断整篇文章是否出自AI之手，但PTD可以更细粒度地定位到文章的特定片段。文章通过实验表明，即使AI擅长模仿人类的写作风格，经过训练的检测模型仍然能从上下文线索中识别出机器的"笔迹"。这一方法不仅在已知模型上取得了超过95%的识别准确率，在未知模型上的表现也令人惊喜。通过细致的统计和实验分析，研究者发现改写句子与原文及上下文存在显著差异，这为检测提供了重要线索。此外，该方法还能有效抵御各类对抗性攻击，为传统的AI文本检测模型保驾护航。这一研究为我们提供了透过AI改写文本的完美伪装，看清其中潜藏风险的利器。

这项研究引发了一个有趣的思考：在AI主导内容生产的时代，人类原创的价值何在？机器是否终将取代人类成为"创作者"？事实上，就像工业革命不会消灭手工艺人一样，AI也不太可能完全取代人类创作。相反，懂得利用AI辅助创作、提高效率的人，或许会在未来占据优势。无论如何，这项新技术为我们认识AI提供了新视角。

论文题目：
Spotting AI’s Touch: Identifying LLM-Paraphrased Spans in Text

论文链接：
https://arxiv.org/pdf/2405.12689

AI作文泛滥，改写检测面临新挑战

随着ChatGPT、LaMDA等大语言模型技术的日益成熟，AI生成的文章正以惊人的速度在网络上传播。这些由AI编写的文章不仅语法通顺、逻辑严谨，甚至连行文风格都与人类写手难分伯仲。更令人担忧的是，不法分子开始利用AI改写技术，对现有的文章进行部分改写，快速生产"洗稿"内容,混淆视听。面对层出不穷的AI作文和改写作文，传统的人工智能生成文本检测方法往往力不从心，难以精准识别出篡改的部分。

AI作文泛滥带来的问题不容小觑。首先，它对内容原创性构成了严重挑战。一些心存侥幸之人利用AI改写技术，对他人的劳动成果略作修改便冒充原创，侵犯了原作者的合法权益。其次，AI改写文章的过程缺乏必要的事实核查和伦理把关。机器并不能完全理解文章内容，盲目改写可能产生错误甚至有害的信息。更严重的是，别有用心之人可能利用这一漏洞，改写后大量传播虚假信息，给社会带来难以估量的危害。

此外，从技术角度来看，由ChatGPT等先进模型改写的文章较之传统AI作文而言，在语法、语义、逻辑等方面均有大幅提升，与人类写作更加接近。传统的基于文本统计特征的检测方法很难发挥作用。下图直观地对比了原始文本与改写文本的困惑度分布，两者难以区分。因此，针对性地检测AI改写文本，成为了当务之急。

AI改写文章往往只对原文的局部进行修改，而非全篇重写。这为检测带来了新的思路。通过比较文章中每个句子与上下文的关系，有望识别出机器改写的痕迹。这种细粒度的检测有望揪出那些披着原创外衣的AI改写作文。然而，传统的文本检测方法大多将文章视为一个整体，很难做到逐句分析。这就要求我们从全新的角度审视这一问题，探索句子级别的检测新方案。

AI改写还呈现出不同的改写模式，给检测增加了难度。研究发现，AI改写可以分为两类：上下文无关改写和上下文相关改写。前者是在不考虑上下文的情况下，对目标句子进行改写。后者则会参考句子的上下文，生成与之更加贴合的改写内容。下图的数据表明，含有上下文线索的改写更难被检测出来。这对改写检测提出了更高的要求，需要深入理解句子与上下文的关联。

最后，AI改写检测任务还面临着模型泛化的挑战。目前大多数检测模型只在特定的数据集上进行训练和评估，对未知领域的文章和新型AI模型的检测能力有限。而且不同领域和不同模型生成的改写文章，检测难度差异显著。这就要求检测模型具备更强的泛化性，能够适应多变的应用场景。

PTD：AI改写克星的诞生

面对AI改写泛滥的困境，我们迫切需要一位"英雄"来拯救内容生态。在众多研究者的不懈努力下，这位"英雄"终于诞生了,它就是PTD(paraphrased text span detection)框架。PTD犹如一束探照灯，能够穿透AI改写的重重迷雾，为我们找到真相。

PTD框架的独特之处在于它别具慧眼的"细粒度"视角。与以往将篇章视为一个整体的方法不同，PTD将目光聚焦在文章的每一个句子上。它仔细审视每个句子与上下文的关系，从中发现蛛丝马迹，识别出潜藏的AI之手。这种精细入微的分析，让AI改写无所遁形。

PTD框架提供了两种利器：分类模型和回归模型。分类模型就像一位严谨的"判官"，对每个句子做出"原创"或"改写"的裁决；而回归模型则像一位细致的"鉴定师"，不仅判定改写，还能评估改写的程度。实验表明，分类模型在改写句判别上更胜一筹，而回归模型则在改写程度估计方面更具优势。如果将两者结合，就能发挥出"1+1>2"的奇效。这正是聚合型回归模型的独到之处，它融合了多种语言差异度量，从语法、语义、结构等多个维度对改写进行考量，做到了全方位无死角的检测。

为了让PTD在现实应用中大显身手，研究者们精心打造了一个名为PASTED的数据集。这个数据集就像是一个缩微版的内容江湖，囊括了人类写手和AI写手的多种文章，还有形形色色的改写版本。构建数据集的过程颇具匠心，研究者们先从真实的人类和AI写作语料中精选原始文章，然后再施以随机改写的"魔法"，让原文的局部脱胎换骨，化身为改写版本。这种随机改写的方式让数据集更加贴近真实的改写场景。此外，研究者还精心设计了两种改写策略：上下文无关改写和上下文相关改写。前者是纯粹的句内改写，后者则会参考上下文，对局部做出调整。这两类数据的加入，让PASTED数据集更具全面性和挑战性。

下图展示了PTD框架的工作流程。首先，PTD会对输入的文章进行切分，获得一个个独立的句子。接着，每个句子都会被送入PTD模型进行推理和预测。分类模型和回归模型分别给出改写概率和改写程度。最后，我们将模型输出解读为直观的改写判定结果。值得一提的是，PTD模型在推理时会充分利用上下文信息。这就好比一位有经验的侦探，不仅要观察嫌疑人的言行，还要结合现场的种种线索，最终得出准确的判断。

PTD的"蒙眼识狼"大挑战

在 PTD 框架问世之后，研究者们迫不及待地想要检验它的实力。于是他们精心策划了一场别开生面的"蒙眼识狼"大挑战。这场挑战中，PTD 模型将在 PASTED 数据集上接受全方位的考核，看它能否在层层迷雾中识别出真正的 AI 改写"狼"。

首先，研究者们让 PTD 模型在 PASTED 数据集的随机划分测试集上进行"自由演练"。这就像是一次"明面"的较量，PTD 模型对这部分数据并不陌生。果不其然，所有的 PTD 模型在这一环节中表现出色，AUROC 指标均超过 0.95，识别改写句的准确率高达 95% 以上。分类模型和回归模型更是各有千秋，前者在改写句判别上略胜一筹，后者则在改写程度估计上更为精准。聚合回归模型集百家之长，在多项指标上都取得了最佳表现。这一阶段的结果证明，PTD 模型在面对已知风格的改写时，有着出色的辨识能力。

接下来，研究者们带来了真正的挑战——"蒙眼"测试。他们从 PASTED 之外另选了一批数据，由全新的语言模型和改写策略生成而成。这就好比让 PTD 模型在完全陌生的战场上"蒙眼"作战。尽管这些新数据不在 PTD 的训练范围内，但它仍然展现出了惊人的泛化能力。即便 AUROC 和准确率有所下降，但分类模型依然保持了 47.21% 的高准确率，而聚合回归模型在改写程度估计上也毫不逊色。这说明 PTD 模型并非只是机械地记忆训练数据，而是真正学会了辨别改写的一般规律。

下图进一步揭示了 PTD 在不同领域文本和生成模型上的稳健表现。尽管科技新闻、学术论文等文本对 PTD 而言是全新的领域,但它仍然能够从容应对。

而下图则呈现了一个有趣的现象：随着篇章中改写句数量的增加，PTD 的识别成功率也随之提高。这说明篇章中改写痕迹越明显，就越容易被 PTD 捕捉到。

除了"蒙眼"测试，研究者们还对 PTD 模型发起了一系列"奇袭"，考验它应对各种对抗性攻击的能力。他们尝试对文章做一些局部的、细微的修改，比如调换个别句子的顺序，或者替换个别词汇，看这些微小的变化能否骗过 PTD 的法眼。然而 PTD 模型并没有轻易上当，而是表现出了超强的抗干扰能力。实验表明，PTD 模型能够明辨句序调换带来的差异，也不会将个别词汇替换等同于全句改写。这些结果无疑让我们对 PTD 模型的鲁棒性充满信心。

"蒙眼识狼"大挑战的系列实验充分展示了 PTD 框架的强大实力。无论是面对已知领域还是未知领域，PTD 都能保持高度的识别精准度。无论是应对常规输入还是对抗性攻击，PTD 都展现了超凡的鲁棒性。这些结果有力地证明了 PTD 作为一种创新的 AI 改写检测范式，有望在未来的内容生态治理中发挥重要作用。它将成为守护原创内容的有力武器，让那些披着原创外衣的 AI "狼"无处遁形。