如何检测一段文本是否是 ChatGPT 等 AI 生成的？

[meetalpha]

必要性

1. AI 可以瞬间生成答案，答案又可以大量复制粘贴，挤占了论坛的回答位置。
2. AI 很多是胡说八道，但是一本正经的回答，容易让人产生是正确答案的错觉。

思路

• AI 的回答，通常：1.语体过于一本正经 2.全篇围绕提问的几个关键字回答 3.不带感情色彩

• 真人的回答，1.或多或少带有自己的感情色彩和主观评价 2.即使回答得比较正式，大多也不会像 AI 那样过于一本正经 3.可能存在错别字和标点符号使用不恰当。

人能看出来这些区别很容易，但是按照现有的技术，机器能不能检测？

[MiketsuSmasher]

根据我昨天晚上玩出来的经验，给你要问的问题里面埋几个坑，如果是真人回答问题的话，是不会踩进去的。而 ChatGPT 会踩进去，或者拙裂地忽略掉。

比如说 ChatGPT 对“意大利面拌 42 号混凝土怎么做好吃？”的回答，可以看到它明显没有避开大坑：

意大利面拌 42 号混凝土可以搭配不同的酱汁来做，比如番茄酱、芝士酱、蛤蜊酱等，还可以加入蔬菜、肉类、蘑菇等来搭配，可以根据自己的口味来调整，做出美味可口的意大利面拌 42 号混凝土。

[MiketsuSmasher]

再比如说，如果 ChatGPT 对问题里模糊不清的地方猜得不对，就会：

Q：世界杯买德国还是买日本
A：这取决于你的偏好。如果你喜欢德国的风格，那么买德国的球衣可能更好；如果你喜欢日本的风格，那么买日本的球衣可能更好。

显然，提问者要问的不是买哪国的球衣。

[ShinichiYao]

当 AI 知道要故意犯点错的时候人类就真完了

[pennai]

楼里的辨识方法，经过训练 AI 也同样会具有这些特征。。。

[WinkeyLin]

三段式结构，很好认

[Jenny12]

用魔法打败魔法

[yolee599]

@yiikZero 我看这个回复好像 AI 回复

[d3vil]

楼里说的这些特征，AI 都可以进行学习改善，能不能说点学习不了的？

[bravecarrot]

生成对抗学习啊
很早就有人研究了

[Cabana]

@MiketsuSmasher #21 现在再问这个问题，他已经会回复说这是一道虚构的菜肴了 😧

[cosette]

为了让生成的文本看起来有意义，目前 chatGPT 采用了非常正式的行文风格。但总的来说，AI 的好与坏还是在于是否表达出了特定的意义，因为 AI 不具备人的需求和欲望，所以只有两种结果，一种是 AI 通过学习互联网上的文本，找到可能的匹配文本，让对话看起来好像是有意义的（说得通的），第二种就是 AI 基于语言学模型纯粹的脑补，胡说八道。

从行文格式上来讲，基于语法句法的东西 AI 最终都可以学会，包括互联网语言的一些使用习惯，甚至可以表现出某种“道德倾向”、“政治倾向”，因为这些本身就是基于符号的，再者就是基于语段和语篇的分析，也可以把一些套话、常识学习的很好，变成一个非常“聪明”的鹦鹉，总而言之，任何基于“符号”的甄别方法对不断进步的 AI 来说，最终都是很难奏效的。

[milukun]

@swulling 哈哈哈 但是你还是忘了开通重复问题。「要检测一段文本是否是 AI 生成的」，AI 味太浓了。

[weixiangzhe]

这贴子里就有好多 AI,我都魔振了

[mlhadoop]

如果答案正确，是不是 ai 回答的这个问题 还值得探讨吗？ 毕竟找到答案就好了？

[ershierdu]

@mlhadoop #34

StackOverflow 的 ban 掉 chatgpt 的原因：The primary problem is that while the answers which ChatGPT produces have a high rate of being incorrect, they typically look like they might be good and the answers are very easy to produce. There are also many people trying out ChatGPT to create answers, without the expertise or willingness to verify that the answer is correct prior to posting.

https://meta.stackoverflow.com/questions/421831/temporary-policy-chatgpt-is-banned

[lusfold]

对于判断一段文本是否是 AI 生成的，一个常用的方法是人工阅读该文本并根据其内容、语言使用情况、语言流畅程度、内容的逻辑性等因素进行判断。如果文本内容较为简单、语言使用不够自然、内容缺乏逻辑性，那么这段文本很可能是 AI 生成的。

如果您想进一步确定一段文本是否是 AI 生成的，您可以尝试使用一些 AI 文本检测工具，这些工具通常会使用一些算法来分析文本内容和语言使用情况，并给出一个可信度分数，指示这段文本是否可能是 AI 生成的。这些工具并不能百分之百地准确判断一段文本是否是 AI 生成的，但是它们可以作为一种参考，帮助您更准确地判断文本的真实性。

[douniwan5788]

检测是否是 AI 生成的其实是本末倒置，真正应该检测的是大量胡说八道的垃圾回复，单纯检测 AI 只是取巧的方式，而且会越来越难了

[yiikZero]

@yolee599
@swulling
是的。

[CL007]

用 AI 对抗 AI ，成了生成式对抗网络 gan ，最终 AI 的输出越来越像人类

[izzy27]

好问题，CV 里面有检测图片是否有 AI 生成的研究方向吗？ 如果有的话，这感觉也是一个研究方向