GPT 生成的内容确实需要 Ban

[jatsz]

知乎时间线上有个问答，看文风觉得是 GPT 生成的。顺着好奇心，点了作者看看以前的回复，结果不出意外： https://www.zhihu.com/people/ni-chi-xiang-liao

昨天还看到站长 Ban 一个 GPT 生成的回复，我是觉得这个做法很好。要不早晚 V2EX 也会变成一个内容农场。如果知乎不做动作，用不了多久，知乎也会变成一个内容农场。

[kop1989smurf]

我个人理解，“禁用 GPT 回复”，只能从“交流的尊重，诚信与诚意”的角度来处理。一旦牵扯到“低效”，“虚假”，其实就会陷入哲学的悖论之中，毕竟目前的 AI 都是机器学习 AI ，最起码是尊重统计学的，结果更接近现实中位数。

[ljsh093]

@Livid #16 正确的，但是发现即封号是否过于严厉？是不是可以考虑首次警告呢？

[cmdOptionKana]

@krixaar 在英语网站上（或比较自由的国家的网站上）凭喜好叉人，问题不大，但简中平台能自由交流的网站太少了，因此特别希望能多提倡宽容，少提倡封禁。不是完全不封，而是希望谨慎一点，宽容一点。这是我不成熟的想法，这个问题我认为不容易想清楚。

[hanyuluo]

可以加个功能：用户投票某个回复是否为 ChatGPT 生成，如果某用户的票数过大，默认折叠回复或显示“该用户大量回复经由 ChatGPT 生成”。

[HeyWeGo]

也许是内容付费的好时光了

[Ericcccccccc]

@cmdOptionKana 你发帖都是机器人回复, 你还有动力发吗? 直接找机器人问不就行了.

[cmdOptionKana]

@Ericcccccccc 比如 V 站这里，本来就禁止 “重复内容灌水”，只要严格执行这条就行，没必要特别针对 AI 。因为目前的 AI 对一个问题只能生成一种意见，如果一个帖子只有一条 AI 回复，或者热帖有不超过 3 条 AI 回复，我觉得很难说问题严重。

[Ericcccccccc]

@cmdOptionKana 你是没见过最初火起来的时候论坛里都是机器人回复, 还好站长立马选择封禁.

[XiaoBaiYa]

你发的这个，他赞最多的一个回答有 2 个赞，是他自己手动答的

[snw]

可以看一下这个 COCO 债例子：
https://m.weibo.cn/detail/4881689689460215

基本上可以确定 ChatGPT 自己编造了一个 2016 年葡萄牙商业银行减计 AT1 债券的案例，甚至杜撰了参考资料和链接。
更严重的问题是，ChatGPT 编造的这个故事被自媒体或内容农场传播到了互联网上，导致给出处的 New Bing 也被污染，进一步传播了这个编造的故事。
https://m.weibo.cn/detail/4881683080025480

以前内容农场互爬几次会导致内容严重劣化，很容易分辨。现在带有大型语言模型的 AI 互抓时会重新优化语言，这就导致 AI 互相吃屎时信息不会衰减消亡，反而大幅强化传播效果。

----------------------------------------

其实并不只是 AI ，互联网大 V 与自媒体叠加也可以形成这种“媒体蜈蚣”的效果。

比如俄亥俄州氯乙烯列车出轨事故之后，中文网络上突然出现大量“可口可乐最大的原浆厂在俄亥俄州”这个信息，有些甚至煞有介事地加上“根据查询可口可乐原浆工厂官网得知”。但如果你搜索 2022 或更早的网页几乎没有什么关于可口可乐原浆具体在哪里生产的信息，也没有所谓的工厂官网。
这则信息的始作俑者似乎是某篇爆款大 V 或公众号文章。

[9999999999999999]

不是说因为 GPT 内容问题，中国共产党领导下的站长已经无情了 ban 了好多用户？好怕

[cest]

@snw #30 所以要下毒很容易
只要爬过你的毒，就有几率被 trigger 出来

[est]

@snw 更可怕的是。。。这种事不是有了 AI 才开始做的。。而是早就有人系统性的在人工设计并人工 /机器账号传播 mis-information 和 dis-information

[zjvbqla]

@SGTeam 生成視頻還做不到吧！如果是類似剪映這樣的一鍵成片質量的話根本沒法看。

[snw]

@est
实际上并不一定需要系统性设计。你看我第二个例子，只需要一个流量号发个爆款文，然后等着傻乎乎的粉丝、阅读者、农场分享扩散就行，前者与后者并不一定要关联控制。

[jlak]

@snw 信息源的连锁污染确实可怕，以后怎么才能确定信息靠谱否

[jlak]

我想起我前天问了 new bing 玩玩，未来有没有可能出现哆啦 A 梦里的任意门这样的道具，牛病说了一堆废话后很认真的说有人用 unity 开发出了任意门。。。

[DOLLOR]

@cmdOptionKana
你以为：允许 AI ，整个主题下大部分都是人类讨论，偶尔有两三条 AI 回复作为“点缀”。
实际上：允许 AI 后，人类还没来得及回复，跟贴区已经被 AI 回复占领了，人类回复才是“点缀”。读者还要从众多长篇大论的低质跟贴里找出有用的信息。

[cmdOptionKana]

@DOLLOR

我上面说到了两点：

1. 并非完全不封禁，而是谨慎处理。
2. 本来就有 “禁止重复灌水” 的规定，严格执行这条，加上目前 AI 对一个问题只有一种回复，结果就是不需要增加针对 AI 的特殊规定，沿用原有规定就能解决问题。

[longbye0]

我倒希望加速这个进程