基于 Discourse 的论坛如何审核

[Aicnal]

首先我首先指出我提出这个问题可能于 Discourse 公开讨论的本意是相违背的，我们社团在学校内部自建了一个基于 Discourse 的论坛，但由于各种政策原因，我们必须对帖子进行审核。

我在 Discourse 看到了有关键词审核，我个人对这种审核方式存在疑问，毕竟中文博大精深，如果可以的话能不能接入诸如阿里云或者其他云厂商的云审核服务（ Discourse 官方没有给出这种接口。

其次是照片的审核，我使用了雨云的对象存储，只要是从 Discourse 上传的图片最终都会进入到这个存储桶中，我想问问各位老哥有没有办法对桶里面的图片进行审核，或者自己写脚本，反复从桶里面读文件，查到违禁的就删。

我看到了nsfwjs这个图片审核项目，能不能把它接入 Discourse 或者关闭图片上传通道，只能使用支持图片审核的图床，诸如 Lsky Pro 这种。

对于我们为什么要多此一举，自己在学校建立一个内部论坛。我不知道现在还在读大学的老哥还有多少，我们学校现在的交流方法基本上都是诸如校园集市或者表白墙这种低效率的沟通方法，同时里面还杂插着各种广告和垃圾信息。更可气的是我们社团之前希望通过这两种渠道去发布招新信息，结果被告知需要交钱和不接广告这类说辞，但实际上他们自己在内部疯狂敛财，甚至发布一些诈骗信息（之前我们学校有学生在表白墙中招过。而且这种校园集市或者表白墙在注册的时候要求提供诸如学生证之类的敏感信息，信息流入第三方之手，我实在不能信任。我们希望将校园内的信息掌控在自己手中。

希望老哥能给本科的学弟指条路（当然劝退就算了 一定要热热烈烈地搞下去！

[XiLingHost]

校园网应该很容易审核吧，首先是做实名制绑定，用学号才能注册，然后关键词审核用上
接下来人工审核完全足够用，建立举报机制，然后出现问题直接 ban 并且不允许重新注册就行了，账号注册的门槛和 ban 号的代价足够高自然就不需要太过担心审核问题

[Aicnal]

@XiLingHost 目前我们站点采用了只有我们学校的邮箱才能进行注册发言，我担心是不是关键词不太够用（确实没找到比较新的关键词词库

[XiLingHost]

@Aicnal 问题不大，可以限制发帖速率，比如每个账号每小时只能发最多 10 个帖子，这样审核压力就低了，然后鼓励使用 report ，发言规则写的明确一些，红线划高一点，直接说明只要碰到红线就无警告永久封号不接受申诉就行了

[Aicnal]

@XiLingHost 好的老哥 目前来看只能是这样的 看看后期社团有没有佬愿意自己写插件自动审核了

[ztm0929]

不确定学校体量大不大，可能引入 LLM/AI 进行初审会是有必要的（例如 Azure ），学校有服务器的话还可以拿开源模型练习。

OP 这个心思挺好的，祝项目成功~

[Aicnal]

@ztm0929 谢谢老哥 我们确实有这个想法 目前就是不知道怎么接入到 Discourse 这个论坛😭

[lik]


可以看看这几个选项试试。能让用户发的话题、帖子变成待审核状态，后面就可以自己在 discourse 之外独立写程序来调用第三方 API 审核（包括检测图片），因为你可以调用 discourse 的 API 获取审核列表、进行审核操作（通过/不通过），就足够灵活了。

discourse 出了 discourse AI 插件，里面有类似功能，但不确定能不能满足使用。另外，Akismet 这个插件是反垃圾的，选项里可以用网易的 API ，不知道网易的 API 是否还有敏感词判断之类的服务。

[Aicnal]

感谢分享，不过我们最后使用了**Perspective Api**这个官方插件 目前来看效果还挺好的
至于调用 API 我们自己也尝试写过一些 Demo 目前开源到 GitHub 上（虽然还很粗糙 还没有完全实现 API 的调用
https://github.com/CNU-OS/Content_Review