ai 绘画小程序有必要检测敏感词，防止出涩图吗？

2023-07-29 23:27:28 +08:00
 pengxiying

最近写了个 ai 绘画小程序，有一些 sd 模型可以出涩图，我该如何检测呢？之前用了一个敏感词检测 API ，但是这 API 太“敏感”了，比如中国，鸡这样的字眼都会报存在敏感词。 或者是说只需在反向提示词那里做限制就可以了？

1456 次点击
所在节点    问与答
7 条回复
estk
2023-07-30 00:44:13 +08:00
百度 AI 的敏感词和图片审核水平还不错，可能是经过了贴吧的摧残而提高的
chenjia404
2023-07-30 01:38:00 +08:00
肯定要啊，不然出现黄图，轻则喝茶，重则进去。
systemcall
2023-07-30 05:34:31 +08:00
建议直接买个大厂的检测服务
没什么大范围传播的话，出黄图一般也不会进去多久，但是要是出现了小熊维尼的图的话，搞不好直接蒸发了
whileFalse
2023-07-30 09:53:48 +08:00
直接检测生成的图
IDAEngine
2023-07-30 16:48:21 +08:00
直接检测 prompt ，屏蔽掉所有敏感字，只允许输入中文绘画
letitbesqzr
2023-07-31 08:57:29 +08:00
很多云厂家都有图片鉴黄服务，把生成好的图片先给这些服务过一遍，没问题再展示。
panxi
2023-07-31 10:20:06 +08:00
兄弟，这么跟你说吧，出了敏感问题跟阿里腾讯华为这样的公司还能谈，罚酒三杯了事。对你， 对接的就是国家暴力机器

这是一个专为移动设备优化的页面（即为了让你能够在 Google 搜索结果里秒开这个页面），如果你希望参与 V2EX 社区的讨论，你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/960871

V2EX 是创意工作者们的社区，是一个分享自己正在做的有趣事物、交流想法，可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX