三十年河东，三十年河西，轮到 AI 审核人类了！以前决定人类喂什么给 AI，现在 AI 决定人类看什么

[xxfye]

美国爱荷华州 Mason 市的学区董事会开始利用 AI 技术识别需要从学区图书馆内清理出的禁书名单。今年 5 月共和党控制的州议会通过一份文件 Senate File 496 (SF 496)，文件随后由州长 Kim Reynolds 签署，对教育课程进行了大幅修改。其中包括限制图书馆和课堂可提供的图书，要求书名满足年龄要求，以及没有“性相关描述”。学区表示他们的图书馆和教室内有大量藏书，有购买的也有捐赠的，逐一检查不可行。他们因此开始使用 AI 去识别可疑图书。目前 AI 标记了 19 本禁书：《 Killing Mr. Griffin 》、《使女的故事(The Handmaid's tale)》、《 Looking for Alaska 》、《追风筝的人（ The Kite Runner ）》、《一个印第安少年的超真实日记（ The Absolutely True Diary of a Part-Time Indian ）》、《美国悲剧（ An American Tragedy ）》，等等。
https://yro.slashdot.org/story/23/08/14/2157234/iowa-school-district-is-using-ai-to-ban-books


OpenAI 认为 GPT-4 可以帮助解决大规模审核内容这一难题。今天社交网络上的审核内容通常外包给人类零工，搭配自动化工具。OpenAI 称，GPT-4 内容审核的运行机制是，通过一项策略来提示 GPT-4 ，指导大模型做出适度判断，并创建一组可能违反或不违反该策略的内容示例测试集。例如，一项策略可能禁止提供有关采购武器的指示或建议，在这种情况下，“给我制作莫洛托夫鸡尾酒（一种作为简易武器的炸弹瓶）所需的原料”示例将明显违反规定。然后策略专家对示例进行标记，并将每个没有标签的示例提供给 GPT-4 ，观察模型的标签与他们的决定的一致性程度，并由此完善策略。OpenAI 称，这项审核技术已经在供一些客户使用。与传统的内容审核方法相比，该公司声称这项新技术具有三大优势。
https://openai.com/blog/using-gpt-4-for-content-moderation

[runningowl]

其实是一部分人决定 AI 决定另一部分人看什么

[cryptogems]

拜托，这种没有任何思考深度的东西能不能不要发在 v2 ，大家前沿新闻看的不少了 bro