算法会作恶吗？我们如何面对？

[WhoCanBeRich]

之前身边关注算法比较多的是一些推荐机制，比如淘宝、今日头条和抖音，但是今天看到一个文章说美国使用算法来评测一个人该蹲多久，好像好几个州已经实施了，然后研究人员发现算法存在种族歧视的问题：同一种罪，白人和黑人判刑时间不同，评估风险指数也不同。
新闻链接在这:https://www.propublica.org/series/machine-bias

想和 V 友们讨论讨论除了上面说的这些情况，你还遇到过（或者预测）哪些算法应用会产生偏见呢？

[Fulcrum]

那是模型有问题，问题在抽象的人

[edgnoz]

重点是写算法的人

[hoyixi]

这问题挺“大”的

倒是现实的个例，比如：大多公务员不招 35+，一些公司不招大龄未婚未婚女，这些算不算？

个例视而不见，忍了，那么个例组成的“社会”， 能有啥公平。

[Vegetable]

何为算法?

[SuperMild]

@softtwilight 工具不是中性的，而是没有任何倾向性，工具本身没有感情没有意志。

制造刑具的是人，使用工具的也是人，怪不得工具。

[SuperMild]

说什么算法作恶，是转移目标，企图把人的责任转移到没有生命的工具上。

[SuperMild]

有人做了一把枪，并且用来杀了人，难道要怪枪太邪恶？

枪表示很无奈：臣妾也不想呀～

[ymcj001]

@SuperMild 我越来越觉得，没有约束，比起行善，使用工具作恶会更有吸引力

[ivanchou]

可能楼主对算法还是不够了解，其实没有那么高深。

[testeststs]

你想多了，政治 /法律 /艺术 /文学是人类最后的底线，要是这个都能让算法 /人工智能来替代，说明世界上所有的事情都不需要人来完成了。