数学毁灭武器

我认为您应该阅读凯西·奥尼尔的《数学毁灭武器》：大数据如何加剧不平等并威胁民主。几个月前我在迈阿密书展上看到她朗读，并立即买了一本。我甚至让她签了名，这有点酷；)

凯西的主要观点是，我们完全被影响重大决策的算法包围着。有很多好的算法可以帮助我们。遗憾的是，也存在许多阴险、危险、不良的算法会造成严重损害，并且它们伪装成好的算法潜伏在我们周围。

一个好的算法的一个方面是某种反馈和纠正系统。凯西在早期将一些广告算法作为健康算法的例子。例如，如果有一个算法用于推荐您应该购买的产品，并且它在这方面做得非常糟糕，它将被调整直到修复，从而纠正其设定的目标。Moneyball 风格的算法也是如此。数据是公开的。棒球队经理使用算法来帮助招募球员并管理他们的比赛方式。如果它不起作用，它将被调整直到起作用。

一个坏的算法可能缺乏反馈循环。她最有力的例子之一是评估教师的算法。有大量证据表明这些算法经常出错，解雇了绝对不应该被解雇的教师。而且不是以“他们的考试成绩不好，但有一颗金子般的心”的方式，而是以“算法实际上是错误的”的方式。那么，是什么让这样的事情成为“数学毁灭武器”（WMD）呢？这是因为它影响了很多人，造成了混乱，并且没有纠正机制。不过，还有很多有趣的标准。我会让你继续阅读。

这里有很多需要考虑的问题和细微差别，我认为凯西对所有这些问题都处理得相当优雅。她在学术上、职业上和新闻工作方面都有令人印象深刻的资历。这里有一些激进的言论，但其论据建立在研究、数据和道德基础之上。