什么是算法霸权?


有时候刷某些视频软件,原本想的是看几个视频就不看了,结果刷了好几个小时,眼睛累了才想起放下手机,当然你可以说这是自控力很差的表现,但软件背后,隐藏着最大化用户停留时间的算法,娱乐类软件如此拿捏人性,是否合理?

weapons-of-math-destruction

有一本科普书《Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy》,中文一般译为《算法霸权》,是专门揭露这类被用错了地方的算法模型。书籍作者Cathy O’Neil是哈佛纯数学博士,曾在MIT担任过教职,后从事金融分析工作,担任数据科学家,她始终认为,当算法被放在了错误的位置,就不再是中立的工具。

因为书籍评价较高,本书获得了数学界的“Euler Book Prize”,深刻的解释了算法模型的潜在风险,作者呼吁在算法设计中增加伦理的分量,娱乐软件使用“最大化用户停留时间”这种算法,确实是如同某大佬所言:利用人性下坠的力量,最大化软件价值。

算法模型一般被视为核心资产,不会对外界公布,对普通用户而言,这就是一个巨大的黑盒,购物软件根据用户的行为,推算出用户属于哪个阶层,总是向用户推荐一些廉价便宜小商品,当然用户也乐在其中,但是有没有仔细想过,用户被软件歧视了。因此作者建议算法模型模型最好也要肩负起社会责任,不能只考虑利润最大化,增加一些伦理规则,制定相关法律法规,增加相应监督管理机构。

书籍下载地址:Weapons of Math Destruction