何做出的,也不知道它们隐藏了什么偏见。我们之所以了解Gild算法中的这种潜在偏见,唯一的原因是它的一个创建者碰巧告诉了我们。因此,关于这些人工智能的歧视性,这是一个双重性别数据缺口:首先是在设计算法的程序员的认知方面,其次是在整个社会的认知方面。
在晋升和招聘中,都存在就业程序不自觉偏向男性的问题。一个典型的例子来自谷歌,在这家公司里,靠毛遂自荐获得升职的女性员工少于男性。这不足为奇:女性习惯于谦逊,万一她们越过了这一既定的性别准则,就可能受到惩罚。[66]但是谷歌感到惊讶,于是开始着手解决问题——这一点值得嘉许。不幸的是,他们解决问题的方式是典型的男性默认思维。
目前还不清楚谷歌是没有还是不关心强加给女性的文化期望数据,但无论如何,他们的解决方案不是修正男性偏见的体系,而是修正女性。2012年,谷歌的人力运营主管拉兹洛·博克告诉《纽约时报》,谷歌的资深女性员工开始举办研讨会,“鼓励女性毛遂自荐”。[67]换句话说,他们举办研讨会来鼓励女性更像男性。但是,我们为什么要接受这样一个事实呢?即男人做事情的方式,男人看待自己的方式,才是正确的方式。最近的研究表明,女性往往能准确评估自己的智商,但智商为平均水平的男性则认为自己比三分之二的人更聪明。[68]在这种情况下,也许并不是女性提名自己的比例太低。也许是男人推荐自己的比例太高了。
博克声称谷歌的研讨会是成功的(他告诉《纽约时报》,现在女性的晋升比例与男性相当),但若真是如此,为什么谷歌不愿提供数据来证明呢?美国劳工部在2017年分析谷歌的薪酬实践时发现,“几乎整个劳动力市场上都存在针对女性的系统性薪酬差异”,“在几乎所有工作类别中,男性和女性的薪酬都存在六至七个标准差的差异”。[69]谷歌已多次拒绝向劳工部提交完整的工资数据,在法庭上斗争了数月以避免这种要求。他们坚称,公司不存在薪酬不平衡。
对一家几乎完全建立在数据基础上的公司来说,谷歌不愿提供薪酬方面的数据,似乎有些出人意料。它本不应如此。软件工程师周怡君自2013年以来一直在调查美国科技行业女性工程师的数量,她发现“每家公司都有一些隐藏或篡改数据的方法”。[70]他们似乎也并不想费神去考察其“举措能否令工作环境对女性更友好,或鼓励更多女性进入或留在计算机行业”。周怡君解释说:“没有办法判断他们的举措是否成功或值得模仿,因为没有任何成功的标准。”结果,“没有人