在亚马逊一个实验性的程序眼里，「women’s」（女子的）这个词是个污点。简历上写一句「women’s chess club captain」（女子国际象棋社社长），打分的软件就会把这份简历往下压。两所女子学院的毕业生，也被它降了级。没人把这一条写进程序。照路透社的说法，这套系统等于自己教会了自己：男性候选人更好。
项目从 2014 年开始。亚马逊正要大举招人，从 2015 年 6 月到 2018 年，它的全球员工数涨到了原来的三倍多，达到 575,700 人。公司在爱丁堡的工程中心组了一支团队，后来扩到十来个人，想把找人才这件事交给机器。他们的工具给求职者打一到五颗星，跟顾客在亚马逊上给商品打星差不多。
「每个人都想要这个圣杯，」一位参与过的人后来对路透社说，「他们真的就想要这么一台引擎：我给你 100 份简历，它吐出前五名，我们就雇这五个。」
团队建了 500 个模型，每个对应一种具体的职能和工作地点，各自学会识别以往候选人简历里出现过的约 5 万个词。训练用的是十年间投给亚马逊的简历，其中大多数来自男性，科技行业男性占主导，这里也一样。
模型照着训练的方式做了，找规律。几乎每个技术求职者都会写的技能，比如会写各种代码，在它这里分量很轻。一位知情人说，它反倒青睐那些在男性工程师简历里更常见的动词，比如「executed」（执行）和「captured」（拿下）。
到 2015 年，亚马逊发现，这套系统给软件开发等技术岗位的候选人打分，并不是性别中立的。工程师改了程序，让它对这几个具体的词保持中立。可改掉的，只是他们已经发现的那几个词。知情人说，谁也保证不了机器不会琢磨出别的方式给候选人排序，而那些方式同样可能带着歧视。
性别还不是唯一的毛病。底层数据有问题，不合格的人常常被推荐去各种各样的岗位。结果几乎是随机的。高管们对项目失去了信心，到 2017 年初，团队解散了。
知情人说，亚马逊的招聘人员找人时会看这个工具的推荐，但从来没有只凭它的排名做决定。亚马逊对路透社表示，这个工具「从未被亚马逊招聘人员用来评估候选人」，但没有否认招聘人员看过它给出的推荐。
项目也有一部分活了下来。一位知情人告诉路透社，亚马逊现在用的是一个「大大缩水的版本」，干些基础的杂活，比如把数据库里重复的候选人档案清理掉。另一位说，爱丁堡新组了一支团队，要再试一次自动筛选，这回把重点放在多元化上。