研究发现人工智能工具未能减少招聘偏见 调节亮度都能影响评分

人力资源的专业机构认为AI可以对抗偏见。研究指出，在2020年，对500名人力资源专业人士的国际调查表明，近四分之一的人正在使用人工智能进行"人才招聘，以自动化的形式"。

但是，用它来减少偏见是适得其反的，剑桥大学性别研究中心的博士后研究员凯里-麦克瑞斯博士认为，它是基于"一个神话"。

她说："这些工具不可能被训练成只识别与工作有关的特征，并从招聘过程中剥离出性别和种族，因为我们认为成为一名好员工所必需的各种属性本身就与性别和种族有关。"

研究报告指出，一些公司也发现这些工具有问题。例如，在2018年，亚马逊宣布取消开发一个人工智能驱动的招聘引擎，因为它可以从简历中检测出性别，并歧视女性申请人。

研究人员特别关注的是"分析候选人的语言和身体动作的细节"的工具，以了解他们与公司所谓的理想员工有多大的相似之处。

视频和图像分析技术"没有科学依据"，合著者埃莉诺-德拉吉博士告诉BBC新闻，将其视为"现代颅骨学"，即头骨形状可以揭示性格和心理能力的错误理论。

"他们说，通过看你的脸就能知道你的性格。这个想法是，就像测谎仪测试一样，人工智能可以'透过'你的脸看到真正的你，"她告诉BBC新闻。

来自剑桥大学的研究截图，显示了照明条件的变化如何改变分数，图片来源：Eleanor Drage

研究人员与六名计算机科学专业的学生一起，建立了他们自己的简化人工智能招聘工具，对候选人的照片进行"五大"性格特征的评分：顺从性、外向性、开放性、自觉性、神经质。

但这些评分被许多不相关的变量所歪曲。例如，"当你使用我们的工具时，你可以看到，当改变对比度/亮度/饱和度时，你的人格分数会发生变化，"Drage写道。德国一家公共广播公司还发现在视频中戴眼镜或头巾会改变候选人的分数。

英国特许人事和发展协会的海法-莫扎尼告诉BBC新闻，其研究表明只有8%的雇主使用人工智能来选择候选人。她说："人工智能可以通过从更大的候选人库中进行过滤，有效地帮助提高一个组织的多样性--但如果规则和训练数据不完整或不准确，它也可能错过很多好的候选人。在招聘中分析候选人的声音和肢体语言的人工智能软件还处于起步阶段，因此既有机会也有风险。"