人工智能

研究发现人工智能工具未能减少招聘偏见 调节亮度都能影响评分

字号+作者: 来源:cnBeta.COM 2022-10-16 15:44 评论(创建话题) 收藏成功收藏本文

研究人员在一项研究中说,人工智能招聘工具并没有减少偏见或改善多样性。"人们对解决面试偏见等问题的新方法越来越感兴趣,"剑桥大学的研究人员在《哲学与'...

研究人员在一项研究中说,人工智能招聘工具并没有减少偏见或改善多样性。"人们对解决面试偏见等问题的新方法越来越感兴趣,"剑桥大学的研究人员在《哲学与技术》杂志上说。人工智能的使用正变得广泛--但它对候选人视频或申请的分析是"伪科学"。Odx品论天涯网

人力资源的专业机构认为AI可以对抗偏见。研究指出,在2020年,对500名人力资源专业人士的国际调查表明,近四分之一的人正在使用人工智能进行"人才招聘,以自动化的形式"。Odx品论天涯网

但是,用它来减少偏见是适得其反的,剑桥大学性别研究中心的博士后研究员凯里-麦克瑞斯博士认为,它是基于"一个神话"。Odx品论天涯网

她说:"这些工具不可能被训练成只识别与工作有关的特征,并从招聘过程中剥离出性别和种族,因为我们认为成为一名好员工所必需的各种属性本身就与性别和种族有关。"Odx品论天涯网

研究报告指出,一些公司也发现这些工具有问题。例如,在2018年,亚马逊宣布取消开发一个人工智能驱动的招聘引擎,因为它可以从简历中检测出性别,并歧视女性申请人。Odx品论天涯网

研究人员特别关注的是"分析候选人的语言和身体动作的细节"的工具,以了解他们与公司所谓的理想员工有多大的相似之处。Odx品论天涯网

视频和图像分析技术"没有科学依据",合著者埃莉诺-德拉吉博士告诉BBC新闻,将其视为"现代颅骨学",即头骨形状可以揭示性格和心理能力的错误理论。Odx品论天涯网

"他们说,通过看你的脸就能知道你的性格。这个想法是,就像测谎仪测试一样,人工智能可以'透过'你的脸看到真正的你,"她告诉BBC新闻。Odx品论天涯网

Odx品论天涯网

来自剑桥大学的研究截图,显示了照明条件的变化如何改变分数,图片来源:EleanorDrageOdx品论天涯网

研究人员与六名计算机科学专业的学生一起,建立了他们自己的简化人工智能招聘工具,对候选人的照片进行"五大"性格特征的评分:顺从性、外向性、开放性、自觉性、神经质。Odx品论天涯网

但这些评分被许多不相关的变量所歪曲。例如,"当你使用我们的工具时,你可以看到,当改变对比度/亮度/饱和度时,你的人格分数会发生变化,"Drage写道。德国一家公共广播公司还发现在视频中戴眼镜或头巾会改变候选人的分数。Odx品论天涯网

英国特许人事和发展协会的海法-莫扎尼告诉BBC新闻,其研究表明只有8%的雇主使用人工智能来选择候选人。她说:"人工智能可以通过从更大的候选人库中进行过滤,有效地帮助提高一个组织的多样性--但如果规则和训练数据不完整或不准确,它也可能错过很多好的候选人。在招聘中分析候选人的声音和肢体语言的人工智能软件还处于起步阶段,因此既有机会也有风险。"Odx品论天涯网

本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取。 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考;转载此文是出于传递更多信息之目的,若有来源标注错误或侵犯了您的合法权益,请作者持权属证明与本网站编辑联系,我们将及时更正、删除,谢谢。 本站邮箱[email protected]