面试你的AI“小姐姐”真有那么神？

AI算法并非“生来”客观，招聘软件也会带来新的偏差和歧视，误刷掉有能力的应聘者，甚至让企业陷入被动境地。2021-01-06 12:26· 微信公众号：霞光社 艾瑞莉娅

继可口可乐、联合利华等巨头采购AI招聘系统后，国内招聘平台智联招聘也推出了视频面试产品“AI易面”。在面试中AI能进行语义分析、视频分析，还能给出一些固定套路的面试题，加上经典的性格和智力测评，“AI易面”就可以智能完成人岗匹配。

听起来似乎HR已经被AI踢出了招聘流程，但这种新技术也存在不少问题。

原本AI招聘的卖点是可以消除企业在招聘过程中的人为偏见，让企业和求职者都能从招聘中受益。但实际应用起来可没那么容易，AI算法并非“生来”客观，招聘软件也会带来新的偏差和歧视，误刷掉有能力的应聘者，甚至让企业陷入被动境地。

哪些公司在做AI招聘工具？

招聘流程中，每一步都有AI加入的可能性。

Textio公司用机器学习来帮主管们优化岗位描述。Facebook、LinkedIn和ZipRecruiter都是利用算法的推荐，制作专门针对潜在的候选人招聘页面。

另一方面，Ideal、CVViZ等AI提供商推出“简历扫描”服务，可以筛选简历，留下那些符合条件的候选人。而当和候选人的面试结束后，HireVue、Modern Hire等向企业承诺他们的算法可以分析面试中的对话，预测哪些候选人未来会在工作上表现最好。

Pymetric的核心（测试）小游戏

还有一些软件公司会提供AI嵌入的心理测试，如Humantic通过候选人的申请材料和个人网上档案来分析，Pymetrics表示可以用一些简单的小游戏达到一样的效果。

AI招聘工具是如何工作的？

要做好AI招聘工具，数据基础是最大的难题。只有数据质量高，机器学习算法才能精确。

目前，大多数AI招聘工具都从现有员工的数据中进行提取训练的，例如要训练一个“简历扫描仪”，公司需要收集全部在职员工的简历，与销售数据或年度汇报等指标进行对比。这些数据搜集、梳理、分析将教会算法如何辨别与公司顶尖员工最相似的简历。

当然，这种方法只能抓取现有员工的数据，难免陷入“窠臼”，甚至会出现用人的偏见。

北美地区波士顿咨询集团AI部门的联合主管Shervin Khodabandeh说：“AI生来就是带有偏见的，因为世界上根本不存在毫无偏差的数据。”他解释说，这个难题在招聘中更加明显，因为可用数据非常有限——公司招聘的候选人，要过很多年才能看出他们未来会不会成为顶尖员工。

为了解决这些问题，AI服务提供商们采用一种迂回的方式减少训练数据中的偏差。在康奈尔大学学习招聘算法的学生Manish Raghavan说，很多卖家都在遵守“4/5规则”的基础上设计算法（美国法律规定，以人口特征划分，任意人口组被选择的概率不得低于另一人口组的80%）。所以为了防止企业承担法律责任，经过精心设计的招聘AI工具会向企业推荐人数相等的男性和女性。

但Raghavan说，这并不意味着在人口特征以外的方面算法也能有同样的表现。如果训练数据大多来自男性员工，AI有可能学着把一些更多形容男性的特质与“成功”联系到一起。例如，简历上有参加高中橄榄球队的经历、在介绍信中被称为“摇滚明星”等。

“如果你有很多这样的特质，你可能会骗到很擅长预测表现杰出的男性的AI招聘工具，但在擅长女性预测AI招聘工具中你可能就会被淘汰”，Raghavan说道。

如果之后公司面试了十位最符合要求的男性和由申请工具挑选出的十位女性的随机样本，表面上来看这次招聘或许是消除了偏见的，但这份工作还是更容易由男性取得。

“搬起石头砸了自己的脚”

基于上文提到的“弊病”，AI招聘工具在很多情况下并不能优质、高效的完成任务。

2018年，亚马逊开发的“简历扫描仪”被爆歧视女性，声名狼藉。本想做招聘AI中的翘楚，却因不公平对待含有“女子”一词（如女子球队、女子俱乐部）的简历而马失前蹄。

HireVue曾对自家面试分析AI进行了周密的测试，这款产品可以分析候选人的面部细微变化、用词和语气。

但纽约大学AI Now学院的道德伦理“卫士”们评价这款工具是“假科学”、“对歧视的纵容”，还毫不留情地点名使用这款AI的企业，其中包括了赫赫有名的联合利华、希尔顿集团。面对集体抵制，美国联邦贸易协会正式控告HireVue。伊利诺伊州甚至通过了一项法案，要求企业披露对类似AI工具的应用。

前车之鉴，后事之师

波士顿咨询集团的Khodabandeh说，从之前事件中我们最应该吸取的经验就是不要盲从AI的推荐，招聘部门经理应该始终将决策权握在自己手中。“当你的算法告诉你"这就是你想要的人"时，不应盲目信任它。”他补充道。

相反，Khodabandeh认为大众应该换个思路想问题。企业不应该让AI筛选最佳候选人，之后让招聘部门经理给它的“决定”盖个章，而是应该运用AI来审计企业本身的招聘流程。最理想的AI招聘应该是能够深入研究人事数据，但最终目的并不是预测下个最优人选是谁，而是综合指出过去谁表现得更好。

Khodabandeh补充说：“AI算法的一个优势就是能够指出你的偏见，你会发现自己对某些候选人特质可能已经有了不公平、不负责任的偏向，甚至自己都没意识到可能已经触及了伦理道德的边线。这时候才轮到我们人类进场、主动去消除偏见和偏差，决定下一轮面试和招聘看重哪些候选人特质。”

企业必须非常了解对所应用算法的审计，康奈尔的研究员Raghavan说：“多数AI提供商只会和客户分享AI算法的内部逻辑。对很多客户来说，即使拿到审计证据，他们也没有对现实情况的评估能力。”

对于没有内部数据的企业，Raghavan的研究中给出了一些普适性提示：首先，对于AI系统探测给出的员工工作表现和面容、声音、行为等的关联性，要保持怀疑态度；其次，提供心理方面检测及结论的算法少之又少。因此这类算法提出的关联性一般只比随机取样稍微靠谱一点点，得出的结论本身可能就是一项新风险。

总结来看，大火的AI技术并不是无所不能。有时，HR们最需要的“高科技工具”只是他们的本能。

文章翻译自QUARTZ，原标题为 How to use AI hiring tools to reduce bias in recruiting，作者是Nicolás Rivero，由霞光社简单整理编辑后发表。

原文链接：https://qz.com/1914585/how-to-use-ai-hiring-tools-to-reduce-bias-in-recruiting/

新闻推荐

界面早报｜阿里巴巴市值跌破6000亿美元 英国与欧盟达成英国脱欧后贸易协议

工信部：今年新增58万个5G基站据央视新闻客户端消息，国新办24日举行新闻发布会，工业和信息化部负责人表示，2020年我国5G建设飞...