电子前沿基金会(Electronic Frontier Foundation)是总部位于华盛顿特区的非营利研究中心, 近要求联邦通信委员会(FCC)对位于犹他州的招聘公司HireVue进行调查,该公司旨在通过在线“视频采访”来评估求职者的工作资格”或“基于游戏的挑战”。
根据其网站,HireVue在 拥有700多个客户,其中包括《财富》 100强公司的三分之 以上,以及联合利华,希尔顿,摩根大通,达美航空,沃达丰,嘉年华邮轮公司和高盛等 品牌。该公司表示,它已经主持了超过 千万次的按需采访和 百万次评估。
EFF的投诉是在 近几年的 波诉讼之后发生的,这些诉讼指控雇主正在通过将软件专门针对年轻人的互联网招聘广告定位为雇主,使用软件算法来歧视年龄较大的工人。
HireVue使用专有算法评估候选人视频采访中的“成千上万个数据点”,包括候选人的“语调”,“拐点”和“情绪”。这些数据点和其他数据点输入到“预测算法”中,以比较候选人与公司的 佳表现。
HireVue表示,其基于视频的算法评估提供了“对诸如社交智能(人际交往能力),沟通能力,人格特质和整体工作能力等属性的出色洞察力。”
EFF指出,HireVue的“业务实践所产生的结果是有偏见,无法证明且不可复制的。”
电子游戏和老年工人
EFF的投诉重点在于对妇女和少数族裔的潜在偏见,但对于年长工人,使用基于视频游戏的评估的概念似乎尤其令人怀疑。
电子游戏玩 的平均年龄在30年代中期。许多年龄较大的工人不玩电子游戏,而且年龄较大的女性可能比男性少。即使他们有,他们的反应也可能比熟练的年轻玩 慢。
HireVue的 席技术官Loren Larsen在 份新闻稿中指出,基于游戏的评估可以衡量“情绪智商”,并且“基于对认知能力的理解,使招聘经理能够更多地了解候选人的能力。”
视频采访会惩罚“开箱即用”的候选人吗?
EFF说,HireVue“从求职者那里收集面部数据,以评估情绪和性格表现”。它说所谓的“面部动作单元”占应聘者分数的29%。
但是,HireVue的算法如何评估那些患有抑郁症或非英语母语人士的超重候选人?那么自闭症患者倾向于注视人们的嘴巴并避免直接的眼神交流呢?
HireVue在9月发布了 份新闻稿,宣布它已与非营利组织Integrate Autism Employment Advisors合作,该公司帮助公司招聘“自闭症 域的合格专业人员”。IntegrateAutism网络中的600名候选人将接受如何使用HireVue平台的培训。如果HireVue的算法不惩罚自闭症候补者,那么将需要进行这样的努力。
EFF指出,马里兰大学罗伯特·史密斯商学院告诉学生,准备进行AI面试:“机器人将您与现有的成功案例进行了比较;他们不会寻找现成的候选人。”
EFF指出,在得知历史就业数据优 考虑男性候选人而不是女性之后,亚马逊放弃了AI招聘工具。在这种情况下,系统会对简历进行惩罚,其中包括“妇女” 词和所有女子大学的名称。EFF认为,真正判断招聘算法是否公正的唯 方法是“将其关闭,并使用其他条件聘用某人,以确定他们是否达到或不符合相同的绩效标准。”
该算法是秘密
重要的是,HireVue的算法是秘密的,因此公众无法得知它是否歧视年龄较大的工人,妇女,残疾人和少数民族等。EFF说,HireVue拒 向求职者提供评估分数。
EFF指控HireVue违反了《联邦贸易通讯法》,因为它缺乏支持其主张的“合理依据”,并且无法为其秘密算法评估的正常运行负责。EFF还对HireVue的论点提出异议,该论点是HireVue不使用面部识别技术进行身份识别,这被认为违反了FTC法案。
EFF称,HireVue的平台也未达到由经济合作与发展组织(OECD)的36个成员国(包括美国)批准的AI原则中规定的基于AI决策的 低标准。每个人都有权知道与他们有关的AI决策的依据,只有在对其风险进行充分评估之后才可以部署AI系统,并且机构必须确保AI系统不会反映出不公平的偏见。