人工智能在招聘中：能减少偏见还是让招聘变得更糟？

使用人工智能进行招聘听起来像是一个万无一失的计划。毕竟，人类是有缺陷和偏见的。但事实证明，人工智能也有着偏见。

长期以来，人工智能的批评者一直担心这项技术会减少劳动力中的就业机会。

新的研究表明，人工智能以一种意想不到的方式做到了这一点：基于性别、种族和年龄歧视合格的候选人。

人工智能有潜力在招聘中实现公平竞争——但并不是因为它是由人类训练的。现在就让我们来分析一下。

偏见是从哪里来的？

理论上，人工智能筛查工具是完美的。它不会思考或判断，所以它可以做出客观的决定，对吧？不完全是。

随着人工智能应用的增加，报道的偏见事件数量也在增加。以下是仅2023年的一些：

–6月，彭博社报道称，对Stable Diffusion生成的5000张图像的分析强化了“比现实世界中更糟糕”的性别和种族刻板印象

–高薪工作总是以肤色较浅的受试者为代表，而低薪工作则与肤色较深有关。

–在性别问题上，也观察到了类似的陈规定型观念。收银员和社会工作者等角色主要由女性代表，而政治家和工程师的形象几乎完全由男性代表。事实上，数据集中的大多数职业都是由男性受试者显示的。

对此，运营Stable Diffusion的初创公司StabilityAI的发言人回应彭博社称，所有人工智能模型都存在基于训练数据集的偏差。问题就出在这里。

公司拥有或获取数据集。他们使用这些数据集训练人工智能模型。人工智能模型根据观察到的模式执行任务。所以，有缺陷的数据集=有缺陷的模型。

那么，当同样的人工智能模型被用于招聘时会发生什么呢？询问Workday，一家提供人力资源和财务解决方案的系统软件公司。

他们目前正面临由求职者Derek Mobley领导的集体诉讼，他说他们的人工智能筛查工具歧视老年人、黑人和残疾人申请人。

莫布里是一名40岁的黑人，被诊断患有焦虑和抑郁。他声称，自2018年以来，他申请了大约100个职位，尽管符合工作资格，但每次都被拒绝。他代表的是报告中同样被歧视的人数不详的人。

Workday的一位发言人表示，该公司定期进行内部审计和法律审查，以确保遵守法规，该诉讼毫无根据。

陪审团将决定这是否属实。但这并不是人工智能招聘软件第一次显示出偏见。

2017年，亚马逊取消了自己的人工智能筛选工具，因为它不太可能认为女性申请人有资格在男性主导的行业工作。

今年7月，斯坦福大学的研究人员发现，七种人工智能检测工具经常将非英语母语者的写作错误归类为人工智能生成。

人工智能检测工具测量文本困惑。简单地说，句子中的下一个单词越复杂，人工智能生成的可能性就越小。

由于词汇量有限，非英语母语的人可能会使用更简单的单词，检测工具更有可能将这些申请人的作品标记为由生成人工智能组成。

在工作场所，根据非本地求职者使用的词语，他们被筛选工具认为不太合格，因此风险可能会高得多。

这些事件都指向了同一个问题：当人工智能工具在存在文化、种族和性别差异的现有数据上进行训练时，它必将反映出公司在招聘上的某些偏见。

政府对人工智能招聘的偏见怎么说？

有一段时间，他们没怎么说话。

2019年，伊利诺伊州制定了一项法案，要求雇主在视频面试中通知候选人在使用人工智能分析。

马里兰州紧随其后，在未经申请人同意的情况下，禁止在就业前面试中使用面部识别。

然后，在2021年，平等就业机会委员会（EEOC）发起了一项名为“人工智能和算法公平倡议”的全机构倡议，以监测和评估技术在招聘实践中的使用情况。

同年，纽约市议会通过了一项法律，要求使用人工智能技术的雇主向申请人披露信息，并每年进行偏见审计。

顺便说一句，这项法律的实施始于2023年7月。但并不是所有人都认为这是一场胜利。

一些批评这项法律的人说，它不够具体，留下了漏洞。其他人则指出，它不包括对老年人或残疾人的歧视。

作为人工智能倡议的一部分，美国司法部和平等就业机会委员会还发布了一份联合指南，提醒雇主在使用人工智能工具进行就业决策时存在歧视风险。

他们建议不要“盲目依赖人工智能”，这可能会导致侵犯公民权利。Workday今天就就面临着这样的问题。

最近，平等就业机会委员会在一次听证会上听取了一系列证人的证词，包括计算机科学家、法律专家、雇主代表，讨论人工智能在工作场所的潜在好处和危害。

人工智能在招聘方面的下一步是什么？

美国各地的许多公司已经将人工智能集成到招聘流程中。在2022年对1688名受访者进行的一项研究中，SHRM发现79%的公司在招聘和招聘中使用自动化和/或人工智能。

在接下来的几年里，各组织应该对其招聘实践进行更多的监督。

纽约的这项新法律应该会在全国范围内产生多米诺骨牌效应，据报道，加利福尼亚州、新泽西州、佛蒙特州和纽约州正在制定自己的法律，以规范人工智能在招聘和招聘中的使用。

像亚马逊这样的资源密集型企业集团可以构建、培训和测试他们的工具，以获得更好的结果。但对于通过第三方供应商购买工具的公司来说，偏见和侵犯公民权利的风险还是很高。

对于使用任何人工智能技术进行就业的公司来说，彻底的审查和审计流程则会显得至关重要。

推荐阅读

人工智能在招聘中:能减少偏见还是让招聘变得更糟? | 文军营销人工智能在招聘中:能减少偏见还是让招聘变得更糟? 时间:2023-10-27 15:10:15 使用人工智能进行招聘听起来像是一个万无一失的计划.毕竟,人类是有缺陷和偏见的.但事实证明,人工智能也有着偏见. 长期以来,人工智能的批评者一直担心这项技术会减少劳动力中的就业机会. 新的研究表明,人工智能以一种意想不到的方式...编程怎么学 如何学习软件编程 | 文军营销用户画像的应用:如何提升个性化推荐 人工智能给网络专业人士带来的3大挑战 人工智能在招聘中:能减少偏见还是让招聘变得更糟? 对于客户服务代表有效的4个AI写作方法 为什么你的ChatGPT提示不起作用? 2023年人工智能对客户留存的影响 OpenAI如何影响网站的发展,设计以及更多 190种营销人员应该使用的提示词 如何有效向chat...