检测到女性就打低分？亚马逊AI招聘工具被曝性别歧视

亚马逊公司的机器学习专家找到了一个大问题：他们的新聘用引擎不过于讨厌女性。据路透社援引五位知情人士的消息称之为，从2014年开始，这支团队仍然在研发审查求职者履历的计算机程序，期望构建人才搜寻的机械化。仍然以来，亚马逊在电商市场霸主的关键乃是仓库或定价决策的自动化。

公司的试验性聘用工具不会利用人工智能技术为求职者评分（一星到五星平均）——一些人回应，这就看起来购物者在亚马逊上给产品评分。一位知情人士说，“他们知道期望有这样一种引擎，那就是我扔给你100份履历，你能区分出有名列前五的求职者，然后我们就雇用这部分人。

”但到2015年，公司意识到它的新系统并无法基于“性别中立”的原则来为软件开发者岗位或是其他技术岗位的求职者展开评级。这或许是因为亚马逊的计算机模型在拒绝接受训练时，仔细观察的是十年来投递给公司的履历并要借此找到固有模式。

大多数履历都是男性投递的，这也体现了科技行业男性主导的现象。事实上，亚马逊的系统是自己学会替代性男性求职者的。

据知情人士透漏，该系统不会给与包括“女性”这个词的履历以低星评级。它还不会给两所女子大学的毕业生展开降分评级。知情人士未透漏两所学校的名字。

亚马逊改动了这些程序，使其对于特定的术语可以秉承中立的原则。但是，这仍然无法确保机器会想要出有其他的方式、以歧视性的态度对一些求职者展开分类。

最后，这家西雅图公司因为高层管理人员对该项目丧失了信心，在去年初退出了该团队。知情人士回应，在之前聘用新的员工时，亚马逊的聘用人员不会查阅该工具获取的建议，但意味著会起码倚赖这些名列做出决策。亚马逊拒绝接受对于该聘用引擎或面对的挑战做出评论，但是公司回应自己仍然致力于确保公司的员工多样性和公平。

公司的此次实验也为机器学习的容许获取了一项案例研究。对于更加多想构建聘用流程部分自动化的企业来说，例如希尔顿全球控股公司和高盛集团公司，这也是一次经验和教训。根据人才软件公司CareerBuilder2017年展开的一项调查，55%的美国人力资源经理回应人工智能将在未来五年时间内沦为他们日常工作中使用的工具。雇员仍然以来想利用科技不断扩大招聘网、增加对于聘用人员主观观点的倚赖。

但是一些计算机科学家，还包括在卡内基梅隆大学教授机器学习的NiharShah，他们皆回应这件事仍然路漫漫其修远兮。“如何保证算法的公平、如何保证算法的可解读性以及可解释性——这还必须很长一段时间来构建。

”他这样说。男性话语亚马逊开始实验之时，正是这家全球仅次于在线零售商发展的关键时机。由于低成本计算力的剧增，机器学习在科技行业内更有了大家更加多的注目。而亚马逊的人力资源部门也开始可怕招聘员工：根据递交给监管机构的文件表明，从2015年6月开始，公司的全球员工总数早已减少了两倍多，人数为57.57万人。

因此，公司在亚马逊爱丁堡的工程中心创建了一个团队，团队人数约在十几人左右。据知情人士透漏，他们的目标就是研发人工智能技术，使其较慢捕捉网页信息、找到有一点聘用的求职者。

团队研发了500个专心于特定工作职能及方位的计算机模型。他们不会训练每个模型去辨识过去求职者履历中经常出现的5万个术语。算法不会自学给IT求职者中少见的技能展开最重要级排序，比如说撰写有所不同程序的能力等。

事实上，这项技术不会偏向于那些在履历中用于动词来叙述自己的求职者，用于动词这一点在男性工程师的履历中经常不会看见，例如“继续执行”、“捕捉”等。性别歧视不是唯一经常出现的问题。承托该模型做出辨别的数据问题还在于，不合格的候选人不会被引荐到有所不同的岗位。

知情人士回应，鉴于这项技术不会随机对系统结果，亚马逊最后中止了该项目。问题还是解决问题方法？其他公司也在前赴后继展开尝试，这也指出雇员们都急迫想将人工智能技术用作人才聘用。盐湖城附近的一家创业公司HireVue的首席继续执行官凯文·帕克（KevinParker）回应，自动化可以协助企业跑出他们以往长年倚赖的一成不变的聘用网络。他的公司不会在视频试镜中分析求职者的言语和面部表情，进而增加对履历的倚赖。

“你会再行去使用老一套的聘用方式。你会只想着看求职者是不是常青藤盟校毕业的。

”帕克说。他公司的客户还包括联合利华和希尔顿。该公司回应高盛早已研发了自己的履历分析工具，不会将求职者与“最合适”他们的部门展开给定。微软公司旗下的LinkedIn是全球仅次于的职业社交网络，在这一方面，它获得的进展更为显著。

它不会根据网站上公布的岗位消息，利用算法为雇员获取求职者的名列。LinkedInTalentSolutions的副总裁约翰·杰辛（JohnJersin）回应，这项服务并无法替代传统的聘用人员。

“我当然会安心由任何一种人工智能系统自行做出聘用决策。”他说，“现在的技术还没发展到那个地步。”一些活跃人士回应很担忧人工智能的透明度问题。

美国公民自由联盟（ACLU）正在谋求法律，容许经研究人员和记者测试过后、对使用歧视性算法的聘用网站驳回刑事检控。“我们早已更加注目算法的公平性问题。”ACLU种族司法项目的律师瑞秋·古德曼（RachelGoodman）说。

但是古德曼以及其他抨击人工智能技术的人士也否认，要想要就自动化聘用问题控告雇员，这是一件极为艰难的事情：岗位求职者或许总有一天都会告诉企业否使用了这种技术。对于亚马逊来说，公司早已顺利从告终的人工智能项目中汲取到了经验和教训。据知情人士称之为，公司目前用于的是一种“淡化”版的聘用引擎，这将协助公司处置一些基本工作，还包括从数据库中去除反复的求职者资料。

公司在爱丁堡还正式成立了一个新的团队，将再度尝试自动化聘用检验，这一次实验注目的是多样性问题。

本文来源：银河国际官方网站-www.privateerstore.com