资讯中心

AI算法招聘容易让求职者哑巴吃黄连?

2019-11-23 13:10:02来源:OFweek人工智能网 阅读量:23669

分享:
导读:在算法领域上缺乏共识,缺乏“偏见”和“公平”的正式定义,使得科技公司能够根据自己的条件定义算法偏见。
  招聘决策还充满了人为偏见,导致一些组织将至少部分员工搜索工作交给外部技术公司,后者使用机器学习算法筛选申请人。这种思维认为,如果人类很难找到适合自己公司的员工,那么一台机器可能会做得更好,更有效。
 
  但是,康奈尔大学计算机与信息科学学者团队的新研究向有关这些算法以及开发和使用它们的技术公司提出了疑问:自动筛选过程的公正性如何?算法是如何构建的?谁设计的?按什么数据支撑的?他们发现,在这个新兴领域中,公司倾向于青睐模糊不清而不是公开透明。在算法领域上缺乏共识,缺乏“偏见”和“公平”的正式定义,使得科技公司能够根据自己的条件定义算法偏见。
 
  “我认为算法决策工具的创建者越来越认识到,他们需要特别注意它们的算法工具是怎样影响人们的”计算机科学的博士生,Manish Raghavan说。 “我们研究中遇到许多技术供应商都承认这种了(影响),他们正在采取措施解决偏见和歧视。但是,在如何正确执行方面明显缺乏共识或指导。”
 
  为了了解这些工具,研究人员搜寻了可用的公共信息,以及公司采取了哪些措施来评估和缓解算法偏差。受知识产权法保护,科技公司不必披露任何有关其算法模型的职前甄选信息,但也有些公司选择了提供信息。研究人员研究了19个专门从事算法的职前筛选的供应商,对公司网站,网络研讨会和任何可用的文档进行了梳理,以深入了解供应商的要求和做法。他们发现,很少有供应商提供有关如何验证评估或披露有关如何减轻算法偏差的具体信息。
 
  Raghavan说:“许多供应商都没有提到消除偏见,这尤其令人担忧,因为他们根本没有考虑偏见。”即使他们使用“偏见”和“公平”这样的术语,但这些术语也可能是模糊的。供应商可以声称其评估算法是“公平的”,而无需透露公司如何定义公平性。
 
  那难道算法不适合筛选申请人吗?并不是的,尽管算法存在许多缺陷,但确实有潜力为更公平的社会做出贡献,我们需要做进一步的工作以确保我们能够理解和减轻它们带来的偏见。毕竟,从我们多年经验来说,求职者面试本身就会遭受各种各样的歧视。该团队希望这份研究能让算法公司对职前评估中道德行为有着更清晰的认知。
 
  (原标题:AI算法招聘容易让求职者哑巴吃黄连?)

我要评论

文明上网,理性发言。(您还可以输入200个字符)

所有评论仅代表网友意见,与本站立场无关。

相关新闻

日本医疗一线与AI合作进行图像诊断 2020-08-07 08:54:56
据日本《共同网》报道,为防止医生目视检查造成的癌症漏诊,日本医疗一线正在引进人工智能(AI)技术,利用大量分析病变图像数据的AI系统与医生联手,以提升癌症发现概率。政府还在加快批准搭载AI的医疗器械。
以色列人工智能技术的金融科技解决方案融资增长 2020-08-03 08:57:25
根据以色列创投数据中心(Start-Up Nation Central)近期发布的报告显示,以色列金融科技领域初创公司高达500多家,过去5年数量增长了86%。
四小龙之后,新一代AI企业如何崛起? 2020-07-28 09:21:18
在巨头林立的AI市场,初创企业究竟如何找寻新的场景?又如何构建自身核心优势,在市场中分得一杯羹?

版权与免责声明:凡本网注明“来源:智能制造网”的所有作品,均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品,未经本网授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:智能制造网”。违反上述声明者,本网将追究其相关法律责任。

本网转载并注明自其它来源(非智能制造网)的作品,目的在于传递更多信息,并不代表本网赞同其观点或和对其真实性负责,不承担此类作品侵权行为的直接责任及连带责任。其他媒体、网站或个人从本网转载时,必须保留本网注明的作品第一来源,并自负版权等法律责任。

如涉及作品内容、版权等问题,请在作品发表之日起一周内与本网联系,否则视为放弃相关权利。

不想错过最新资讯?

下载智能制造APP

一键筛选来订阅

信息更精准

图说智能 更多


关于我们|本站服务|会员服务|商站通服务|旗下网站|友情链接|诚聘英才|意见反馈|热词搜索|频道

智能制造网 - 工业4.0时代智能制造领域“互联网+”服务平台

Copyright 2020 gkzhan.comAll Rights Reserved法律顾问:浙江天册律师事务所 贾熙明律师

客服热线:0571-87756395采购热线:0571-87759926媒体合作:0571-89719789

客服部:采购部:编辑部:展会合作:市场一组:市场二组:

关闭