正在阅读:机器人也有歧视与偏见 人类当警惕AI阴暗面

机器人也有歧视与偏见 人类当警惕AI阴暗面

2017-09-12 09:28:07来源:中国智能制造网 编辑:齐之越 关键词:人工智能机器人人机交互阅读量:63842

导读:近年来,除了机器伤人事件,AI的歧视与偏见问题也开始显现,人类的心灵垃圾已经污染了机器之心。
  【中国智能制造网 本站原创】近年来,除了机器伤人事件,AI的歧视与偏见问题也开始显现,人类的心灵垃圾已经污染了机器之心。除了种族、性别、健康、经济等方面的歧视,人工智能还可能把不友好的目光投向一些特殊群体。 
机器人也有歧视与偏见 人类当警惕AI阴暗面
 
  近日,因两次“逃跑”而闻名的俄罗斯机器人Promobot再度成为媒体关注的焦点,因为它与前来视察其所在园区的俄罗斯总统普京握了手。这台机器人的出逃主要源于未被发现的程序错误。由于在逃跑过程中未对人类造成任何伤害,Promobot的出格行为引来诸多网友的打趣与追捧,其俨然成为网红般的存在。
 
  然而,人工智能黑箱里所隐藏的错误与不足可并不总会引出这种“可爱”的行为,人类必须严肃对待AI或隐或现的阴暗面。近年来,除了机器伤人事件,AI的歧视与偏见问题也开始显现,人类的心灵垃圾已经污染了机器之心。
 
  就目前情况来看,AI的歧视主要存在于种族和性别两个方面。
 
  2015年,谷歌推出了一项图像识别的新应用,但很快便收到来自黑人用户的不良反馈,因为该应用将一些黑人的照片判别为“大猩猩”。更有甚者,在2016年举行的一场由AI担任裁判的选美大赛上,这位理性的评委选出的44位优胜者中,仅有一位是深色皮肤人种,而绝大多数是白人。
 
  AI同样戴着歧视女性的有色眼镜。一些由AI控制的搜索引擎在投放广告时,有意更少地向女性用户展示高薪职位,而且想当然地把女性与教育类、艺术类、照护类职业联系在一起。
 
  照此趋势发展下去,AI还将习得更多人类世界的歧视与偏见。在大数据、云计算等其他技术的帮助下,AI将获得并分析越来越多人类的隐私信息,并悄无声息地做出比人工更为的判断。如此一来,当健康状况较差、体质较弱的人去购买保险,当经济条件欠佳的人去分期付款购买商品,人工智能系统便有可能先于人类做出判断,无情地将弱者拒之门外。
 
  除了种族、性别、健康、经济等方面的歧视,人工智能还可能把不友好的目光投向一些特殊群体。近日,斯坦福大学的一个研究团队开发出一种新的AI算法,能够根据头像照片判断一个人的性取向,准确率相当惊人。尤其是对于男性性取向的判断,在提供五张照片的情况下,准确率能达到91%。虽然该团队并未表明要将这种算法投入现实应用,但其蕴含的能力显然是种潜在威胁,可能导致同性恋人群的隐私遭到曝光,加深社会对这一群体的歧视,而AI无疑就是其中推波助澜的关键角色。
 
  AI本身没有自主意识,也没有主观情绪,那么它的歧视与偏见是怎么来的呢?源头自然还是人类本身。造成AI歧视问题的原因大致有二。其一,AI的深度学习往往建立在大量既有数据的基础上,而这些来源于人类社会的数据不可避免地带有人类集体意识的各种成分,鱼龙混杂,因此人类持有怎样的偏见,则AI也自然而然有样学样;其二,从事人工智能与机器学习研究的科研人员以男性、白种人居多,女性、有色人种、少数族群占比较少,因此AI产品很容易沾染上其研究者的主流意识形态和思维特征,表现出研究者的主流好恶。
 
  歧视与偏见给人类带来了怎样的痛苦与灾难、消除歧视与偏见对于人类何其之难,相信这个社会中的每一个成员都有所体会。人工智能是人类用智慧培养起来的新生儿,若是想让它更好地反哺人类,那么我们必须从当前这初始阶段就提高警惕,谨防自身的黑暗蔓延开去,污染了这张白纸。
我要评论
文明上网,理性发言。(您还可以输入200个字符)

所有评论仅代表网友意见,与本站立场无关。

  • 2027中国—东盟AI合作年:智能经济落地,区域协同破题

    中国与东盟将2027年定为“人工智能合作年”。2027年被赋予特殊权重,是因为多个层面的政策目标和产业拐点在这一年集中交汇。国务院《关于深入实施“人工智能+”行动的意见》将2027年的刻度定为新一代智能终端和智能体应用普及率超过70%。
    人工智能具身智能智能体
    2026-11-16 14:59:12
  • 中国信通院联合发起可信具身智能倡议

    作为人工智能与机器人深度融合的软硬一体系统,具身智能进入物理世界后,将直接影响周围人、物和环境,复杂开放的环境也对系统稳定运行提出了更高要求。
    具身智能人工智能
    2026-11-17 11:29:10
  • 中国信通院孙强等:从单点智能到群体协作,多智能体协同打开产业应用新空间

    当前,我国正在推进智能体规范应用、互联标准和典型场景建设,加快多智能体协同技术与产业需求深度融合,对深入实施“人工智能+”行动、培育智能经济新形态具有重要意义。
    智能体人工智能
    2026-11-17 09:00:06
  • 投资6个亿!年产1000万套机器人轴承生产线在南京开工

    南京光力精工有限公司年产1000万套机器人轴承生产线项目近日在南京溧水区正式开工建设。这是溧水近期落地的又一个机器人及高端装备制造项目,也折射出核心零部件环节持续升温的产业节奏。项目投产后,年销售收入有望突破3亿元,产品将面向工业机器人、高端机床等下游行业,匹配相关领域对高精度通用设备零部件的市场需求。
    机器人机器人配件轴承
    2026-11-17 10:04:41
  • 硬科技融资潮:机器人、AI芯片多项目拿到数亿元融资

    近期,全球AI基础设施、半导体芯片、具身智能机器人、量子计算、AI药物研发等赛道迎来一波密集融资,国内多家硅光芯片、空间感知芯片、端侧机器人芯片、超导量子计算、传感器厂商相继完成亿元级融资,海外机器人企业、储能型模块化AI数据中心公司也落地大额融资。
    机器人AI芯片
    2026-11-18 10:21:50
  • 福建省将推进“人工智能+”生态治理行动 构建省生态环境与绿色低碳行业大模型

    《福建省推动“人工智能+”行动方案(2026—2028年)》近日印发,将构建省生态环境与绿色低碳行业大模型,建设不少于10个应用场景。
    人工智能环保应用方案
    2026-11-17 11:55:50
版权与免责声明:

凡本站注明“来源:智能制造网”的所有作品,均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品,未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:智能制造网”。违反上述声明者,本站将追究其相关法律责任。

本站转载并注明自其它来源(非智能制造网)的作品,目的在于传递更多信息,并不代表本站赞同其观点或和对其真实性负责,不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时,必须保留本站注明的作品第一来源,并自负版权等法律责任。如擅自篡改为“稿件来源:智能制造网”,本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多,如涉及作品内容、版权等问题,请与本站联系并提供相关证明材料:联系电话:0571-89719789;邮箱:1271141964@qq.com。

不想错过行业资讯?

订阅 智能制造网APP

一键筛选来订阅

信息更丰富

热门话题/TOPICS更多
推荐产品/PRODUCT 更多
智造商城:

PLC工控机嵌入式系统工业以太网工业软件金属加工机械包装机械工程机械仓储物流环保设备化工设备分析仪器工业机器人3D打印设备生物识别传感器电机电线电缆输配电设备电子元器件更多

我要投稿
  • 投稿请发送邮件至:(邮件标题请备注“投稿”)1271141964.qq.com
  • 联系电话0571-89719789
工业4.0时代智能制造领域“互联网+”服务平台
智能制造网APP

功能丰富 实时交流

智能制造网小程序

订阅获取更多服务

微信公众号

关注我们

抖音

智能制造网

抖音号:gkzhan

打开抖音 搜索页扫一扫

视频号

智能制造网

公众号:智能制造网

打开微信扫码关注视频号

快手

智能制造网

快手ID:gkzhan2006

打开快手 扫一扫关注
意见反馈
我要投稿
我知道了