人工智能引发道德问题科技巨头成立伦理委员会

2017-04-07 10:33:56来源：DeepTech深科技编辑：半城明灭关键词：人工智能机器人谷歌阅读量：36644

导读：随着人工智能的发展，机器人正应用到更为广泛的领域，并承担了许多人类的决策职责，这引发了对于社会公平、伦理道德的高度关注。

　　【中国智能制造网智造快讯】随着人工智能的发展，机器人正应用到更为广泛的领域，并承担了许多人类的决策职责，这引发了对于社会公平、伦理道德的高度关注。科技巨头也认识到了人工智能可能带来的道德风险，并成立了伦理委员会加强应对。

　　俗话说：权利越大，责任越大。人工智能技术正变得越来越强大，那些早开发和部署机器学习、人工智能的企业现在也开始公开讨论其创造的智能机器给伦理道德带来的挑战。

　　在《麻省理工科技评论》的EmTech峰会上，微软研究院的常务董事埃里克·霍维茨(Eric Horvitz)说：“我们正处于人工智能的转折点，人工智能理应受到人类道德的约束和保护。”

　　霍维茨与来自IBM和谷歌的研究人员仔细讨论了类似的问题。大家都很担忧是，人工智能近取得的进步使其在某些方面上的表现超越了人类，例如医疗行业，这可能会某些岗位的人失去工作的机会。

　　IBM的研究员弗朗西斯卡·罗西(Francesca Rossi)举了一个例子：当你要使用机器人去陪伴和帮助老年人的时候，机器人必须遵循相应的文化规范，即针对老人所处的特定文化背景执行特定的任务。如果你分别在日本和美国部署这样的机器人，它们将会有很大的差异。

　　虽然这些的机器人可能离我们的目标还很遥远，但人工智能已经带来了伦理道德上的挑战。随着商业和政府越来越多地依靠人工智能系统做决策，技术上的盲点和偏见会很容易导致歧视现象的出现。

　　去年，一份ProPublica报告显示，一些州使用的风险评分系统在通知刑事审判结果中对黑人存在偏见。同样，霍维茨描述了一款由微软提供的商用情绪识别系统，该系统在对小孩子的测试中表现很不准确，原因在于训练该系统的数据集图片很不恰当。

　　谷歌的研究员玛雅·古帕(Maya Gupta)呼吁业界要更加努力地提出合理的开发流程，以确保用于训练算法的数据公正、合理、不偏不倚。她说：“很多时候，数据集都是以某种自动化的方式生成的，这不是很合理，我们需要考虑更多因素以确保收集到的数据都是有用的。想想我们仅从少数群体中选样，即使样本足够大，这就一定能确保我们得到的结果很准确吗？”

　　去年一年，无论是在学术界还是在工业界，研究人员对机器学习和人工智能所带来的伦理挑战做了大量研究。加州大学伯克利分校、哈佛大学、剑桥大学、牛津大学和一些研究院都启动了相关项目以应对人工智能对伦理和安全带来的挑战。2016年，亚马逊，微软，谷歌，IBM和Facebook联合成立了一家非营利性的人工智能合作组织(Partnership on AI)以解决此问题(苹果于2017年1月加入该组织)。

　　这些公司也正在各自采取相应的技术安全保障措施。古帕强调谷歌的研究人员正在测试如何纠正机器学习模型的偏差，如何保证模型避免产生偏见。霍维茨描述了微软内部成立的人工智能伦理委员会(AETHER)，他们旨在考虑开发部署在公司云上的新决策算法。该委员会的成员目前全是微软员工，但他们也希望外来人员加入以应对共同面临的挑战。Google也已经成立了自己的人工智能伦理委员会。

　　实施了这些项目的公司大致认为它们不需要政府采取新形式来实现对人工智能的监管。但是，在EmTech峰会上，霍维茨也鼓励讨论一些的结果，这可能会导致一些人得出相反结论。

　　在二月份，霍维茨组织了一场研讨会，他们详细地讨论了人工智能可能带来的危害，比如搞乱股票市场，干扰选举结果。霍维茨说：“如果你积极主动一点，你可能会想出人工智能将产生的某些不好的结果，并能够提出相应的机制阻止它们的发生。”

　　这样的讨论似乎引发了其中一部分人的恐慌。古帕也因此鼓励人们去考虑人类应该如何决策，使这个世界变得更加道德。

　　她说：“机器学习是可控制的，是的，是可用统计学来衡量的。并且，这里存在着很多让社会变得更加公正、更加道德的可能性。”

　　原标：人工智能引发伦理问题，科技巨头成立伦理委员会

上一篇：人工智能暗藏失控风险保护知识与记录事实需趁早

下一篇：智能家居风来了家电企业开启连横合纵模式

我要评论

全域人工智能之城建设驶入快车道
市科委、中关村管委会，市经济和信息化局，市发展改革委，市政务和数据局，市卫生健康委，北京经开区管委会领导出席，来自各央国企、研究机构，及京内外近500家人工智能上下游生态企业与会。
人工智能中国智造
2025-04-30 09:49:19
AI已经成为人形机器人最大的瓶颈？
在看似繁荣的表象下，行业共识正在逐渐浮现：人工智能(AI)技术的滞后，已成为人形机器人实现真正智能化的最大瓶颈。
人形机器人人工智能
2025-04-28 15:32:08
从“原子”到算法！人工智能领域的“元素周期表”诞生
研究团队发现，处于同一“主族“的算法(如支持向量机与核方法)具有相似的数学内核，而位于相同“周期“的算法(如决策树与随机森林)则共享相近的泛化能力图谱。
人工智能计算机科学
2025-04-27 17:01:21
宾利发布突破性人工智能皮革检测技术
人工智能皮革检测系统并不能完全取代宾利训练有素的工匠的技艺。通过自动化人工检测流程，该系统能够提供最高品质的皮革，工匠们可以用它来打造精致的手工缝制细节。
人工智能皮革检测技术
2025-04-27 14:42:55
早报|深圳大学人工智能学院正式揭牌成立；SK海力士完成96GB CXL内存模块验证
深圳大学人工智能学院正式揭牌成立,学院建设基础学科研究中心和算力平台，与腾讯云共建产业学院；SK海力士宣布，其基于CXL 2.0标准的DDR5 96GB内存模块已通过客户验证......
人工智能内存模块数据传输设备
2025-04-23 10:41:12
禾赛科技与三家科技企业达成合作
禾赛科技的激光雷达与群核科技的空间理解模型 SpatialLM、空间智能解决方案 SpatialVerse 融合，可实现毫米级 3D 空间建模与物理属性智能标注。
激光雷达机器人仿真训练
2025-04-22 14:40:39

版权与免责声明：

凡本站注明“来源：智能制造网”的所有作品，均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品，未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的，应在授权范围内使用，并注明“来源：智能制造网”。违反上述声明者，本站将追究其相关法律责任。

本站转载并注明自其它来源（非智能制造网）的作品，目的在于传递更多信息，并不代表本站赞同其观点或和对其真实性负责，不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时，必须保留本站注明的作品第一来源，并自负版权等法律责任。如擅自篡改为“稿件来源：智能制造网”，本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多，如涉及作品内容、版权等问题，请与本站联系并提供相关证明材料：联系电话：0571-89719789；邮箱：1271141964@qq.com。