研究人员开发“失忆棒” 防止人工智能脱离控制

2017-12-06 10:16:49来源：环球网关键词：人工智能机器学习阅读量：29245

导读：人工智能发展愈发火热，推动着各领域变革不断深入。不过，人们也担心人工智能会带来威胁。为了防止人工智能脱离人类控制，近日有研究人员开发了类似“记忆清除”的新系统。

　　【中国智能制造网智造快讯】人工智能发展愈发火热，推动着各领域变革不断深入。不过，人们也担心人工智能会带来威胁。为了防止人工智能脱离人类控制，近日有研究人员开发了类似“记忆清除”的新系统。

　　据英国《每日邮报》12月5日报道，研究人员通过开发类似“记忆清除”的新系统来防止人工智能(AI)干预人类的控制，以防AI反控人类。

　　人工智能机器人可以从自身行为的结果中学习，以提高自己的能力，但专家说，这种特性可能导致AI的学习“无法停止”。现在，AI研究人员开发了一种新系统，他们把它比作电影《黑衣人》里能清除记忆的“失忆棒”，通过删除AI的部分记忆来中断它的学习，而不破坏它的学习方式。

　　瑞士洛桑联邦理工学院分布式编程实验室的教授Rachid Guerraoui说，“人工智能将寻求方法避免人类干预，创造一种人类无法阻止的情况。”研究人员称，必须开发新系统，防止AI绕过人类指令。

　　Guerraoui说：“我们面临的挑战不是阻止机器人学习，而是把它编程。这样一来，中断不会改变它的学习过程，也不会诱导它去优化自身行为，从而避免AI的学习被阻止。”

　　原标题：如何防止AI控制人类？研究人员开发“失忆棒”

上一篇：2017年智能制造大事记之日本篇（一）

下一篇：传统数据存储迎变革 NAS或将新风向

我要评论

昵称

匿名

文明上网，理性发言。（您还可以输入200个字符)

表情

所有评论仅代表网友意见，与本站立场无关。

WAIE2026（第十届）人工智能产业大会圆满收官！
本届大会以“智融百业，智启产力”为主题，以AI智能体为核心主线，分设“人工智能产业大会·AI 智能体产业前沿”“AI 智能体产业应用大会·千行百业落地”“AI 智能体产业应用大会·AI 智能体工业应用”三大专场，串起政策解读、技术路线、场景落地与工业深水区四个层次。
人工智能AI智能体
2026-11-13 16:14:29
早报|算力扩容倒逼电力迭代；大湾区首家通用具身智能大模型完成备案；
AIDC BBU电芯正迎来认证卡位窗口期，算力需求抬升倒逼电力配套迭代，为储能打开全新增量空间；自变量机器人自主研发的GreatWall通用具身大模型正式通过“广东省生成式人工智能服务备案”，成为大湾区首家完成备案的通用具身大模型......
人工智能通用具身大模型
2026-11-13 09:46:25
关于2026年度建材行业智能制造与人工智能十大科技进展征集与遴选工作的通知
聚焦建材行业智能制造发展前沿与实践成效，系统征集、评选并宣传2026年度在行业内产生积极影响、具备引领作用的智能制造科技进展与典型案例。
建材行业智能制造人工智能
2026-11-12 13:29:14
2026中国人工智能学会青年科学家大会定档！
2026年12月18日—20日，中国人工智能学会青年科学家大会将在广州举办。大会由中国人工智能学会主办，华南理工大学、CAAI青年工委会承办，立足人工智能科技发展前沿，集结院士专家、青年学者与产业界代表，共探人工智能发展的前沿方向与无限可能。
人工智能具身智能
2026-11-10 13:31:34
双环传动子公司环智云创入选浙江省第七批省级工业互联网平台名单
近日，浙江省经济和信息化厅《关于公布第七批省级工业互联网平台名单的通知》。经企业申报、地方推荐和专家评审，双环传动子公司环智云创“环智汇oWorks工业互联网平台”成功入选。这是对公司技术创新能力与平台建设成果的充分认可。
人工智能智能制造
2026-11-10 11:33:38
2026AI＋大会丨务实推动智能经济发展：第二届“人工智能＋”产业生态大会确立办会宗旨与目标
2026(第二届)“人工智能＋”产业生态大会定于12月1日—3日在北京举办。大会将“务实推动智能经济发展”拆解为两条主线。
人工智能智能经济
2026-11-10 11:30:53

版权与免责声明：

凡本站注明“来源：智能制造网”的所有作品，均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品，未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的，应在授权范围内使用，并注明“来源：智能制造网”。违反上述声明者，本站将追究其相关法律责任。

本站转载并注明自其它来源（非智能制造网）的作品，目的在于传递更多信息，并不代表本站赞同其观点或和对其真实性负责，不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时，必须保留本站注明的作品第一来源，并自负版权等法律责任。如擅自篡改为“稿件来源：智能制造网”，本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多，如涉及作品内容、版权等问题，请与本站联系并提供相关证明材料：联系电话：0571-89719789；邮箱：1271141964@qq.com。

不想错过行业资讯？

订阅 智能制造网APP

一键筛选来订阅

信息更丰富

今日焦点/FOCUS 更多

热门话题/TOPICS更多

进博会，共享中国机遇

九赴进博会，“全勤生”三星与中国共赢新未来

精度之上，是更长远的同行：华沿机器人&基恩士联合方案再次亮相进博会

三季报正密集披露

石头科技三季报：归母净利增41.23%，全球化布局持续显效

高速光模块占比超50%，剑桥科技前三季度营收49.21亿元、净利增193%

精彩直播/VIDEO更多

预告

【上午场】智能引领变革·AI重塑制造！GK直播逛2026世界智能制造博览会

: 【下午场】AI重塑制造下半场！GK直播继续逛2026世界智能制造博览会

: 2026中国工博会GK逛展直播——机器人展

推荐产品/PRODUCT 更多

装配机器人
分拣机器人,贴标机器人,点胶机械臂,装配机器人,上下料机器人
品牌
藦卡
HAHN/HAHN Gasfedern气弹簧28-032TF
HAHN可锁止气弹簧,任意位置锁定,弹性/刚性锁止,28mm缸径,HAHN Gasfedern
品牌
HAHN Gasfedern
高低温交变湿热试验箱满足不同行业需求
恒温恒湿试验箱,高低温试验箱,高低温交变试验箱,高低温湿热试验箱,高低温老化箱
品牌
湖北高天
旋耕刀座1.45kg在线重量检测秤高精度分选仪
高速检重秤,自动检重秤,分选检重秤,动态检重秤,在线检重秤
品牌
上海实干
钢材缓冲秤，小地磅，缓冲过磅秤
平台秤,称钢卷,称重
品牌
越衡
苏州超声波清洗机苏州全自动超声波清洗机
苏州超声波清洗机,苏州全自动超声波清洗机,苏州超声波清洗机厂家,苏州超声波清洗机价格,苏州超声波清洗设备
品牌

研究人员开发“失忆棒” 防止人工智能脱离控制

热门评论

全部评论