谷歌研发能末日攻击的“切断开关”防人工智能威胁

2016-06-06 11:43:58来源：36氪原标题：谷歌在研发人工智能末日攻击的“切断开关” 关键词：机器人人工智能 AI阅读量：31949

导读：天生具备拯救人类使命感的 Elon Musk 以及地球聪明的大脑之一霍金都认为，机器对人类的威胁并非杞人忧天。

　　【中国智能制造网企业动态】Google收购的英国人工智能公司DeepMind已经展现出AI先进的自学能力，其算法不仅在玩游戏比人厉害，而且还在与人类围棋选手的对决中取得了压倒性的胜利。这不仅引发了AI超越人类的担忧，甚至还有人担心类似《未来终结者》那样天网对人类杀戮时刻的到来。现在DeepMind决定未雨绸缪，据英国镜报报道，在近日公布的一篇论文中，DeepMind提出了给机器人安装“切断开关(killswitch)”的想法，为的是阻止AI学会如何阻止人类对某项活动(比方说发射核武器)的干预。用专业术语来说，这叫做“安全可中断性”。

　　关于安全科中断性的作用，论文写道：安全可中断性可用于控制机器人不端甚至可能导致不可逆后果的行为，或者将其从微妙处境中脱身出来，或者甚至临时用来实现某项机器人尚未学会执行或者未必会为此受到奖励的任务。

　　天生具备拯救人类使命感的ElonMusk以及地球聪明的大脑之一霍金都认为，机器对人类的威胁并非杞人忧天。去年底的时候，Musk和孵化器YC的总裁SamAltman共同宣布设立一家非盈利的人工智能公司OpenAI。他们希望，这个项目能够抵消邪恶的人工超级智能可能带来的威胁。这种威胁的可能性正如牛津大学的哲学家NickBostrom发出的警告一样—如果毫无限制地分享人工智能的研究成果，在没能确保安全的情况下，一些不怀好意的人可能就会利用它干坏事：“如果你有一个按钮，只要按一下就能够对世界造成破坏，你肯定不希望每个人都拥有一个这样按钮。”而DeepMind的研究，就是对这样一种按钮的切断按钮。不过将来的问题也许是，哪一个按钮会先起效？

上一篇：惠普和Carbon正在从软件方向等颠覆3D打印行业

下一篇：Facebook发布人工智能搜索引擎 DeepText

我要评论

工信部启动AI应用服务商培育专项行动：2026年底前突破2000家
8月31日，工业和信息化部办公厅关于开展人工智能应用服务商培育专项行动的通知。从顶层设计来看，开篇即明确其上位法依据，即国务院关于深入实施人工智能加行动的意见中提出的培育人工智能应用服务商、打造人工智能应用服务链等工作安排。
人工智能AI应用服务商
2026-08-31 17:35:30
英伟达第二季度营收962亿美元，同比增长106%
英伟达于8月27日发布2027财年第二季度财务报告。报告显示，截至2026年7月26日，该公司第二季度收入达962亿美元，较上一季度增长18%，较去年同期增长106%。

英伟达AI
2026-08-31 09:51:26
2027年值得关注的五大人工智能趋势
2027年的人工智能发展将呈现几个鲜明方向：自主智能体从试点走向生产环境，多模态能力成为主流应用基础设施，人工智能基础设施从“算力优先”转向“算力与能源并重”，低成本工具进一步降低中小企业的使用门槛，同时人工智能辅助软件开发逐渐融入标准研发流程。
人工智能人工智能基础设施
2026-08-31 10:37:26
大晓机器人联合香港大学发布StreamPI，重构机器人时序智能
近日，大晓机器人联合香港大学发布全新的连续物理智能研究成果 StreamPI(Streaming Multimodal Temporal Modeling for Vision-Language-Action Models)，直指 VLA 长期存在的“单帧智能”瓶颈，为其补上关键的“时间维度”。使机器人能够记住过去、理解状态变化、判断任务进程，并利用跨帧信息增强精细空间感知与动作决策。
机器人具身智能
2026-08-31 10:27:38
人形陪伴机器人：像人容易，懂人难
从优必选U1系列到卓益得Moya，从一直在智能科技(Robonova.i)的Eva.i到影子科技的“佳伴”，越来越多的企业正在闯入人形陪伴机器人赛道。　孤独经济是真的，情绪付费的意愿也是真的，LOVOT已经证明了这一点。但人形机器人是不是这门生意的最优解，仍然悬而未决。
机器人具身智能
2026-08-31 10:15:55
灵初智能与奥比中光达成战略合作，推进具身数据采集“软硬协同”
灵初智能与行业领先的机器人视觉及AI视觉科技公司奥比中光正式达成战略合作关系。双方将围绕真实世界数据采集需求，共同打造“软硬件一体化”数据采集解决方案，加速具身智能产业落地。
机器人具身智能
2026-08-31 09:25:42

版权与免责声明：

凡本站注明“来源：智能制造网”的所有作品，均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品，未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的，应在授权范围内使用，并注明“来源：智能制造网”。违反上述声明者，本站将追究其相关法律责任。

本站转载并注明自其它来源（非智能制造网）的作品，目的在于传递更多信息，并不代表本站赞同其观点或和对其真实性负责，不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时，必须保留本站注明的作品第一来源，并自负版权等法律责任。如擅自篡改为“稿件来源：智能制造网”，本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多，如涉及作品内容、版权等问题，请与本站联系并提供相关证明材料：联系电话：0571-89719789；邮箱：1271141964@qq.com。

不想错过行业资讯？

订阅 智能制造网APP

一键筛选来订阅

信息更丰富

今日焦点/FOCUS 更多

热门话题/TOPICS更多

2026世界人形机器人大会

大赚27亿，储能电池营收暴涨244%，千亿光储巨头半年报出炉

扣非净利暴涨770％！云南锗业中报很“亮眼”

工业互联网新蓝图·新政解读

《关于推动工业互联网高质量发展的实施意见》解读之十一——工业互联网高质量发展与线缆行业深度融合五点举措

工业和信息化部等八部门印发《关于推动工业互联网高质量发展的实施意见》的通知

精彩直播/VIDEO更多

回放

AI大潮奔涌钱塘！GK探馆直播带你云逛杭州人工智能展

: 【与智造同行】走进华为AI＋制造行业峰会2025——如何让智能制造走深走实？华为给你答案！

: 数字孪生赋能新型工业化分论坛

推荐产品/PRODUCT 更多

希而科代理 Beck 差压变送器
微压差控制器,暖通风压开关,过滤器压差监测开关,机械式可调差压开关,Beck Climair 通风差压开关
品牌
beck
便携式相位测试仪性价比高的进口相位计
相位计
品牌
其他品牌
高压直流电导测试系统
高压直流绝缘电导测试系统,绝缘材料高压直流电导率测试仪,高压直流微弱电流电导测量装置,绝缘材料直流电导试验机,高电场直流电导率测量系统
品牌
华测
双鸭山市玻璃钢污水处理设备
玻璃钢污水处理设备,玻璃钢污水处理设备用途,玻璃钢污水处理设备功能,玻璃钢材质,玻璃钢污水处理装置
品牌
明基环保
固定式甲烷红外气体检测报警器选型与安装国
可燃气体报警仪,可燃气体报警系统,有害气体报警器,可燃气体报警器,可燃气体探测器
品牌
安可瑞华
TRACO POWER DC/DC电源THL3-4822WI
TRACO POWER DC/DC电源,THL3-4812WI,THL3-4810WI,THL3-4823WI,THL3-4813WI
品牌
TRACOPOWER