【中国智能制造网 名家论谈】近日,Facebook关闭了用自己的语言“互相交流”的AI系统,引起了关注。地平线公司创始人余凯对此表示,国内媒体对此解读太过,这不过是一次正常的项目关闭而已。
8月1日,Facebook关闭“失控”AI系统的消息经社交媒体和科技媒体传播之后,引发一轮热议。
报道根据外媒的一篇报道,称Facebook不得不拔掉其研究人员正在研究的人工智能系统的插头,因为事情失控了。问题是,当这些机器人因互相谈判而获得奖励时,他们却没有因为用英语谈判而得到奖励,这导致了机器人开发了自己的语言。
报告指出:人工智能并没有在范围内关闭电脑或类似的东西,但它停止使用英语,并开始使用它所创建的语言。
初,人工智能的代理们使用英语互相交谈,但后来他们创造了一种只有人工智能系统才能理解的新语言,从而违背了他们的目的。这使得Facebook的研究人员关闭了人工智能系统,迫使他们只能用英语交谈。
腾讯科技查询到外媒报道所引用的报告源头,名为《Deal or No Deal end-to-end learning for Negotiation Dialogues》,这篇需要付费才能下载的文章中描述了上述部分内容。但是,本身并不是直接对整个AI的否定。
百度深度学习研究院创立者、地平线公司创始人余凯则告诉腾讯科技,Facebook“只不过是关闭了一个没有前景的小项目。”公司关闭一些不成功的项目很正常,但是这个事件被国内媒体“过分解读,危言耸听”。就技术本身而言,余凯称,程序生成一堆随机乱码,很常见。
可能是Facebook产品路线不清晰的一个小小的调整策略,在国内被放大到AI系统、人工智能威胁到人类的地步。甚至关联到斯蒂芬·霍金教授、特斯拉创始人马斯克等对人工智能的一些只言片语。
马斯克曾经强调人类应该对AI及其潜在危险保持警惕。“研究AI,好比在召唤恶魔。什么有个人拥有某种神秘力量,什么圣战这些乱七八糟的故事你肯定听过,然后那些人一开始总是自信能够控制恶魔——但结果大家都知道。”这番话是马斯克在2014年所言。这段话日后可能会经常被用到人工智能威胁论之中。
原标题:地平线创始人余凯:Facebook关闭AI系统是危言耸听
版权与免责声明:
凡本站注明“来源:智能制造网”的所有作品,均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品,未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:智能制造网”。违反上述声明者,本站将追究其相关法律责任。
本站转载并注明自其它来源(非智能制造网)的作品,目的在于传递更多信息,并不代表本站赞同其观点或和对其真实性负责,不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时,必须保留本站注明的作品第一来源,并自负版权等法律责任。如擅自篡改为“稿件来源:智能制造网”,本站将依法追究责任。
鉴于本站稿件来源广泛、数量较多,如涉及作品内容、版权等问题,请与本站联系并提供相关证明材料:联系电话:0571-89719789;邮箱:1271141964@qq.com。