智能制造网APP
智能制造网手机站
智能制造网小程序
智能制造网官微
智能制造网服务号
智能控制
机器人
仪器仪表
物联网
3D打印
工业软件
回放
品牌
CINCON
【中国智能制造网 智造快讯】近日，人工智能创造自己的语言并进行交流引发了世界关注。其实，相对于此，人工智能的武器化、以及控制和发展才是更值得我们担心的。
在过去的几周里，你可能看到过你的Facebook好友分享过这样一篇文章，内容是关于一对由人工智能驱动的Facebook聊天机器人是如何偏离他们初设定的程序，并发明自己的语言的。
关键是：Facebook创建了两个人工智能聊天程序，可以相互交谈(并互相学习)，终他们停止了用英语交流，并开始用一种非英语的语言进行交流，这些语言是它们自己“发明的”。
新闻头版纷纷报道了这一事件，从夺人眼球的噱头到抽丝剥茧的分析，如每日电讯报的“聊天机器人发明新语言进行沟通Facebook被迫选择关闭”，让人听起来像是这些聊天机器人正在密谋反抗人类，或是对人类构成威胁。随便看看这些新闻底下的评论，你就会发现大家的反应有恐惧、兴奋甚至高兴，有人说道“这一天终于来了”或引用其他艾萨克·阿西莫夫小说中的语句。
但正如Facebook人工智能部的艾特鲁夫巴特拉周一指出的那样，几十年来，人工智能一直在“发明”新的沟通方式，所以这其实算不上新闻。此外，他还解释说，与新闻标题相反的是，这个实验并没有被关闭，只是为了调整语言交流而改变了。
此外，公司也没有试图隐瞒实验细节。所有的一切都是公开的，所有的细节都可以在GitHub上查到，允许其他程序员复制这个场景。
底线是：在人工智能方面，新的人工智能语言不该是我们担心的问题。
下面才是我们应该担心的事情
像埃隆·马斯克和比尔·盖茨这样的有技术头脑的人已经贡献了大量的时间和金钱，来解释人工智能是一种威胁，并寻找新的方法提高其道德水平。
这些才是我们应该关注的主要领域：
武器：
武器军用无人机已经投入使用，自动化武器被认为是第三次战争革命。自动化的智能武器让更少的士兵受到伤害，而且远比战斗机或核材料等先进技术便宜。例如，当前的“收割者”无人机价格约为1300万美元，而一架战斗机的价格为1亿美元。在未来，它们将变得更加廉价，而且不受监管(也意味着极其强大)的移动武器也将更加便宜，任何人都可以通过编程来杀死和摧毁对方(除非我们主动采取安全措施)。
控制：
控制也许重要的不是人工智能本身，而是谁在控制它。我们正在应对的是那些有能力重塑世界的力量，如果它们被贪婪的公司、渴求能源的国家、甚至是善意的个人所垄断，这些人根本不知道自己在做什么，那么这项技术很容易被滥用或误用。这就是为什么硅谷的一些影响者和人工智能研究人员聚集在一起，成立OpenAI，这是一项让全世界都能使用人工智能的倡议，而不仅仅是一群特别的人。这一举措并不“便宜”，据报道，该项目一位的人工智能研究人员的报价是其市场价值的两到三倍。
发展：
人工智能的另一个问题是在不受参数控制的情况下，人工智能的发展速度。通用人工智能(AGI)具有指数级的成长能力，因为它将会自我提升，并且在某一时刻会超过其创造者的智力。农业时代延续了几千年，工业时代延续了数百年，信息时代持续了几十年，如今人工智能时代仅开始数年;技术的增长持续加速而不是直线发展，而现在，任何进一步的加速都会让我们毫无准备地应对后果(如果我们采取被动的态度，而不是积极的姿态)。我们还没能创造出超级智能，但我们已经掌握了处理能力——中国的天河2号每秒能计算34千万亿次计算(cps)，远超人类大脑(10千万亿秒)。
如果我们想要负责任地运用这种计算能力，我们需要有一个基础来应对它无限制的发展。这意味着要理解人工智能发展的伦理道德，如何限制它的使用，以及在出现问题时采用适当的防护措施。
关于人工智能如何被使用以及未来如何发展，目前存在一些严重的担忧。然而，过度地将被测试的系统个人化，或者被标题误导我们的观点是不负责任的。聊天机器人发明一种新语言并不是威胁，它是顺其自然的，还有其他更重要的事值得我们的注意。
原标题：人工智能“创造”语言不可怕 这三点更令人担心
浙公网安备 33010602000006号
智能制造网APP
智能制造网小程序
微信公众号
