"IT有得聊”是机械工业出版社旗下IT专业资讯和服务平台，致力于帮助读者在广义的IT领域里，掌握更专业、实用的知识与技能，快速提升职场竞争力。
最近的一条消息引发了人们对AI技术的极大关注。
消息来自 TechWeb 的编译组：Facebook 不得不拔掉其研究人员正在研究的人工智能系统的插头，因为人工智能系统好像不太听话了。
设想一下这样一个场景，两个人工智能机器人，背地里用我们搞不懂的语言聊天，就算他们只是聊聊最近的天气和昨天的球赛，听起来也不会是件让人放心的事。
关于“人工智能是否邪恶”的话题，Facebook 创始人扎克伯格上周还在跟特斯拉 CEO 马斯克争吵。马斯克站正方，认为人工智能非常值得担忧，扎克伯格站反方，认为人工智能很有益处，担忧完全是过虑。
马斯克在人工智能领域发表演讲时称其进步是“我们作为一个文明面临的最大风险”。他说：“人工智能是一种罕见的案例，我们需要积极主动的监管，而不是被动应对，因为如果我们在人工智能监管方面被动了，那就太迟了。”
扎克伯格早些时候在Facebook上表示：“我已经跟马斯克谈过这个AI了。他对这个问题的理解是有限的。如果人工智能成为主流，就需要谨慎和监管来保护未来。我认为那些唱反调的人，试图鼓动这些末日场景。这真的是消极的，在某些方面，实际上我认为这是非常不负责任的。
仅仅过了一周时间，媒体爆出的“Facebook关闭AI系统事件”就让人们开始担心电影《人工智能》的故事要发生在现实世界里了。马斯克和扎克伯格的这场论战似乎分出胜负了。
然而，事情往往就是这样的出其不意。
Facebook近日公开回应关闭AI失控语言事件，认为一些媒体的报道有失事实，造成不良影响。Facebook并没有关闭机器人聊天系统，而是在使它们变得更加聪明可控。
一头雾水了有没有？
我们来看看事情的来龙去脉
事件起源于Facebook上个月发表的一篇论文。论文中阐述了一个Facebook例行的科学研究项目。在这个科学研究项目中，Facebook人工智能研究院的科学家利用神经网络结构开发了一个人工智能系统。这个结构叫做“生成式对抗网络”（GenerativeAdversarialNetworks，GAN）。
简单地说，Facebook的研究人员希望通过GAN的研发，训练这样一个聊天机器人，让它带着“目的”和人类对话。这个目的也很简单：一共有两本书、一顶帽子和三个篮球，三样东西分别设定了不同的权重，为的是让机器人明白它到底有哪些需求，然后去和人类讨价还价。
在研发过程中，Facebook的研究员对两个机器人聊天能聊成什么样产生了兴趣。他们挑选了聊天机器人Alice 和聊天机器人 Bob进行对话， 然后就发生了下面的事情。
Bob遇见Alice，话都不会说了
Alice看到Bob，说都不会话了
...........好尴尬.................
……….小编脑海补了一场机器人相亲大会的既视感。
那么.........这该怪谁呢？当然是他们的科学家爸爸。
原来研究人员只告诉了他们：“请用英文”，但忘了告诉它们：“请用英文语法”。
Bob和Alice像两个刚刚学会说话的小朋友一样，用几个简单的英文单词做沟通，只不过是语无伦次而已。所以他们并没有发明新语言，而是创造了一种新的表达方式而已。
他们的对话翻译过来就是：
Bob：“我可以给你任何东西”（我要那个球）
Alice：“球对我很重要”（不给）
Bob：“你可以拿任何东西”（我还是想要那个球）
Alice：“球对我特别重要对我对我对我......”（就不给）
Bob：“我......”（这是要哭的节奏吗？）
Alice：“球对我对我对我......”（好吧Alice，小编觉得你赢了）
他们的对话，看起来就像两个小朋友为了一个篮球在吵架。
Facebook研究人员对此表示：“人工智能机器人确实没有使用标准正确的英语语法进行对话，但这并不是重点。这项研究原本是为了使得机器人之间能够更加有效地进行谈判，我们的目的达到了，完成了任务。”
为此，Facebook重新设定了正确的激励机制，修正了机器人的行为，让机器人说“人话”。这段表态中值得注意有两点，其一，机器人并没有发明自己的语言，只是创造了新的表达方式，其二，Facebook修正机器人行为，并不代表“关掉”这个系统，原因也不是因为害怕系统失控，而是为了更加有效地进行新的实验。所以说，人工智能并没有聪明到我们控制不住的地步，相反，我们正在更好的控制和培养他们。
从整个事件来看，目前人工智能还没有聪明到产生清晰地自我意识，更不要说威胁人类安全，他们只是在研究人员的控制下学会了不同的技能。
人工智能是天使还是恶魔？ 未来的进程会怎样？我们拭目以待。
这几天炒得火热的Facebook关闭AI系统事件，大概就给您讲完了，为了帮您迅速了解人工智能，小编推荐三本书，读过之后，就不会因为机器人聊个天这么点事儿折腾的睡不着觉了。
