现在很多人担心人工智能技术会发展成一种邪恶机器人，甚至达到独霸天下的地步。但是唐不要害怕，这不会赢。不会发生的。
人工智能已经进入人们的工作和日常生活。它正在推动医学、天气预报、工厂自动化、自动驾驶汽车等行业的进步。甚至高尔夫球杆制造商也使用人工智能技术来设计球杆。
事实上，人们每天都在与人工智能互动。谷歌翻译帮助人们浏览外国网站，并与不同国籍的人交谈。人工智能供应商已经在许多应用程序中内置了语音识别。人们每天使用Siri和Alexa等语音助手来帮助完成简单的任务。人脸识别应用程序自动标记照片，人工智能系统在复杂的游戏中击败职业游戏玩家，如围棋和德州扑克em，工厂里的机器人代替工人做重复性的工作。
人工智能的最新发展让人们知道未来将走向何方。几十年来，科幻作家一直在思考这个问题。在一些人描述的未来世界里，会出现强大而友好的智能机器人，比如电影《星球大战》里的C3PO机器人。还有人形容智能机器人既不友善也不邪恶，只是有着类似人类的弱点，比如西方世界的人形机器人，它们有自己的意识和情感，不愿意被人类奴役。尽管如此，在其他作家的作品中，也有邪恶机器人是人类的敌人，比如电影《2001年的哈尔：太空漫游》和《终结者》中的智能机器人。
人关于人工智能潜在危险的猜测并不局限于科幻小说领域。许多权威技术专家预测，随着人工智能系统变得越来越智能，机器人最终将主宰整个世界。特斯拉创始人埃隆马斯克(Elon Musk)说，人工智能是对人类生存的最大威胁它对文明的存在构成了根本性的威胁。因此，著名物理学家斯蒂芬霍金曾经说过，这可能预示着人类的终结。"人类未来研究所的创始人、哲学家尼克博斯特罗姆(Nick bostrom)认为，人工智能构成了人类历史上最大的威胁，其威胁甚至大于核武器。
人工智能和狭义人工智能
这些技术专家和科幻作家担心的人工智能系统都是强人工智能的例子(AGI)。强人工智能(AGI)系统具有与人类相同的能力：推理、处理视觉、听觉等输入，能够适应各种环境。这些系统和人类一样，对各种事件和话题有丰富的知识和交流能力。
与今天相比人工智能系统，科幻小说发明的强人工智能系统(也就是虚构的邪恶机器人)有两个显著的区别：第一，今天的每个人工智能系统只能执行相对狭窄的任务。例如，学习命名照片的人工智能系统可以我不会做其他任何事情，甚至不会区分狗和大象。它可以不要回答问题、检索信息或进行对话。其次，今天美国的人工智能系统几乎没有关于世界的常识，所以它们可以不要根据这些知识进行推理。例如，面部识别系统可以识别特定的人，但对其他人一无所知。它赢了它不能像人类一样看或听，不能像人类一样吃饭、睡觉或工作，也不会犯罪或恋爱。
今天人工智能系统都是狭义的人工智能系统。这个术语是由未来学家专家雷库兹韦尔(Ray Kurzweil)在2005年提出来描述这些差异的：机器人只能执行一项特定的任务。虽然狭义人工智能系统的性能可以让它们看起来很聪明，但事实并非如此。
相比之下，人类和虚构的智能机器人可以执行大量不同的任务。它们不仅能识别人脸，还能读报、做饭、系鞋带、讨论时事，以及执行许多其他任务。虚构的智能机器人还基于人类对世界的常识进行推理，将常识、经验和背景知识应用于各种任务。例如，当一个人从橱柜里拿出一个玻璃杯时，他会利用他的重力知识，知道如果他不这样做。如果你抓得不够紧，杯子会从他手中掉下来。人类不是从引力的定义或者数学方程中的描述中获取知识，而是不自觉地从现实生活经验中获取知识。人们每天利用这些知识完成许多其他任务。
人工智能的新范式
人们面临的最大问题是今天是否狭义的人工智能系统将进化为具有人类智能的智能机器人，它可以使用常识推理来执行许多不同的任务。
今天大部分时间美国突破性的人工智能系统使用了一种叫做监督学习，目的是学习一个可以从信息输入中识别输出类别的函数。例如，面部识别系统将图像作为输入，并识别图像中的人名。也是如此强化学习，其目标是学习能够预测给定状态下最佳行动的函数。
多伦多大学的机器学习专家杰弗里辛顿(Jeffrey Hinton)表示，他怀疑目前的模型(包括监督学习、强化学习和自然语言处理)是否会导致强大的人工智能(以及科幻小说中的邪恶机器人)。Hinton建议，要采用人工智能，可能需要放弃目前占主导地位的监督学习范式。Yann LeCu公司美国首席人工智能科学家也表示，监督学习和强化学习永远不会创造强大的人工智能，因为它们不能不要被用来创建具有世界常识的系统。
一些人工智能研究者开始探索一些新的方法。在评估这些新方法的可行性时，必须记住，对狭义人工智能成就的热情不应转化为对这些新方法的乐观想法，因为现有的狭义人工智能方法在构建强大的人工智能系统方面将面临死胡同。
像人一样学习。
许多研究人员将人类的学习描述为组合学习：学习许多技能，然后将它们组合起来学习新的技能。人类将学习关于世界的概念、规则和知识，这些技能将随着人们学习执行不同的任务而转移。这些研究人员认为，常识性人工智能推理(以及人工智能和邪恶机器人)的关键在于构建能够像人类一样进行组合学习的人工智能系统。这个想法是让人工智能系统学习概念和规则作为积木，这样它就可以学习更高层次的概念和更高层次的规则。
人对这种方法最大的担忧是，人工智能系统在理解人类如何获得常识方面进展缓慢。40年前，关于人工智能系统是否能回答这个问题德国牧羊犬是什么形状 ear 。虽然人工智能和认知科学领域的一些权威人士参与了分析和辩论，但仍然没有确定的答案。人工智能能否回答关于狗耳朵形状的问题，只是大量代表性方案和推理过程中的一种。此外，人们不我甚至不知道这些模式和推理过程是天生的还是后天的。50多年来，这一直是学术界争论不休的话题，目前也没有定论。
那么要多久才能理解人们对人工智能和邪恶机器人的真正进步的看法呢？以现在的进度，可能要几千年，也可能永远不会。
深度学习
一些研究人员认为，尽管监督学习和强化学习本身是构建人工智能系统的死胡同，但深度学习可能会将人们引向目的地。Yann Lecun和Greg Brockman都提出了扩展无监督学习系统的想法，希望能够神奇地获得相关常识并学习基于推理的知识
GPT-3系统是可扩展性的一个很好的例子，它的能力比GPT-2系统强100倍，而GPT-2系统本身比原来的GPT系统强10倍。GPT-2系统显示出惊人的产生人声的能力(即使它并不总是连贯的)，而GPT-3系统可以产生更好的结果。开发GPT系统的OpenAI研究人员认为这是一个新功能，这是由于网络规模的扩大。
GPT-3系统无疑具有提取其训练文本的统计规律性的强大能力，也可能具有记忆文本小片段的能力。然而，它并没有I don’我没有能力学习常识，而且也没有。我没有基于这些知识进行推理的能力。在这个阶段，没有证据表明常识和推理技巧可以从这个方法中学到，也没有理由相信它会发生。
Yoshua Bengio提出了一种新颖的深度学习架构，旨在利用深度学习突破狭义人工智能的局限。目标之一是学习更高级别的积木，可以帮助人工智能系统进行组合学习。这是一个有趣的想法。
模拟人脑
业内专家提出的另一种强人工智能方法是了解人脑的物理结构，进而建立人工智能系统的模型。经过几十年的研究，人们只知道一些关于人脑如何处理信息的非常基本的事实。例如，人们知道大脑皮层可以静态和动态地存储学习到的知识，基底神经节通过强化学习处理各种目标和选择信息，而边缘脑结构连接大脑和身体，产生动机、情绪和事物的价值。
在大脑中建立神经元模型的想法已经提出了40多年，但至今没有还没有获得真正的吸引力。部分原因是对人脑的理解进展极其缓慢，人工智能程序中没有具体的方法来模拟我们所知道的人脑。这里好像又回到了起点，没有证据表明这种方法会成功。
更快的计算机。
未来学家雷库兹韦尔一直认为，人工智能将作为更大更快的计算机的副产品出现。他提出了奇点，这是计算机可以智能地改进其程序的时间点。他指出，一旦这种情况发生，人工智能系统的智能将呈指数级增长，并将很快达到超人的智能水平。库威尔预测说奇点将在2045年左右出现。
也就是说，很难想象处理能力本身如何能创造出强大的人工智能。这些电脑可以不执行任何操作，无论它们是在20世纪70年代还是在今天使用没有加载任何程序的高级计算机。如果两台计算机上都装有文字处理程序，则只能进行文字处理。更新更现代的计算机将能够更快地响应和处理更大的文件，但它们仍然只能做文字处理。未来的计算机也是如此。
处理速度更快的计算机不会自己产生人工智能。正如史蒂芬平克所说的那样。更强的处理能力并不是解决所有问题的灵丹妙药。"当强人工智能不太可能实现的时候，编程和学习算法可能会非常复杂，需要功能非常强大的计算机。
强人工智能能实现吗？
狭隘的人工智能系统背后的技术无法发展成邪恶机器人。业界对如何实现强人工智能提出了一些思路，但这些思路并不清晰。自20世纪50年代末以来，人工智能研究人员就如何创造强大的人工智能提出了各种想法，但没有人能够成功，也没有证据表明目前的想法会更好。
艾伦人工智能研究所(Allen Institute of Artificial Intelligence)首席执行官柳文欢埃齐翁(Andrew et Zion)表示，对实现强人工智能的乐观和恐惧源于狭义人工智能系统的成功。这种对狭义人工智能的乐观，自然蔓延到对强人工智能前景的乐观。
人们一生中可能不会进行时间旅行。可以想象科技会让人类进入冬眠或隐形状态，或者通过心灵传输把人类的思想输入电脑，甚至逆转人类衰老的进程。如果是这样，那么人们应该把人工智能和邪恶机器人在同一类别中。
标签：人工智能系统人类