深蓝|人工智能有4层，第3层可拥有情感，到4层人类要害怕( 二 )

人类的行为会根据周围世界对我们的情感意义，而采取某种接近或者是回避的措施，这一切构成了人类对表观世界的心理理解。

文章插图

第3类人工智能具有像我们人类一样理解这个世界存在的意义的能力，它会表现出焦虑、喜悦等等类似于情感的问题，可以在情感上与人类交流。
实现第3类人工智能的时候，自动驾驶才知道自己到底在做什么。
在心理学中，这被称为“心理理论”——理解世界上的人、生物和物体可以有影响他们自己行为的思想和情感。这对我们人类如何形成社会至关重要，因为它们允许我们进行社交互动。
因为人工智能将和人类一起工作，如果不了解彼此的动机和意图，也不考虑其他人对我或环境的了解，一起工作往好里说是困难的，往坏了说是不可能的。

文章插图

如果人工智能系统真的要走在我们中间，它们就必须能够理解我们每个人对我们自身、对他人、对周围的世界的想法、感受和期望。
在第3层人工智能，AI会根据自己对世界的感受，相应地调整自己的行为。
》第4层，自我意识。
从某种意义上说，这是第三类人工智能所拥有的“心理理论”的延伸。
出于某种原因，意识也被称为“自我意识”。

文章插图

我想要那个东西，与我知道我想要那个东西，是一个非常不同的陈述。
有意识的存在、意识到自己，知道自己的内在状态，并且能够预测他人的感受。
我们假设有人在交通中向我们鸣喇叭是生气或不耐烦，因为这就是我们向他人鸣喇叭时的感觉。如果没有心理理论，我们就无法做出这样的推论。
虽然我们可能离创造具有自我意识的机器还很远，但我们应该将精力集中在理解记忆、学习和根据过去的经验做出决定的能力上。这是了解人类智能本身的重要一步。
但是第4类人工智能往往具有很大的争议：AI会不会取代人类？AI会不会统治人类？
AI在心理和智力上以及自我意识上，如果完全和人类相等，知道自己存在的原因和存在的意义，以及我们这个世界的运作方式之后，会不会反抗人类，乃至于把人类置于统治之下，这是一个非常值得探讨的话题。
如果走到这一步，很可能人类的世界将重现《黑客帝国》，也就是说有一个超级庞大的人工智能统治全人类。

文章插图

《黑客帝国》的设定里面，人类为了躲避AI的控制，少量的人逃到了一个叫锡安的地方，这个地方位于地层深处，人类在那里利用地热作为能源提供动力。
【深蓝|人工智能有4层，第3层可拥有情感，到4层人类要害怕】这是人类最担心、害怕的一点。