当人类与“熵”对抗时，意识出现了！那AI呢？( 二 ) 新智元报道来源：quantamagazin

自由能原理
对于弗里斯顿（KarlFriston）的「自由能原理」，简单来说就是生命系统会保持自己与环境处于分离的状态，如一个细胞或一个有机体。通过吸收能量，将自己维持为一个系统，保持其与世界的界限。
这意味着，在身体可能处于的所有状态中，其只会保持在一个非常非常小的「统计学预期」状态的子集中。例如，人类的体温会保持在一个很小的温度范围内，当然这也是能够保持活力的原因之一。
生物体是如何做到这一点的？为了尽量减少其所处状态的不确定性，所以必须积极抵制热力学第二定律，从而不会消散到各种状态。
自由能量原理本身不是关于意识的理论，但其实是非常相关，因为它提供了一种理解大脑如何以及为什么以这种方式工作的方法，而且它又与意识和生命非常紧密相关的想法联系起来。
广泛地说，为了保持身体的活力，大脑会使用预测模型，因为如果要控制某样东西，能够预测它将如何表现是非常有用的。
AnilSeth提出，我们所有的意识体验都来自于这些预测模型，而这些预测模型的起源是维持生命的基本生物要求。

文章图片
受控的幻觉
AnilSeth把感知描述为一种「受控的幻觉」，这似乎是进入了一个有点哲学的领域，那么我们又该如何决定什么是「真实」，什么是「幻觉」？
Seth为此举了一个例子：当我们体验「公共汽车的性质」的方式，也就是体验到的作为「公共汽车品质」的东西，是与它的客观物理存在不同。比方说，公交车是红色的；现在，红色是一种依赖心灵的属性。也许公共汽车的性质本身也是一种依赖心灵的属性。
与认知科学家霍夫曼（DonaldHoffman）这些认为一切都是精神属性的唯心主义者不同的是， Seth认为，既可以讲述一个关于意识和感知性质的丰富故事，也可以同时保留一个广泛的现实主义的世界观。
不过也有相似的观点：「我们一致同意，感知是大脑中的一个构造，感知的目标不是重现一个真实的、准确的现实世界，而是面向帮助一个有机体的生存前景。我们看到的世界不是它本身，而是它对我们有用。」
「或许他们是对的，但这些观点是无法被检验的」。

文章图片
机器终有一天会有意识？
Seth认为，我们更有可能发现自己生活在这样一个世界中：人工智能会以极其有说服力的方式让我们相信它们是有意识的，即使它们不是。或者我们没有办法知道，但这些AI会强烈地试图让我们相信它们是有意识的。
石黑一雄在小说《克拉拉与太阳》中很好地阐述了有意识的系统将会如何破坏我们人类的心理和思想的方式。加兰（AlexGarland）的电影《机械姬》（ExMachina）也对此做了很好的诠释。《西部世界》和《银翼杀手》也是如此。
或许，文学和科幻小说对这个问题的探讨比许多人工智能研究要深刻得多，至少到目前为止。
参考资料：
【当人类与“熵”对抗时，意识出现了！那AI呢？】https://www.quantamagazine.org/anil-seth-finds-consciousness-in-lifes-push-against-entropy-20210930/

文章图片