胡泳｜相信人，还是相信机器？——重新思考数字化之九( 四 ) 文章导览不预测未来

温伯格承认，人工智能系统需要底线价值观，但又指出，正是在这里，我们遇到一个棘手的问题：“将价值判断程序化意味着，计算机要达到我们所要求的具体和精确程度。然而，关于价值观的讨论往往是混乱、不精确和争论不休的。 ”所以人类应该怎么办呢？停止试图将人的价值灌输给机器？

文章图片
读到这里，我觉得温伯格此书，在暗自敦促人类向机器投降。尽管他的说辞是，机器可以通过创造更多未来的可能性，从而让人类更加蓬勃地发展下去。但是，如果说他之前关于混沌的日常应用及企业应用等尚能引发我的共鸣，到了机器与人的关系这一部分，就不由我不产生怀疑了。他的两个前提都不能让我信服。
其一，不管怎样，机器也会越来越多地接手人类事务。 “这个未来不会安定下来，不会自行解决问题，也不会屈服于简单的规则和期望。感到不知所措、困惑、惊讶和不确定是我们面对世界的新常态。 ”就是说，反正你也注定搞不清楚人的未来境况，所以不如就把自己交给机器好了。
【胡泳｜相信人，还是相信机器？——重新思考数字化之九】其二，机器本身可能教会我们新的伦理。虽然人工智能需要学习更多的伦理知识，但伦理学科是不是也可以从人工智能中学习一些东西呢？“当你试图开发一个影响人的机器学习应用时，你很快就会知道，公平比我们通常认为的要复杂得多，而且公平几乎总是要求我们做出艰难的权衡。 ”
所以，机器不仅是我们的管家，也可能是我们的导师。最后，温伯格把这一切上升到敬畏的高度：我们比以往任何时候都对未来更具掌控力，但我们驾驭世界的技术和认知手段，恰恰证明了这个世界已经超出我们自欺欺人的理解。他将此称作“一个新悖论的起点” ，并说人类应该感到敬畏，一如以往敬畏星空。
敬畏什么呢？敬畏算法的有效性，因为它们比任何人类都能更好地掌握“宇宙的相互关联性、流动性和纯粹的美丽”？
理解，还是不理解，这是一个问题
温伯格对网络化知识的认识曾给我们打开新疆界（见《知识的边界》），而现在，他对人工智能时代的知识的见解，可以归纳如下：
*人类努力获得对复杂系统的理解。然而，我们基于“人类的理解”所做的预测并不像人工智能那样准确，虽然人工智能并不真正理解任何东西。
*不过，鉴于人工智能的预测比基于人类理解的预测更准确，我们应该放弃对理解的追求，而专注于建立能够为我们做决定的人工智能。
*将主导权交给预测性人工智能，我们将迎来人类进化的下一个阶段。

文章图片
毋庸置疑，人工智能的未来关键在于，到底我们是应该放弃理解，还是致力于建立可以理解的人工智能？
这提出了令人匪夷所思的问题。随着技术的发展，我们可能很快就会跨越一些门槛，而越过这些门槛，使用人工智能就需要信仰的飞跃。当然，我们人类也并不能够总是真正解释我们的思维过程，但我们找到了直觉上信任和衡量人的方法。对于那些以不同于人类的方式思考和决策的机器来说，这是否也是可能的？
我们以前从未制造过以其创造者不理解的方式运作的机器。我们能指望与这些不可预测和不可捉摸的智能机器，达成多好的沟通和相处？这些问题将把我们带向人工智能算法研究的前沿。