终结者|詹姆斯·卡梅隆：人工智能正在尝试毁灭人类

亲手拍摄了大量科幻电影的著名导演詹姆斯·卡梅隆，最近对自己电影里的情节竟然已经有所担忧。在未来，或许某些电影的桥段就会真实上演，导致世界的毁灭。

文章插图
他目前最担忧的，大概就是他的《终结者》系列了。在这个系列的电影中，有一个名叫“天网”的人工智能系统，它具有非常强大的能力，并且在某一天“觉醒”，想要毁灭人类。它的手腕非常恐怖，那就是挑起人类之间的矛盾，甚至试图引发核战争，让人类自相残杀，直至毁灭。卡梅隆认为，现实生活中的人工智能，如果想要毁灭人类的话，甚至根本不需要借助核武器，就能够引起人类之间的对立。在这番言论中，卡梅隆提到了一个最臭名昭著的技术——deepfake，也就是通过人工智能模拟某些人的面部，然后加上配音，就能够使其假冒真人发表言论。比如去年有人利用类似的技术假冒靳东欺骗大妈的新闻，甚至还有国外冒充国家元首的情况。

文章插图
这样的技术目前还达不到愚弄整个世界的水平，但随着技术的发展，我们要对那一天的到来提高警惕。到那个时候，人类是否会对自己看到的假新闻或者假消息保持足够的警惕，真的不好说。而且他认为，类似的事情已经在这个世界上演了，“它看起来就像是此刻正在发生的事情”。卡梅隆还指出：对于新出现的技术，他总是首先保持怀疑的态度，并且建议人们都应该有这样的意识。他举例说：“历史上每一次被创造的技术发生进步，最终都武器化了。我经常跟人工智能科学家说这事，他们却说：‘不不不，我们完全能够掌控局面，我们可以给人工智能指明方向。’可是，到底是谁在决定目标是什么？就是那些为相关研究投资的人，不是吗？这不就是大型的企业或国防部门吗？所以这些‘生命实体’学到的，除了贪婪就是谋杀。”【终结者|詹姆斯·卡梅隆：人工智能正在尝试毁灭人类】

文章插图
我们一直以为，人工智能反叛人类的方式是简单地借助暴力，卡梅隆却从另一个角度给我们一个借鉴，让人类提高警惕。虽然没有必要危言耸听，但对于这样的未来，人类的确需要未雨绸缪。如何防止人工智能反叛的问题，已经困扰人类几十年了。甚至在未来，会不会有比卡梅隆想象中更出乎意料的手腕出现，也是我们不得不提防的问题。