“AI的命也是命”？人类与AI之间还有明确界线吗( 二 ) 本文转自：中国新闻网【中新

中新财经采访人员：作为中国人工智能学会AI伦理工作委员会负责人，您认为，如果有人相信AI具有人格，是否会给人类本身带来一些问题或困扰？
陈小平：如果我们认为AI有人格的话，肯定会带来很多困扰。同时还会带来一些负面的后果，有些后果非常严重。
比如，人类如何对待AI 。如果认为AI有人格，那是不是要把AI当成人呢？如果把它当成人了，那是不是要给它人类的权利？包括生存权、财产权、投票权等等，甚至无论AI做了什么危害人类的事情，都要像对待人一样对待AI 。
人类到底应该如何看待人工智能？这是一个非常根本的问题。如果AI真的具备人格、情感、道德，一般能力又超过人类，就会出现可控性问题。几乎可以肯定的是，只要AI能够模仿一种功能，那AI的这种功能迟早会比人强，就像AlphaGo下棋一样。如果AI的通用能力也超过人，到那时人类凭什么能够控制AI？这是个疑问。我们现在就要思考这样的问题，提前做好风险防范。
当然，现在人工智能已经让一些人产生了共情，将来会让越来越多的人产生共情，这件事是客观存在的。这将给人机关系、人际关系带来巨大的新挑战和新机遇，是一个新的重大课题。

文章图片
资料图中新社采访人员汤彦俊摄
中新财经采访人员：此前您在智源大会论坛上，提到人工智能伦理治理的几种挑战。我们应如何应对这样的挑战？
陈小平：对人工智能如何分类，应该分为人还是物？我认为，我们应该把人工智能看成是非人非物的第三种存在物。科学上，它不是人；从人文的角度说，它不是物。那就是非人非物的第三种存在物。这种观点与根深蒂固的“二元论”是根本不同的，所以人工智能带来的颠覆实际上远超科技范畴。
如果以这种观点考虑，能化解很多矛盾和难题，包括上面提到的法律难题，而且可以让科学与人文在某种程度上重新“握手言和”；但其中仍有挑战。有很多科幻作品写到人类爱上人工智能，如果采用三分法是否就没这个问题了？其实仍然会有这样的问题。
所以，我们要想未来怎么适应这样的社会，要判断会不会出现人类不可接受的严重后果，要不要提前采取措施。
中新财经采访人员：目前国内在此方面的进展如何？
陈小平：这几年我国人工智能伦理研究的发展非常快，从民间到政府对人工智能伦理都高度重视。这是个非常好的现象，我们有必要未雨绸缪。
在落实过程中，中国的情况总体上还是比较顺利的。这表现在，一些基本原则上大家是有共识的，而且普遍认识到，不仅要从理论上研究，更要在实践中开展治理。当然，如何在治理实践中落实社会共识，仍是我们需要努力的方向。
具体怎么治理？这涉及大量实际问题。我的研究发现，我们前面谈到的可控性和长期后果的不确定性，难以用传统治理模式有效应对，需要探索新的治理方法。
【“AI的命也是命”？人类与AI之间还有明确界线吗】除此之外，如用户隐私、数据安全、算法公平透明等问题，用传统社会治理模式是可以有效应对的。我们不用担心这类问题会变得失控、解决不了，其中一部分具体问题其实正在解决之中。