伦理|读书｜70年追问在途中：机器人何以成为道德主体？朝阳区|新京报|金华民|人工智

文章插图

▲机器人正在表演群舞。图源：新华社
机器人在现代社会中正在扮演着越来越重要的角色。从艺术家到教育者，从陪护员到刽子手，从公共的生产生活领域到私人的隐秘情感空间，机器人不再被简单地视为人类的替代品和无法独立思考与行动的工具，其已成为与人类共同进化和发展的“新物种”。《人类简史》作者尤瓦尔·赫拉利甚至断言，随着人工智能和其他认知技术的飞速发展，人机融合将在本世纪完全实现，机器将比人更了解人自己。过去的30年间，正如摩尔定律预测的那样，机器人技术发展的蓬勃之势既令人欣喜若狂又令人不安。机器人行业指数级增长的同时，也面临着一系列迫切的道德和社会挑战。
跨学科成果：实时对新兴技术提出伦理创新
如果机器人也需要遵守某些道德准则，那么这些道德准则会是怎样的？人与机器一旦形成情感关系，将潜藏着哪些风险？伦理约束和社会政策如何能改变和影响机器人学的方向？美国哲学家帕特里克·林、凯斯·阿布尼以及计算机科学家乔治·贝基共同编撰的《机器人伦理学》，将来自哲学、人文社会科学的著名学者和计算机、人工智能科学家、工程师的重要成果汇编成册。伦理学往往滞后于技术的发展，但机器人伦理学为我们的技术时代传达了一个重要的启示：我们必须实时对新兴技术提出伦理创新。因此，此书填补了理论层面的学术讨论和现实层面政策制定之间的鸿沟。

文章插图

▲《机器人伦理学》，[美]帕特里克·林、凯斯·阿布尼、乔治·A.贝基主编，薛少华、仵婷译，人民邮电出版社出版
当您翻开《机器人伦理学》时，可以想象的场景是几十年后机器人将无处不在。机器人不是以人类终结者的方式摧毁我们，而是为我们清扫房间，照顾老幼病人，与我们的孩子玩耍，教育我们的后代，甚至与我们谈情说爱。但对于这些机器人的设计及未来应用，必须十分谨慎。《机器人伦理学》向我们呈现了与机器人技术密切相关的宗教、军事、法律、心理、医护、权利六大问题。
士兵可否用机器人代替并不让他杀错人？
在探讨宗教与机器人道德之间的关系时，詹姆斯·休斯(James Hughes)建设性的开放态度格外引人注目。他试图从佛教框架中汲取教训，创造有意识、有自我意识、对道德负责的机器人。相比之下，塞尔默·布林斯约德（Selmer Bringsjord）和约书亚·泰勒（Joshua Taylor）用一种自然演算的证明理论讨论“神命计算逻辑”如何对致命机器人进行自上而下的道德控制。
随着“捕食者无人机”“MAARS（模块化先进武装机器人系统）”“SWORD（特种武器侦察探测系统）”，以及完全自主的机器人武器出现在世界各地的战场上，军用机器人的道德问题将变得极其敏感。无疑，机器人将改变战争的方式。夏基（Noel Sharkey）重点讨论是否应该允许机器人自主识别和杀死（疑似）敌方战斗人员。回答这一棘手的问题往往暗含内在冲突。一方面，从不想看到同胞在战斗中丧生的人的角度来看，机器人取代士兵的想法值得推广；然而另一方面，机器人做出生死决定的想法似乎极具风险，特别是当我们考虑到机器人犯错并杀死平民的伦理影响时。
我们如何将当前的法律法规扩展到机器人，以便为机器人治理创建一个框架，解决它们日益复杂的问题？目前，一些重要的法律概念，如责任、过错、因果和意图等，均无法适用于远程操作、半自主和完全自主的机器人。另外，由于我们生活中的机器人越来越多，很有可能为黑客窃取和攻击我们的私人生活打开大门。机器人将会打开入侵人类隐私的“潘多拉魔盒”。