机器人|国际象棋机器人“惩罚”违规，夹断7岁男孩手指！机器人

近日，在莫斯科举行的国际象棋公开赛上，国际象棋机器人Chessrobot折断了一位7岁男孩的手指。
据当地媒体报道，在比赛中，机器人“吃掉”该参赛男孩的一枚棋子，并把自己的棋子放在空位上，但小男孩未等机器人完成动作便急忙回击。随后，机器人捏住男孩手指。工作人员急忙帮助小男孩将手指从机器人的“虎钳”中挣脱出来，并送往医院，但小男孩的手指骨折了。
人工智能会突然“变脸”攻击人类吗？电影《终结者》和《我机器人》里机器人大战人类的桥段是否会成真？
西北工业大学从事机器人科研工作的副教授冯华山在接受中新社国是媒体采访时认为，没有必要恐慌，问题可能出在识别上，但对人工智能的应用风险仍需时刻保持高度警惕。
【机器人|国际象棋机器人“惩罚”违规，夹断7岁男孩手指！】下棋机器人“惩罚”违规棋手？
从公开视频上可以看到机器人夹住小朋友的手，但由于图像模糊看不到机器人是否有“用力捏”的动作。这到底是机器人故意为之？还是属于程序漏洞或者故障？
冯华山表示，没有见到详细应用程序前无法判断其具体原因。不过，首先可以排除人为设计机器人“惩戒”程序，因为机器人不能伤害人类是国际上机器人三原则的重要原则之一。比较大的可能性是识别错误，大可不必因此对人工智能产生恐慌。
冯华山介绍，机器人识别系统在手指误入棋盘空间后，可能把人手指的某些部位错误识别成了棋子。
机器人下棋首先是通过摄像头等装置进行图像采集并识别。一般下棋机器人的识别系统比较简单，主要是对棋子和棋盘颜色、形状、纹理和位姿等进行采集和识别。位姿指的是棋子在棋盘空间的“X\\Y\\Z”坐标以及绕三个坐标轴的旋转角度。机器人由人工智能算法针对棋盘上博弈双方的棋子布局和态势做出判断和决策，并产生下一步落子、吃子等动作，通过指令队列的方式，形成机器人的动作轨迹，并交由机器人执行。
由于机器人末端缺乏除视觉以外的其他感知方式，尽管棋子是硬的、手指是软的，但程序没能感知到抓住软物的信息，所以可能有机械手用力捏手指的情形出现。下棋决策由人工智能算法、策略程序实现，能够让机器人“自己学习” 。在训练过程中，可以通过输入棋谱或反复博弈，让机器人学习博弈策略和经验，有效的方法会被存储，失败的方法会被淘汰和删除。通过这种反复训练、学习，记忆到机器人算法当中。
冯华山说，有可能是模型存在逻辑漏洞或BUG使机器人在“自己学习”的迭代过程中产生偏离，形成棋谱规则以外的一些博弈逻辑，从而偏离了人对机器人的完全控制和常规理解。这些涉及到机器人伦理学，需要人们对机器人的学习演进过程严格监督和把控。
在这个案例中，机器人敌对人类的可能性很小。很有可能小孩子的手指位置刚好是机器人计算获得下一步需要移动的棋子位置，在机器人形成动作轨迹指令后，小孩子恰巧将手指遮挡了这枚棋子。因为在机器人形成动作指令后，是不会再依据视觉做出判断。也就是说，机器人“以为”夹持的是棋子，而实际是小孩子的手指。这只是一种巧合。
马斯克和比尔盖茨的警告
对于机器人及人工智能的恐慌，不仅来源于科幻电影。
特斯拉董事长、首席执行官马斯克说：“开发人工智能，相当于在召唤恶魔。我认为我们应该非常小心谨慎，如果让我猜测什么最有可能对我们的生存造成威胁，我会说可能是人工智能。我越来越倾向于人工智能应该被监管这个观点，包括国家层面和国际层面上的，以确保我们没有在干蠢事。 ”