弹头|不再是科幻！联合国通报首例机器人自主追杀人类事件( 二 ) 机器人|联合国|哈夫塔尔|武装

联合国报告指出，它们的部署违反了2011年联合国安理会的一项决议，该决议禁止成员国向该国“直接或间接供应、销售或转让”武器。
无人机系统和无人机专家、国家安全顾问扎克·卡伦伯恩在报告中证实，这可能是无人机首次在没有得到指令的情况下袭击人类。卡伦伯恩对无人机的未来表示担忧。
这起案例其中一个令人担忧的问题是，部署真正的自主性无人机代表一场等同于枪械、飞机问世的军事革命，因为和核武不同，几乎任何军队都能够轻易取得这类武器。

文章插图

另一个令人担忧的问题是，AI人工智能不会永远正确解读视觉数据，卡伦伯恩表示：物体识别系统有多脆弱？误判目标的频率有多高？
目前基于机器学习的系统无法有效区分农民和士兵。他上周在《原子科学家公报》上写道。“农民可能会拿着步枪保卫自己的土地，而士兵可能会用耙子打翻炮塔……各种因素都可能妨碍做出准确的决定。”
英国皇家联合军种研究所的陆战研究员杰克·沃特林告诉《新科学家》杂志，这起事件表明，讨论自动武器的潜在监管“迫切而重要”。

文章插图

【弹头|不再是科幻！联合国通报首例机器人自主追杀人类事件】分析人士多年来一直在预测自动武器的发展，要求禁止此类设备的呼声也越来越高。“停止杀人机器人运动”(TheCampaign to Stop KillerRobots)是一个由和平活动家、科学家、学者和政治家组成的联盟，正在游说联合国采用一项国际禁令。（幂谈天下/张幂）

弹头|不再是科幻！联合国通报首例 机器人自主追杀人类事件( 二 )

弹头|不再是科幻！联合国通报首例机器人自主追杀人类事件( 二 )