攻击|可信AI人脸识别评估具体是什么项目?

“可信人脸应用守护计划”(简称“护脸计划”),顾名思义,护脸-守护人脸,即是针对人脸识别滥用、人脸数据安全等问题,由中国信息通信研究院牵头组织,相关部门及行业企业联动参与所打造的重磅守护计划。
在计划中,由中国信息通信研究院牵头组织成员单位共同制定,面向人脸识别的技术提供方,依据成员单位前期共同编制的《人脸识别系统通用可信能力要求》开展了“可信AI:人脸识别评估”,评估以技术手段,测试验证人脸识别技术提供方、使用方的人脸识别可信能力等级,因而吸引了众多企业报名参加。
【 攻击|可信AI人脸识别评估具体是什么项目?】规范文件---《人脸识别系统通用可信能力要求》
《人脸识别系统通用可信能力要求》由中国信息通信研究院牵头组织“护脸计划”成员单位共同制定,细化和明确了面向技术提供方和技术使用方的通用可信能力要求,涉及安全性、可靠性、数据保护等焦点问题,明确提出安全可靠、透明性、数据保护、明确责任、公平性等可信能力要求。另外,根据当前针对人脸识别系统攻击手段的成本和难易程度,划分了初始级、基础级、增强级、优秀级、杰出级等系统安全防护能力等级。
可信AI:人脸识别评估的亮点:
一是中国信通院云大所人脸识别安全实验室现已具备复现各种主流攻击手段的安全评测能力。本次评估重点测试了人脸识别系统抵御电子屏攻击、打印照片攻击、挖孔照片攻击、三维头模攻击、手机定制ROM注入攻击的能力,全面客观地反映了参评产品的安全防护能力水平。
二是本次评估最大限度地模拟了真实攻击场景,并严格把控了评测标准,专业的测试门槛给各参评企业带来了不小的挑战。本次评估不仅协助企业巩固了自身产品的技术安全能力,同时也促进了行业安全水位的提升。
三是本次评估的结果已成为部分银行技术选型的重要依据。
据悉,今年6月,“可信人脸应用守护计划”(“护脸计划”)面向人脸识别的技术提供方,依据成员单位前期共同编制了《人脸识别系统通用可信能力要求》,并开展了“可信AI:人脸识别评估”,吸引了十余家企业报名参加。
可信AI:人脸识别评估的具体方式
在本评估中,中国信通院云大所人脸识别安全实验室复现了各种主流攻击手段,重点测试了人脸识别系统抵御电子屏攻击、打印照片攻击、挖孔照片攻击、三维人脸面具攻击、手机定制ROM注入攻击的能力,这些攻击手段的测试也全面客观地反映了参评产品的安全防护能力水平。主办方最大限度地模拟了真实攻击场景,并严格把控了评测标准,测试能全面检验人脸识别系统的安全防护能力,专业的测试门槛也给各参评企业带来了不小的挑战。另外,本次评估的结果已成为部分银行技术选型的重要依据,充分可见评估的客观和标准性。
攻击|可信AI人脸识别评估具体是什么项目?
文章插图
图1 可信人脸技术评估平台 (图片来自信通院可信人脸应用守护计划)
攻击|可信AI人脸识别评估具体是什么项目?
文章插图
图2 部分测试样本及工具 (图片来自信通院可信人脸应用守护计划)
第一批通过可信AI:人脸识别评估的企业
近日,由中国信息通信研究院云计算与大数据研究所发起“可信人脸应用守护计划”---“可信AI:人脸识别评估”,首批可信人脸识别评估结果正式公布:
攻击|可信AI人脸识别评估具体是什么项目?
文章插图
(注:本文根据信通院官网相关信息整理)