「发展」的AI伦理治理观：既要「扬善」，也要「除恶」( 三 )

今年上半年，该委员会上线了伦理审核系统，从实际的运营「把关」中践行了「技术可控」的核心AI治理原则。
该线上系统的设置，结合参考了国内外在技术伦理方面众多的政策制度和研究成果。审核体系从数据风险、算法风险与社会风险三大维度出发，设置十余个板块，近30道题目，从尊重人权、向善性、无偏性、隐私保护、可靠性、透明及可解释性、问责性等等角度，对项目进行详细拆解，考察其伦理水平。

文章插图

图注：商汤伦理审核系统的运维
目前，伦理审核已经嵌入商汤立项审核流程，进行线上评审，并根据评分对被审核的产品进行风险等级划分。对于伦理风险较高的产品，该系统会予以驳回，提出中断开发、下线或整改的要求。若无法通过整改，则不予以立项上市。

文章插图

图注：商汤伦理审核流程
比如，曾经有「AI算命」的客户需求找到商汤，提出用计算机视觉技术识别人体特征、手掌掌纹等信息，自动给出用户的人生运势等预测。识别这些信息和特征，技术上来说并不难，但这显然不符合商汤的价值观，即使预见可以有所收益，这样的项目也无法立项成型。
杨帆的看法是：「技术有所不为，而后才能有所为。」虽然一个高盈利的AI产品可能会因为风险问题被淘汰、从而对公司营收会造成直接影响，但从长远的角度来看，这是必要的。
目前，这套系统已经全面覆盖商汤存量产品与新增申请立项产品，形成了内部的产品项目从立项、发布、运营全生命周期的伦理风险控制机制。伦理审核结果会伴随产品研发和发布的全过程，若发布阶段产品有重大变化，则需要重新审核说明。
据商汤披露，从该系统上线至今，已有 10% 的产品被责令整改或下线；在对新增项目审核中，有 5% 的项目被打回整改，或驳回立项，累计放弃价值数百万的商业利益。
「光有概念、有想法是不够的，AI伦理治理既需要高屋建瓴的指引原则，也需要具体而微的评估指标。系统的建立就是根据这些指标维度建构人工智能伦理风险评估体系，将指标具体化、操作化，为企业的技术治理与风险管控提供支持。」杨帆表示，
而在实践中，AI伦理管理系统，通过系统的方式将风险识别、评估、处理、监控及汇报等各环节都进行了覆盖，明确各产品全生命周期中各个主体的风险管控责任，让技术可控有章可循、有规可依、有据可查。」
今年11月，商汤因伦理方面前瞻性思考和实践，获得了《哈佛商业评论》2021年度拉姆·查兰管理实践奖。这也是国内首个因为在技术伦理与治理方面的实践而获得的顶尖商学院媒体授予的企业。

3、「发展」的AI伦理观
「技术可控」并非目的，而是手段。
说到底，人工智能企业在技术创新中「有所不为」的最终目标，不是为了停止人工智能技术的研究与创新，而是以一种良性的、可持续的方式在现实生活中发展人工智能，紧跟时代需求，使其为人类、为社会造福。
今年，在伦理审核之外，商汤也继续保持其在人工智能技术上的创新，推出AI大装置等人工智能基础设施，「伦理治理」与「技术创新」双管齐下，为行业做贡献。
「无论是技术本身、还是技术治理上，商汤都是开放而坚定的长期主义者。AI伦理治理是一个需要持续关注与投入的话题。人工智能伦理的发展，需要多方合作、共同探索。」
据了解，目前，商汤科技已与清华大学人工智能国际治理研究院、上海交通大学、上海人工智能实验室、上海科学学所、数据法盟等共10家机构展开合作，围绕敏捷治理、数据安全、人工智能算法的可解释性等方面开展联合研究，平均每年推动五个专项课题的研究，产出10+专项研究报告。