大数据|算法歧视的表现、成因与治理策略( 五 ) IDP|三优两重|山东省工信厅|协

文章插图

第三，政府、媒体等第三方实现联合监管。首先是完善法律法规制度。我国作为一个法治国家，法律具有强大的约束力，通过法律手段对IT行业进行约束是治理算法歧视问题最有力的手段。在当前人工智能时代，算法应用越来越广泛，涉及到多个行业、领域，因此要从法律层面治理算法歧视问题，规范算法的使用范围、方式和底线。与此同时，算法歧视涉及算法设计者、商家和用户等多个主体，对于不同对象，法律都应详细规定其行为规范，明确应承担的责任和义务。相关部门应该出台相应的法律来规制算法设计者的行为，明确在算法设计过程中存在恶意歧视行为的惩罚制度并严格执行，以避免其侵犯用户的合法权益。我国当前相关法律主要侧重于对信息内容的管控，如已颁布的《互联网文化管理暂行规定》《互联网群组信息服务管理规定》法律文件等，而对于算法歧视设计主体的行为规范仍需进一步努力。此外，我国还应建立数据审查、问责、监管及补救机制。在算法设计过程中，要确保数据来源真实、合理且合法，保证数据收集过程透明且可追溯，并建立严格的审查制度，对数据采集进行监管。2021年7月6日，国内数据领域首部基础性、综合性立法《深圳经济特区数据条例》在深圳市人大常委会网站公布，该《条例》于2022年1月1日起施行。《条例》明确规定，个人数据在被处理前务必向自然人履行告知义务、征得自然人的同意，且自然人有权拒绝数据个性化服务等。未来，大数据体量将持续增加，我国应继续推进对数据采集处理的监管与治理工作，保障用户的合法权益。其次是加强道德伦理监督。由于受到社会环境的影响，算法设计者可能具有对某一群体的歧视思想，由此可能导致算法设计中缺乏中立性。一旦歧视性或偏见性思想融入算法设计过程中，算法必然会输出歧视性的运行结果。政府应严格把控从业准入道德标准，对从业者的职业道德学习、测评及IT行业评价及投诉体系的建立进行监督；媒体应发挥正向的倡导作用，普及算法歧视的相关知识，引导正确的价值导向，对算法歧视问题予以充分关注并及时曝光；社会各界应对算法歧视问题进行及时举报和投诉。最后是实现多方监管。当前，一些研究者们提出通过“算法透明”来解决算法歧视问题。然而，算法作为企业的技术成果与核心竞争力，如果全部透明暴露在大众视野中，很容易受到黑客攻击而造成损失，因此“算法透明”在现阶段难以完全实现。对此，许多研究者积极研发技术工具，以期在保证算法精准性的同时尽可能地避免歧视问题发生。例如，由数据科学家Been Kim所在团队研发的“概念激活向量测试”（Testing with Concept Activation Vectors）技术，该技术能够使算法“黑箱”变得可解释，进而据此判定算法是否存在歧视问题。随着类似技术的发展成熟，算法设计者可以将算法转换成可解释的逻辑并进行公开，接受政府、业内专家、用户及社会各界的多方监督，在保留其机密信息的同时对算法进行监管，降低算法歧视问题发生的概率。
总的来说，算法歧视问题使算法无法充分发挥其正向效用，损害了用户的体验感与商家的利益，给算法推广使用带来了阻碍。算法的发展应用应始终秉承着“以人为本”的原则，任何群体都有权利享受算法所带来的红利，而非成为被算法歧视的对象。未来，随着社会各界对算法歧视问题的认知逐渐加深以及对算法歧视多方治理的逐步实现，算法一定能在帮助人类高效生产、便捷生活的同时，实现人文关怀价值，充分尊重人类的平等权利与尊严。