独角兽|算法推荐技术合规要点梳理与备案指引( 三 )

《规定》第10、14条规定 , 应建立完善人工干预和用户自主选择机制;不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现 , 实施影响网络舆论或者规避监督管理行为 。 此外 , 根据《规定》第24条 , 该类算法可能需要至算法平台备案 。
检索过滤类
包括检索算法与过滤算法 , 其中检索算法是按照输入条件或匹配需求匹配相应网络信息内容的算法;过滤算法是指按照给定的条件识别并筛选相应网络信息内容的算法
搜索引擎等使用的去重、垃圾信息过滤及关联推荐算法
《互联网信息搜索服务管理规定》第11条规定 ,如涉及付费搜索信息服务 , 应当依法查验客户有关资质 , 明确付费搜索信息页面比例上限 , 显著区分付费搜索与自然搜索结果 。
《规定》第12条规定 , 综合运用内容去重、打散干预等策略 , 并优化检索、排序、选择、推送、展示等规则的透明度和可解释性 , 避免对用户产生不良影响 , 预防和减少争议纠纷 。
调度决策类
自动或辅助生成供需匹配、供需调节、路径规划等决策调度结果 , 或提供调度决策依据的算法
外卖订单配送、最优驾驶路线规划、打车平台自动接单等
《个人信息保护法》第24条规定 , 保证决策的透明度和结果公平、公正 , 不得对个人在交易价格等交易条件上实行不合理的差别待遇;
通过自动化决策方式作出对个人权益有重大影响的决定 , 个人有权要求个人信息处理者予以说明 , 并有权拒绝个人信息处理者仅通过自动化决策的方式作出决定 。
《国务院反垄断委员会关于平台经济领域的反垄断指南》规定 , 禁止通过算法共谋 , 实施反垄断行为 。
《规定》第18-20条规定 , 算法决策应保障弱势群体权益 。
三、合规要点
(一)算法安全责任


算法安全合规维度
注意事项
算法机制机理审核
1、不得危害国家安全或公共利益 , 扰乱经济秩序和社会秩序 , 侵犯他人合法权益;不得利用算法推荐服务传播法律、行政法规禁止的信息;不得侵害弱势群体利益等
2、定期审核、评估、验证算法机制机理、模型、数据和应用结果
科技伦理审查
1、目前对于科技伦理暂无系统性规定 , 企业可参照《关于加强科技伦理治理的指导意见(征求意见稿)》明确的科技伦理治理的基本原则 , 并结合自身商业模式制定科技伦理审查规则 , 该等基本原则如下:
l增进人类福祉
l尊重生命权利
l坚持公平公正
l合理控制风险
l保持公开透明
用户注册
除满足现有法律要求的实名注册外 , 算法推荐技术还应:
1、不得利用算法技术虚假注册
2、不得利用算法技术交易账户或操纵账户
信息发布审核
参考《网络信息内容生态治理规定》等相关规定 , 落实内容治理义务 。 此外 , 《规定》还对算法推荐技术的信息发布审核做出额外要求:
1、健全用于识别违法和不良信息的特征库
2、发现未作显著标识的算法生成合成信息的 , 应当作出显著标识后 , 方可继续传输
3、发现违法信息的 , 应当立即停止传输 , 采取消除等处置措施 , 防止信息扩散 , 保存有关记录 , 并向网信部门和有关部门报告