独角兽|算法推荐技术合规要点梳理与备案指引( 二 )


1.基于深度学习 , 即程序输出结果与用户行为紧密结合 , 算法设计者也无法准确预测程序输出结果;
2.对呈现给用户的信息进行了筛选与选择;
3.这些算法行为会影响用户或他人权益(例如可能带来错误信息 , 引诱消费等) 。
我们结合公开资料 , 将《规定》明确提及的算法概念、应用场景及合规要求总结如下:


算法类型
定义
场景
合规要求
生成合成类
指利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术
自动生成文章、视频、音乐等内容;
VR技术(虚拟人、虚拟场景等)
《网络信息内容生态治理规定》第23条 , 不得利用深度学习、虚拟现实等新技术新应用从事法律、行政法规禁止的活动 。
《网络音视频信息服务管理规定》第13条 , 基于深度学习、虚拟现实等新技术新应用的应进行安全评估、显著标识非真实视频、发现违规内容及时停止传输并上报有关部门 , 且不得传播虚假信息 。
《民法典》第1019及1023条 , 不得利用信息技术手段伪造等方式侵害他人的肖像权及声音有关权益 。
《规定》第13条 , 不得生成合成虚假新闻信息 。
《互联网信息服务深度合成管理规定(征求意见稿)》进行全面规制 。
个性化推送类
利用用户属性及行为数据实现个性化分发的算法
短视频、音乐等网站的内容推送;电商商品定向推送;广告精准营销
《电子商务法》第18条规定 , 提供不针对消费者个人的选项 。
《App违法违规收集使用个人信息行为认定方法》规定 , 提供非定向推送的选项 , 且不得仅以定向推送信息为由 , 强制要求用户同意收集个人信息 。
《规定》第10条 , 应加强用户模型和用户标签管理 , 完善记入用户模型的兴趣点规则和用户标签管理规则 , 不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息 。
《网络数据安全管理条例(征求意见稿)》第49条 , 利用个性化推送向用户提供个人信息时 , 应取得个人的单独同意;设置便于用户访问、重置、关闭个性化推荐的选项;允许个人删除定向推送信息收集产生的个人信息 。
排序精选类
以客观或主观因素为依据 , 设置、调整网络信息内容排列顺序的算法
社交、新闻、音乐、短视频等首页推荐内容(如微博热搜等);电商平台热销商品榜单等
《最高人民法院关于审理侵害信息网络传播权民事纠纷案件适用法律若干问题的规定》第9、10条 , 《最高人民法院关于审理利用信息网络侵害人身权益民事纠纷案件适用法律若干问题的规定》第6条 , 人民法院依据民法典第一千一百九十七条认定网络服务提供者是否“知道或者应当知道” , 应当综合考虑下列因素:(一)网络服务提供者是否以人工或者自动方式对侵权网络信息以推荐、排名、选择、编辑、整理、修改等方式作出处理;……即应用排序精选类算法的平台将无法适用避风港原则 。