规定|规范算法推荐解决了哪些问题


近日 , 国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》(以下简称《规定》) , 自2022年3月1日起施行 。 《规定》要求 , 算法推荐服务提供者向用户提供不针对其个人特征的选项 , 或者便捷的关闭算法推荐服务的选项 。
在移动互联网高度普及的今天 , 智能算法已经融入到我们日常生活的各个方面 。 它能精准地向用户推送所需要的商品、内容或服务 , 为用户提供更多的选择机会 。 特别是对于有选择困难症的人群来说 , 算法推荐是一大福音 。 学者米歇尔·威尔逊曾将算法比喻为菜谱 , 只有遵循食谱所设立的步骤和指令 , 按照要求筛选和搭配食材 , 才能做出指定口味的菜肴 。 不过 , 算法在提供便利的同时也会带来困扰 , 比如算法歧视、算法黑箱、算法垄断以及算法对个人权利侵害等问题 。
首先 , 算法推送容易使用户陷入信息茧房 。 以往我们在获取信息或者商品时 , 需要在搜索引擎或者电商网站上反复筛选和比较 。 而现在 , 推荐算法已成为信息过滤的一种重要手段 , 算法驱动模式会根据用户发布的内容、浏览痕迹以及购买记录等行为数据 , 主动推送个性化的资讯和商品 。
这种你是谁决定了推荐给你什么内容的逻辑 , 导致越来越多的人陷入信息茧房 , 即人们只注意自己选择的东西和使自己愉悦的信息 。 这种信息茧房的囚牢会使人的知识维度趋于狭窄 , 也会使用户沉迷于娱乐至死的汪洋大海 。
此外 , 算法歧视会区别对待不同的消费群体 。 过去 , 商家会借助价格的区分来获取不同消费者的青睐 , 比如图书出版商会发布精装版和简装版两个版本 。 而如今的算法推荐模式将商家的价格区隔手段隐藏到了后台 , 即不同消费者享受相同的商品或服务可能被收取不一样的价格 。 其中 , 最典型的表现便是大数据杀熟 。
互联网平台借助数据挖掘技术 , 可以获取海量的用户数据 , 如浏览记录、购买记录、兴趣标签、地理位置以及手机型号等 , 并对不同的用户进行精准画像 , 由此采取差异化的产品推荐及定价 。 例如 , 使用一些打车软件行驶相同的路程 , 平台老用户的价格会高于新用户 。 这种大数据杀熟的现象 , 充斥在日常的衣食住行之中 。
算法对于互联网平台劳动者也存在压榨 。 算法技术不仅可以从消费者的手中获利 , 同时也在攫取平台劳动者的价值 。 比如 , 互联网打车平台同时掌握司机和乘客的数据 , 平台可以据此约束司机的劳动行为 。 此前 , 外卖员被困在系统里的现象也引发热议 。 外卖平台借助系统的数据、算法和模型 , 将骑手每单的送餐时间以分钟为单位进行控制 , 使其每一分钟的时间价值都被充分利用 。
此次 , 国家相关部门出台规定 , 可以在很大程度上解决上述问题 , 从根本上保护消费者的合法权益 , 避免用户被算法算计 。 互联网平台也要以此为契机 , 在追求利益的同时更要注重企业的社会责任 , 共同营造风清气正的网络空间 。
【规定|规范算法推荐解决了哪些问题】(作者系武汉市社会科学院助理研究员)