算法是个黑匣子，立法管得住“大数据杀熟”吗 7月21日

文章图片
7月21日，市十五届人大常委会第42次会议通过了《上海市消费者权益保护条例（修订）》，其中一条剑指“大数据杀熟” ，即经营者不得通过自动化决策实行不合理差别待遇。
这条硬核条款并不是首创。盘点近一年来出炉的法律法规，无论是国家层面的《个人信息保护法》《消费者权益保护法》，还是去年市人大通过的《上海市数据条例》，均对“大数据杀熟”作出了限制性规定。有人说，这给大数据时代的消费者吃了定心丸，如果再碰到“价格歧视”类似的侵权风险，手里就有“尚方宝剑”护身了。
所谓“大数据杀熟” ，从经济学的角度来看，是一场生产者利润与消费者剩余之间的博弈。电商通过向算法挖掘消费者不同数据间的“化学反应” ，揭示用户消费能力、消费偏好、价格敏感度等隐性信息，描绘消费者“千人千面”的现实形象，从而实施差别定价。

文章图片
事实上， “差别定价”是商业领域一直存在的销售策略，你跟小商贩之间的讨价还价就是一种，但这时你是有心理准备的，即使知道自己买贵了，也只能责怪自己砍价技不如人。但是，当你被互联网平台“杀熟”时会发现自己是被动的，自己并不知情，这样的用户体验就很差了。这也是消费者对“大数据杀熟”如此痛恨的原因。科技在不断进步，可如果互联网公司利用技术创新只是为了“看人下菜”而榨取最大利润，这种创新不会为大家所接受。
算法若被合理使用，可以实现平台运营者和消费者的双赢。比如电商可以清晰把握消费者需求，提升效率，压缩成本。精准的私人订制也能为消费者节省时间。个性化推荐的算法若用得好，还能造福人类。比如在医学上的应用，每个人对药物的反应可能千差万别，如果通过大数据找到一些和你的生理数据、健康状况、生活习惯、性格背景都高度相似的个体，看看他的身体对特定药物和治疗方案的反应，那么，医生就能向你推荐更适合你的治疗方案。
这也就提出一个问题：大数据时代，我们需要怎么样的算法，如果实施算法监管，立法管得住吗？
有人说，算法不是透明的，有些算法本身就是个黑匣子，如果实施监管，那些互联网巨头肯定会想办法绕过去。有人认为，面对“大数据杀熟”这样的技术伦理困境，应该考虑如何用更良善的科技来来解决。在这几部法规的立法调研和审议中，类似的博弈讨论就不少。如果立法过于严格，不利于技术创新；如果过于宽松，又不利于消费者个体。可见，算法监管的这个度并不好拿捏，颇考验立法者的智慧。
技术史专家克兰兹伯格说过一句话：“技术既无好坏，亦非中立。 ”技术本身虽没有好坏，但有极大的影响力。手握技术的科技公司有义务预判一项新技术到底会带来什么样的影响。你可以用大数据给用户提供便捷，也可以用来“杀熟” 。科技并不必然带来美好生活，带来美好生活的，是善用科技的人。
【算法是个黑匣子，立法管得住“大数据杀熟”吗】从这个意义上，我们的立法初衷就很明确，就是给算法的“目标函数”划了一条底线。科技向善，不是可有可无的个人情怀，而是必须履行的社会责任和法律义务。当然，立法不是万能药，不可能有了这个条款后，马上就能杜绝不合理算法，但从监管目标上给互联网经营者发出警示，也让消费者有了敢于诉讼的法律依据。