雇主|AI监视打工人，这个国家明确说：保护我方“摸鱼权”

文章插图
图片来源@视觉中国
文丨学术头条，作者丨刘芳，编审丨寇建超
近日，国美控股集团对员工“摸鱼” 的处罚引起了关于职场中隐私权的巨大争议。
事实上，这一事件并非个例。如今人工智能（AI）算法在职场中的使用，已经涉及到包含隐私权在内的诸多问题。
随着人工智能在工作场所的使用越来越普遍，老板们到底有没有权利监视员工的摸鱼行为已经成为了一个不可回避的问题。
11 月 11 日，英国议会调查小组就人工智能在职场中的使用作出最终报告，称无处不在的监控和算法自动化决策对员工的身心健康带来显著的负面影响，员工会因此感受到极大的压力。

文章插图
（来源：该报告）
报告提出：“人工智能正在改变人们的职场生活，但其发展速度明显超过了现有的监管制度。”
这份报告由英国议会跨党派未来工作小组（The All Party Parliamentary Group on the Future of Work，APPG）撰写，主要目的是调查前沿科技尤其是人工智能对人们工作带来的机遇和挑战。

文章插图
（来源：该报告）
对此，调查小组提出了五点建议，以保障雇主和打工人之间的信任，并防范因算法的不当使用带来的社会心理风险。
建议一：“算法问责法案”中的先发机制到目前为止，使用人工智能进行职场监控的企业，不需要就算法可能对员工带来的影响进行任何解释。这意味着，在对打工人可能造成重大损害之前，风险一般会被忽视。
一旦通过“算法问责法案”（Accountability for Algorithms Act，AAA），英国政府将要求所有企业和政府部门披露“算法影响评估”（Algorithmic Impact Assessments，AIA）的细节。具体包括：

辨别可能受算法影响的个人和通信，特别是残疾人等弱势群体；
在开发算法时进行风险分析，尽一切努力防止算法给个人和社会带来的伤害，风险分析应采取预警原则, 借鉴英国研究机构 IFOW 推出的 Good Work Charter 标准；
针对分析结果对算法做出调整。“算法问责法案”将强制企业把调整算法的过程公开化，给打工人一个交代；
算法影响评估需要在设计初期就被纳入到整个产品生命周期中，并贯穿在人工智能产品开发和部署的整个阶段。

调查小组认为，法律强制的“算法影响评估”是让人工智能更加公平透明的切实可行的机制。在具体实施中，“算法问责法案”应该阐明算法影响评估的总体目标和基本要求，监管部门和行业机构应该协调共治，就具体合规标准给出建议。
建议二：保护打工人权益报告称，“算法影响评估”将提高目前打工人在职场的基本权益，以应对强大但无形的算法的巨大压力。
首先，法律需要保障员工的算法解释权（right to a full explanation），即雇主需要对算法的目的、结果和重大影响进行解释；其次，是参与权（right to be involved），员工有参与设计和使用工作中算法的权利；此外，还有弹性工作权（flexible working），也就是在紧急事项之外的偶尔“摸鱼”权，以避免雇主压榨员工；最后，是“断网权”（disconnect），即在法定工作时间之外不被算法监视或被老板打扰的权利。
“断网权”首先出现在法国。2004 年，法国最高法院确认了之前的一项判决，并裁定“在工作时间以外无法用手机联系到（打工人）的事实不能被视为不当行为”之后，欧洲各国都有类似的相应规定。比如，2017 年意大利第 2233-B 号参议院法案第 19 条第（1）款规定了关于工作协议的实施情况，其中包括某种形式的断网权。