有色人种|美版“腾讯停更APP”，美国对“AI算法”立法，未审核禁止发布

前几天，腾讯公司旗下产品存在违规，被累计通报达4批次。工信部对腾讯采取过渡性指导措施，所有APP上新或者发布新版本，都必须经过工信部技组织技术检测，合格后方能正常上架。

文章插图

近几年来，中国正在不断加强对互联网监管，取得极为明显的成绩，APP各种弹窗、诱导点击、恶意索取权限的现象基本上消失。
世界各国也紧跟中国脚步，就在上个月，美国纽约市通过了一项法律，雇主在招聘或者提拔员工时，使用的人工智能算法必须进行审计，审计不通过将不能使用。此外，当人工智能在招聘或者提拔员工时，发挥了什么作用，还必须告诉求职者。
曾在纽约自动化决策系统工作组任职的纽约大学副教授Julia Stoyanovich表示，她和学生最近检查了一种招聘工具，发现它会根据应聘者的毕业院校、口音、是否戴眼镜等条件，来给招聘者打分。

文章插图

除了纽约州，美国其他州也不甘寂寞。在华盛顿特区，国会议员正在起草一项法案，要求企业评估用于医疗保健、住房、就业或教育等领域的自动化决策系统，并将调查结果报告给联邦贸易委员会。
美国特供版“人工智能”为什么美国开始加强对“AI”的监管？答案竟然是无处不在的“种族歧视。”
美国是一个多人种的移民国家，因为技术原因，人工智能对不同人种的识别率都不太一样。美国国家标准与技术研究员曾经做过一项研究，发现189种人脸识别算法，对有色人种女性的识别准确率最低，却对浅肤色男性识别的准确率最高。
这就涉及到两个问题“性别歧视”和“种族歧视。”美国对后者尤为敏感。

文章插图

因为人工智能的这一缺点，美国曾经发生过多起因人工智能引起的纠纷。一名密歇根男子，因为人工智能识别错误的原因，不得不申请破产；租客自动筛选工具伤害了许多买房或者租房的有色人种。
在Facebook上，由于人工智能的存在，黑人比起白人更容易被误判；自动化评分系统，会对学生和老师进行打分，却更容易将深色肤色的人，标记为在考试中作弊……
中国规范人工智能在中国，规范人工智能技术更多考虑的是被滥用的问题。
今年315晚会上，曝光了人脸识别被滥用的问题。科勒卫浴等商家在众多门店安全人脸摄像头，未经用户同意，就将人脸信息、性别、年龄和衣着记录下来，对客户进行分类。店员即可根据顾客的特点精准营销。

文章插图

一些旅游景点、小区门禁强制游客或者业主使用人脸识别的报道也屡见不鲜。
为此，中国陆陆续续出台了许多法律法规文件进行规范。特别是在今年8月份，中国国家互联网信息办公室发布了《关于加强互联网信息服务算法综合治理的指导意见》，它被美国科技和创业新闻门户网站Venturebeat 认为，是迄今为止管理人工智能系统最全面的文件，在这方面，没有哪个国家比中国走得更远。
【有色人种|美版“腾讯停更APP”，美国对“AI算法”立法，未审核禁止发布】