机器人热潮背后：工具的制造者，被他们的工具改造了|评论

从此，人们总在担心机器会不会消灭人类，这种顾虑确实为电影、文学市场带去了可观的利润。
对此，控制论之父诺伯特·维纳在《人对人的利用》中写道，社会面临的危险并不源于机器而是源于制造它们的人类。

文章插图
电影《机械公敌》
2018 年 2 月，韩国科学技术院（KAIST）曾开设人工智能武器实验室，来研发所谓的「杀手机器人」，消息一出便引发广泛抵制。
当年 4 月 4 日，来自全球 28 个国家及地区的 50 余名顶尖人工智能专家宣布，联合抵制 KAIST，并终止与该院的一切合作，直至其停止研发自主武器。公开信发出后，KAIST 迫于压力宣布将不会参与研发任何自主武器系统及杀手机器人的研发，抵制活动也随之结束。
科学家们在公开信中指出，人工智能武器已被视为继火药与核武器之后的第三次武器革命，杀伤力巨大。
亚马逊也曾受到类似的指责。2017 年 8 月至 2018 年 9 月期间，有数百名员工因为「工作效率低」而被亚马逊的 AI 系统自动解雇。无需经过人工操作，只要根据监测数据，它就可以自动生成警告和解雇指令。上厕所、喝水，都算「摸鱼」，一旦生产效率低下，系统就会警告。一些在仓库区工作的员工声称，他们为了不被解雇，尽量避免上厕所。
过去，一个能影响数亿人的超级系统，只有国家才能拥有。而现在，掌握最先进信息技术的科技公司，在无限接近。
技术本身并无善恶，但人性中的阴暗面，可能会蕴藏其中。比如 Facebook 的推荐系统被指存在性别、种族歧视；人脸识别技术常常被曝出应用于售楼处、便利店、商场等，收集客户信息用于牟利。
北伊利诺伊大学的 David Gunkel 博士，在思考人机关系时提出，当与其他存在互动时，无论是和动物、人类、自然环境、还是机器人，重要的不是它们是什么，而是我们和它们建立了怎样的关系。
在人工智能的倒逼下，对技术透明化的需求从未像现在这样强烈。工具的制造者被他们的工具改造了。
陆续地，不同地区都出台了一些对推荐算法使用规则的法案，对大数据使用范围的规范，以及加强了对科技公司的监管。
2021 年 9 月 10 日，美团外卖首次公开关于骑手配送时间的计算规则，介绍了预估送达时间背后的算法逻辑。两个月后，美团又在官方公众号上表示，在试着给出一个兼顾商家、骑手和用户三端需求的订单分配算法。公司开始更加积极地对外沟通这些过去隐藏在幕后的规则。

文章插图
另外还有滴滴，2021 年 7 月份开始，网约车收费「抽成」透明化，在账单上给司机展现每一单的收入，以及滴滴抽成多少。
「算法」迎来了强监管。2021 年 12 月 31 日，国家出台《互联网信息服务算法推荐管理规定》，自 2022 年 3 月 1 日起施行——直指大数据杀熟、诱导用户沉迷、过度消费、信息茧房等现象。
《规定》明确，针对算法推荐的个性化服务以及对个人特征标签的使用等方面的选择权，将交由消费者决。——目前，已经有部分 APP 上线了关闭个性化推荐或广告的功能。
未来，算法将纯粹地由公司内部驱动，变成加入外部社会力量的干预。而鉴于过往的劣迹斑斑，人们越来越失去对互联网巨头的信任。算法透明也是重新赢回口碑、在同行竞争中获取用户信任的方式。
有人调侃：人在退化，变得越来越像机器；而 AI 在进化，变得越来越像人。人工智能所带来的挑战中，有许多问题的核心事关个人在未来的角色。

机器人热潮背后：工具的制造者，被他们的工具改造了|评论 | ai( 三 )