Google|创新100 | 北邮邓伟洪:AI就像20年前的互联网,应用走在了规范的前面( 二 )


不过 , 邓伟洪还认为 , 目前包括人脸识别在内的人工智能的发展缺少监管 。 “所有药物都有副作用 , 但因为有药监局保证药利大于弊 , 所以我们生病时会放心使用药物 。 现在我们就需要一个类似的技术监管机构 , 来使得人们更加信任人工智能 。 ”
邓伟洪表示 , 新生事物都会带来很多新的问题 , 包括资本为所欲为 , 滥用个人信息等 , 现在应用走在了规范的前面 , 导致乱象出现 。 但技术进步的趋势不可阻挡 , 关键是制定一套完善的法规并严格执行 , 让技术更好地服务大众 。 这需要通过法律和技术两重手段去规范 , 国家层面需要立法去规范人脸识别的发展 , 规范使用这个技术的人 。
“我相信技术是中立的 , 如果规定和执行做得好的话 , 人们一定会更多地感受到技术的正面效益 。 ”邓伟洪说 , 在规范出台之后 , 也可以在科研上通过技术手段去限制一些不法行为 , 去辅助补充法律 。
他介绍 , 从技术角度 , 有很多方法可以保障人脸识别发展过程的数据安全和隐私问题 , 比如发展隐私计算和联邦学习 , 可以让数据不离开我们的手机;还有数据脱敏技术 , 通过脱敏的信息无法识别出具体的人 , 以及同态加密技术 , 可以用加密特征完成识别 , 加密的数据如果被人拿走是没有用的 。
此外 , 还有一些最新的隐私技术 , 比如邓伟洪领导的实验室团队正在研究的一种水印技术 , 可以保证照片和视频不被机器识别出来 。 如果被不法企业盗用 , 水印图像可以对人工智能系统隐身 , 甚至起到破坏系统性能的作用 。 “我觉得对保护隐私和安全很有意义 , 现在有很大的研究力量投入在做 。 ”
【Google|创新100 | 北邮邓伟洪:AI就像20年前的互联网,应用走在了规范的前面】“当然 , 这些都会带来一些成本的提高 , 没有强制性手段 , 企业肯定会追逐低成本 , 因此可能也需要法律强制企业去做这方面的投入 。 ”邓伟洪说 。