人脸识别|警惕“AI换脸”

人脸识别|警惕“AI换脸”
文章插图
随着科技的发展,AI技术已经被广泛应用于各行各业中,其中有一项技术在今年爆火,即“AI换脸”:在一些视频平台上,不少网友以AI换脸为乐;在影视领域,这项技术解决了因为某些因素导致电视剧无法播出的问题。但与此同时,这项技术也是一把双刃剑,比如利用其伪造人脸识别认证、制造虚假新闻等。在法律人士看来,AI作为新兴科技本身在法律上是不受禁止的,但不管是经营者还是使用者,都要秉持科技向善的原则,避免利用这项技术从事违法犯罪行为。
从自娱自乐到行业应用
进入人工智能时代,网友们的自娱自乐不再只是写同人文和画漫画了,他们已经与时俱进地用上了AI技术。
不少B站或者短视频用户肯定在平台上看到过这样的现象,每当有一个视频爆火,就会有网友将自己喜欢的明星的脸通过AI技术“移花接木”到原视频的人物身上;一些网友还爱将一些喜剧明星的脸通过AI技术换到《甄嬛传》等宫廷剧的角色身上;还有人将自己的脸换到动漫人物身上……
当然,这里的AI换脸技术并不需要网友自行学编程、写代码,只要下载一个AI换脸的App,将自己想要用的脸和身体的照片放上去,就能实现换脸。北京商报采访人员在软件商店搜索“换脸”两字,可以看到很多相关的App,比如“换脸宝”“一键AI换脸”“爱脸秀”“AI换脸秀”“脸拍AI换脸”“AI换脸大师”等。
北京商报采访人员就AI换脸的一些技术和应用问题采访了云从科技、依图科技等AI公司,但截至发稿对方未给出回复。
除了被网友们用来娱乐,AI换脸技术也有正经用途。在今年热播的一部电视剧《突围》中,因饰演剧中一个重要角色的演员曾公开发表不当言论,剧组便动用了AI换脸技术将其相关出场镜头尽数“换脸”。不过,限于当下的技术水平,剧中但凡有这个角色的镜头,仔细观察还是能看出一些不自然的细节。
可以说,AI换脸技术在特定背景下确实有其存在的必要性。然而,随着这项技术的广泛应用,不法分子也学会了利用这项技术钻空子。
近日,常州警方发现,当地一家非法从事证书挂靠行业的公司,竟然使用AI换脸技术“伪造人脸”,帮助想要挂靠的专业人员在相关政务网站上进行识别认证。正常的人脸识别需要本人亲自进行识别认证,这个犯罪团伙便想到利用AI换脸技术“骗过”人脸识别认证,实施作案,犯罪嫌疑人在审讯过程中,还向警方演示了用多个制图软件让图片动起来的过程。
此外,还有一些人开始利用AI换脸技术造谣,尤其是用在公众人物身上。今年8月,演员刘昊然的工作室报警,称网友利用AI换脸技术传播对刘昊然带有侮辱性的视频、截图,同时还有含有存在诽谤言论的聊天记录。
“移花接木”要有法律界限
“AI换脸技术本身是一项中性技术,提供了一种解决问题的方式。” 中国互联网协会法工委副秘书长、中消协律师胡钢对北京商报采访人员表示,但要注意,使用这项技术的人,可能出于不同的目的、有不同的动机,虽然采用同样的技术,但所产生的社会效果和法律效果是不同的。
胡钢认为,网友通过某种方式创作一些内容、完成一些表演,是宪法规定公民所享有的权利,但任何一项言论或行为自由都和相关义务和责任匹配,自由的边界是不得侵犯其他个人或组织的利益,也不能损害公共利益,要有一个清晰的法律界限。“如果AI技术被用于诈骗,比如伪装成另外一个人并虚构一些内容,轻则损害他人的名誉权、肖像权,重则形成了传播谣言、扰乱公共秩序的危害,相关行为人利用现代科技信息技术时,一定要秉持科技向善的原则,牢牢守住法律的底线,不能利用这样的技术从事违法犯罪的活动。”