视频|近年来“AI换脸”走红网络 存在哪些法律风险?


只要下载某款软件 , 就能轻易把自己的五官投到原本的演员脸上 , 享受参演电影、电视剧、短视频的快感 。 近年来 , AI换脸走红网络 , 无论是在手机应用商城还是社交平台、短视频平台 , 都能看到不少提供AI换脸服务的App和小程序 , 只需上传一张照片 , 经过深度合成算法处理 , 就能秒变视频主人公 。
【视频|近年来“AI换脸”走红网络 存在哪些法律风险?】然而 , AI换脸的趣味性背后暗藏不少法律风险和侵权纠纷 。
近日 , 杭州互联网法院审理了一起因AI换脸App利用深度合成算法侵害他人肖像权的案件 , 判定App开发者构成对原告肖像权的侵害 。
AI换脸技术的法律边界在哪里?开发商提供AI换脸服务、用户制作上传AI换脸视频存在哪些法律风险?带着这些问题 , 《法治日报》采访人员采访了相关业内人士 。
同类软件大量存在
一键即可轻易换脸
在杭州互联网法院审理的这起案件中 , 原告楼某某是一名古风汉服模特 , 经常在社交平台发布古风汉服照片和视频 。 楼某某发现被告公司运营的AI换脸App中使用的是其拍摄的古风造型视频模板 。 用户可通过上传个人照片 , 将视频模板中的人脸替换成用户上传的人脸 , 除五官发生实质性变化之外 , 其余内容都与原视频保持一致 。 软件生成换脸后的古风造型视频 , 用户可以将其保存并分享到其他平台 。
法院审理认为 , 被告公司未经楼某某同意 , 利用深度合成技术使用其肖像制作了伪造视频 , 依法应认定为构成对楼某某肖像权的侵害 。 法院判决被告向楼某某赔礼道歉并赔偿损失5000元 。
按照《互联网信息服务深度合成管理规定》给出的定义 , 深度合成技术是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术 。 其中包括人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术;图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术等 。
采访人员调查发现 , 利用该技术的AI换脸App和小程序大量存在 。 在手机应用商城 , 搜索AI换脸等关键词 , 有不少相关App推荐 , 如AI视频换脸秀一键face换脸换脸宝颜技等 。 在某社交平台上搜索换脸 , 也能看到不少AI换脸的小程序 , 如AI换脸变装换脸AI等 。
采访人员在手机应用商城下载了热度最高的AI视频换脸秀App 。 该App有多款换脸模板可供选择 , 包括AI绘画、汉服、气质美女、甜美风、婚纱等 , 一键上传照片便可生成换脸视频 。
上传照片时 , 该App还会弹出提示:请确保你使用的照片获得本人授权同意 , 严禁使用未获得本人授权同意的照片 。 如因照片未授权对他人肖像权造成侵犯所产生的法律责任由本人承担 。
要想在这些App和小程序上使用AI换脸功能 , 有些需要付费 , 如单次购买19.9元、月会员38元、永久会员168元;也有些免费 , 一般用户每日可享受一次免费AI换脸的机会 , 用完免费次数后可通过浏览视频广告获取权限 。
林琳(化名)是一位在某短视频平台上拥有近30万粉丝的仿妆博主 , 经常发布一些仿影视作品角色妆容的视频 。 今年2月 , 林琳发布了一条《倚天屠龙记》丁敏君的仿妆视频 , 该视频点赞量破3万 。 但是视频发布不久后 , 她点开丁敏君仿妆的话题词条 , 发现里面有条点赞量破千的视频竟是用她拍摄的原创视频AI换脸生成的 , 她点开该博主的主页后发现里面均是AI换脸生成的视频 。
林琳说 , 她已经不是第一次遇到视频被AI换脸App盗用了 , 去年就有很多换脸App盗用了她的视频当素材 , 并且用户使用这些素材都是需要付费的 。 她当时找了这些App的客服沟通 , 但对方只在当时下架了她的视频 , 之后类似的事仍然频繁发生 , 以至于有粉丝质疑她的视频是否也是AI换脸制作而成的 。