京东|为了把 Deepfake 关进笼子,各大公司都拼了( 三 )


Meta
2020年 , Facebook 宣布在 Facebook 产品平台全面禁止 deepfake 类视频 。
然而这个政策执行得并不彻底 。 比如 , 目前在 Instagram 上还可以经常见到那个著名的中国翻版马斯克 deepfake 视频(主要是从 TikTok 上转发过来的) 。
在行业层面 , Meta、亚马逊 AWS、微软、MIT、UC伯克利、牛津大学等公司和机构在2019年共同发起了一个 deepfake 检测挑战赛 , 鼓励更多、更优秀、更与时俱进的检测技术 。
Twitter:
2020年 Twitter 封杀了一批经常发布 deepfake 视频的账号 。 不过对于其它 deepfake 内容 , Twitter 并没有完全限制 , 而是会打上一个标签“被修改的内容”(manipulated media) , 并且提供第三方事实核查机构的检测结果 。
创业公司:
OARO MEDIA:西班牙公司 , 提供一套对内容进行多样化数字签名的工具 , 从而减少deepfake 等被修改过的内容传播对客户造成的负面影响 。
Sentinel:位于爱沙尼亚 , 主要开发 deepfake 内容检测模型 。
Quantum+Integrity:瑞士公司 , 提供一套基于 API 的 SaaS 服务 , 可以进行各种基于图像类的检测 , 能力包括视频会议实时 deepfake、截屏或图片“套娃”、虚假身份证件等 。
国家(立法和行政)
中国:2020年印发的《法治社会建设实施纲要(2020 - 2025年)》进一步要求 , 对深度伪造等新技术应用 , 制定和完善规范管理办法 。
美国:2019年正式签署生效的2020财年国防批准法当中包含了和 deepfake 相关的条文 , 主要是要求政府向立法机构通报涉及跨国、有组织、带有政治目的的 deepfake 虚假信息行为 。
加州、纽约州和伊利诺伊州都有自己的 deepfake 相关法律 , 主要目的是保护 deepfake 受害者的权益 。
欧盟:GDPR、欧盟人工智能框架提议、版权保护框架、虚假信息针对政策等高级别法律文件 , 都对可能和 deepfake 有关的事务实现了交叉覆盖 。 不过 , 整个区域级别目前并没有专门针对 deepfake 的法律和政策 。
在成员国级别上 , 荷兰立法机构在2020年曾经要求政府制定打击 deepfake 成人视频的政策 , 以及表示会考虑将相关问题写入该国刑法 。