参与者|真假难辨,AI就能分得清?( 二 )


参与者|真假难辨,AI就能分得清?
文章插图

图片来源PANS,信任度评分为1-7分,可信度越高评分越高
这个研究指出,那些开发深度伪造技术背后的基础技术的人需要认真的思考一下自己在做什么。要好好地问自己,该技术的带来的好处是否已经超过了它带来的风险。该行业还应该认真的考虑简历一些保障措施,比如让利用该技术造价的人,输出的照片中会出现水印等。该研究报告的作作者表示:由于这一强大技术的使用对人们的生活造成了重大的威胁,我们应该认真的考虑下公开和无限制的深度伪造代码可被任何人随意纳入任何程序的做法,是不是应该加入一些限制。但不幸的是,现在可能已经太晚了。公开的模型已经能够产生非常真实的深度伪造照片,而且我们想把模型收回也不太可能了。
任何技术都是双刃剑,准确来说任何科技都是双刃剑,一项开发者想用来造福人类的技术,被一个心里充满恶念的人拿到,就有可能造成不可逆转的恶果。我想这应该引发人们的思考,一些可能会被拿来作恶的代码或技术真的可以毫无限制的开放吗?当然这是笔者的个人看法,欢迎大家讨论。
参考链接:https://singularityhub.com/2022/02/21/people-trust-deepfake-faces-more-than-real-ones-study-finds/
—END—《新程序员001-004》全面上市,对话世界级大师,报道中国IT行业创新创造