AI 换脸,有多危险( 二 )

AI 换脸,有多危险
文章图片
后来 , 相关技术的源代码都免费开放了 , 这意味着 , 每个人都能随意进行AI换脸操作 。 开放后 , 虽然也出现了“ZAO”这种低俗App , 但大多数人都是用在纯粹的恶搞上 。 要么恶搞家人 , 要么恶搞朋友 , 要么恶搞政客 , 玩得不亦乐乎 。 AI 换脸,有多危险
文章图片
虽然这么看下来 , AI换脸功能的存在确实具有有一定的价值 , 既能让网友的才华得到发挥 , 又能娱乐大众 。 但它存在的弊端 , 真的无法忽视 。 在雨仔看来 , 一旦AI换脸没有得到恰当的运用 , 就会导致三重危险 。 AI 换脸,有多危险
文章图片
首先 , 就像盖尔?加朵等女星的遭遇一样 , 会有女孩的清白被玷污 。 有不怀好意之人 , 可以将女孩的脸换到情色视频中 , 在网络上传播 。 在互联网环境中 , 人们通常只会相信自己看到的 , 不会在意背后的真相 , 这样被换脸的女孩 , 很容易陷入百口莫辩的局面 。 即便最后辟谣了 , 周围人的目光也还是会与之前不同 。 曾经有一个名为拉娜?阿尤布的印度女采访人员 , 因为揭露社会黑暗 , 遭到报复者AI换脸 。 不明真相的印度网友 , 纷纷辱骂她是个烂货 , 用尽粗鄙的言语 。 最终 , 拉娜不幸患上抑郁症 , 整个人生被毁于一旦 。 AI 换脸,有多危险
文章图片
其次 , 有别有用心之人 , 可以通过AI换脸改头换面 , 进而赚取流量和金钱 。 在俄乌战争爆发期间 , 一个名为“俄罗斯娜娜”的女博主在抖音突然蹿红 。 她自诩为纯种俄罗斯人 , 在直播中操着一口蹩脚的“俄式中文”带货 , 收益相当可观 。 然而几天后 , 她的账号遭到封禁 , 官方声明表示其“存在滥用平台道具、仿冒虚假人设” 。 所谓的俄罗斯长相 , 就是通过AI换脸实现的 , 她靠着这种手段借机牟利 。 AI 换脸,有多危险
文章图片
最后 , 有居心叵测之人 , 可以换脸为重要人物 , 造成不可预估的风险 。 试想一下 , 假设有人换脸成某国总统 , 制作政治类的视频 , 是不是有可能引发全球动荡?再试想一下 , 如果有人换脸成盖茨那种经济巨鳄 , 捏造关乎经济投资的视频 , 会不会导致许多人上当受骗?也许有人会觉得这种情况过于离谱 , 但世界近80亿人口 , 从来不缺少轻易被捏着走的人 。 之前就有人AI换脸成川普 , 发表了指责比利时环保政策的视频 , 险些导致两国爆发外交危机 。 AI 换脸,有多危险
文章图片
更何况 , 就算抛开上述的危险 , 肆意使用AI换脸并传播的行为 , 已经触及到了红线 。 我国民法典和行政法规中都有相应的规定 , 刑法中更是有一系列的罪名 。 只要给别人造成负面影响 , 就会得到正义的审判 。 AI 换脸,有多危险
文章图片
总的来说 , AI换脸属于科技的一种 , 既然是科技 , 难免就会带有双刃剑的属性 。 目前AI换脸的弊端已经暴露出来 , 轻则增加公众求证成本 , 重则扰乱社会秩序 , 会滋生很多负面影响 。 雨仔真切希望 , 大家在使用时只聚焦于利 , 不要触及弊 。 要知道 , 如果因AI换脸受到伤害的人变得越来越多 , 那么谁都无法保证 , 下一个受害者会不会是自己 , 会不会是自己的家人 。特别提醒
AI 换脸,有多危险