想“返老还童”?迪士尼这个新AI分分钟搞定,失业压力给到特效师

Pine发自凹非寺
量子位|公众号QbitAI
迪士尼惊现“返老还童”大法!
输入一段视频 , 演员分分钟就能变年轻 , 变老也不在话下 。 效果是酱婶儿的:
想“返老还童”?迪士尼这个新AI分分钟搞定,失业压力给到特效师
文章图片
而且下一步 , 迪士尼准备将这种AI算法用到电影中去 。
化妆特效师的饭碗危~~~
想“返老还童”?迪士尼这个新AI分分钟搞定,失业压力给到特效师
文章图片
迪士尼这个新的AI算法名叫FRAN , 至于对比过往类似的模型 , 它的效果可谓是上了一个台阶 。
帧与帧过渡生硬、易受人物动作幅度影响、忽略背景……这些问题FRAN统统都解决掉了!
真有说得这么厉害?不妨来一起康康~
具体原理迪士尼的AI算法效果如何 , 对比以往的模型 , 效果就高下立判了!
过往模型在改变年龄的过程中往往都聚焦在人脸身上 , 会忽略掉人像后面的背景 , 比如DLFS直接就扣掉了背景图 。
并且帧与帧之间的过渡也不是很流畅 。
反观迪士尼的新AI算法 , 在背景处理这块做的就比较自然了 。
FRAN可以精确地保留演员的既有的外观 , 即使在头部动作幅度很大时或光线变化的情况下也能如此 。
想“返老还童”?迪士尼这个新AI分分钟搞定,失业压力给到特效师
文章图片
除此之外 , FRAN的灵活性也更强了 , 可以任意调节想要的年龄 , 比如下面这个视频 , 拖动进度条就能迅速体验下从年轻到年老的效果 。
想“返老还童”?迪士尼这个新AI分分钟搞定,失业压力给到特效师
文章图片
值得一提的是 , FRAN还允许后期人员对生成的视频进行二次调整 , 使整个视频更加自然 , 这个过程也是视觉特效工作的一个重要组成部分 。
话说回来 , 那FRAN又是怎样达到这样的效果的呢?
涉及到两个问题:
一是数据集问题 , 用于训练模型的数据怎么解决?当然 , 用真实的人脸数据(年轻~年老)来训练肯定是不现实的 , 毕竟也没那么多数据 。
在这里 , 迪士尼利用当前SOTA模型生成的人脸图像作为数据 , 用这些数据来训练FRAN 。
第二个问题是神经网络的架构 , FRAN采用的是U-Net架构 。
在生成的过程中 , FRAN会预测面部的哪些像素点会随着年龄的增长而改变 , 比如增加或去除皱纹 , 然后这些结果会作为额外的视觉信息通道覆盖在原来的脸上 。
在这个过程中 , 还可以选择使用预先训练好的人脸分割网络:BiSeNetV2 , 并设置局部的输入和输出年龄值 , 来限制皮肤区域的再老化 , 使生成的效果更好 。
想“返老还童”?迪士尼这个新AI分分钟搞定,失业压力给到特效师
文章图片
不过值得注意的是 , 在年龄跨度较大时 , 比如从童年到老年 , FRAN可能就会失灵了 , 毕竟它整体的大逻辑是添加和祛除皱纹 。
压力给到特效师迪士尼计划将AI技术用在电影制作中也不是一天两天了 , 大家也都知道 , 做视觉特效是真烧钱 , 不仅烧钱 , 还费时间 。
两年前 , 迪士尼就曾开发过一款换脸技术 , 效果直接看图:
想“返老还童”?迪士尼这个新AI分分钟搞定,失业压力给到特效师
文章图片
并且在面部捕捉方面 , 迪士尼也是下了狠功夫 , 今年早些时候 , 它还推出了不用刮胡子就能进行面部捕捉的新技术 。
想“返老还童”?迪士尼这个新AI分分钟搞定,失业压力给到特效师
文章图片
最近呢 , 迪士尼除了公布FRAN这个AI算法外 , 还公布了一个可以制作不同形态、不同风格烟雾的AI 。
想“返老还童”?迪士尼这个新AI分分钟搞定,失业压力给到特效师