高通|为了让你拍出更美的视频,他们费尽了“芯”机

当下最受欢迎的手机App是什么?相信十个人中有九个都会回答“短视频”。
随着5G网络逐步落地,网络传输速度不再是瓶颈,加之手机拍摄素质不断提升,大众越来越热衷于通过视频的形式来进行自我表达。
为了让用户更好地展现个性与审美,快手等短视频平台陆续上线了花样繁多的滤镜及特效功能,使得“老铁”们无论在繁华都市还是田间地头,都能创作出充满趣味和生命张力的短视频作品。
比如一秒变装童话在逃公主:
高通|为了让你拍出更美的视频,他们费尽了“芯”机
文章插图


如果你热衷于看肥皂剧,也能轻松化身霸道总裁或玛丽苏女主。更厉害的是,在快手上使用“娃娃脸”特效,还可以一键回到幼儿时期。当然,展望自己中老年时期的模样也不在话下,轻松帮你秒速穿越“我的一生”。
滤镜背后的“灵魂画师”需要一颗AI之“芯”不过,这些好玩又有趣的特效背后,其实深藏着AI科技的功与名,全球领先的移动平台厂商高通也没少操“芯”。就拿快手上广受好评的“手绘滤镜”来说,它能够持续将用户拍摄视频的每一帧画面转换成唯美的手绘作品。
这一滤镜特效的实现大致可以分成几个步骤:首先,用户拍摄视频时,ISP会处理视频并发送给快手App。快手App会对视频的每一帧进行预处理,并进行人脸侦测和剪切等;然后再发送到高度定制化、类似于UNET的神经处理网络(即机器学习算法),该神经处理网络将生成与输入帧相融合的手绘特效。之后,再通过化妆和美颜算法对整体图像质量进行优化,就得到美美的特效预览啦。
以上每一个步骤都需要借助精密巧妙的算法来实现,而其中最关键的就是生成手绘特效的神经处理网络。作为AI算法的一种,它和传统软件中算法的最大不同就在于,它可以通过不断学习来提升自己的能力。你不妨把它想象成一个学霸,可以通过不断“刷题”来提升成绩,而且刷的题型越多,成绩就越出色。AI算法也热衷于“刷题”,它训练自己的题库便是海量的图像和视频数据。
作为短视频赛道上的领头羊,快手拥有庞大的用户基数。根据快手大数据研究院发布的《2021快手内容生态半年报》,快手应用平均月活用户已经高达5.198亿。同时,快手不久前发布的《2021快手创作者生态报告》显示,2020年,超25%的快手应用平均月活用户为内容创作者。据此估算,快手平台上聚集的内容创作者数量已经超过2亿,而这背后是数量更加惊人的视频数据。这些数据就像水流一样源源不断地浇灌着快手的算法之花,使其愈发娇艳。
对AI略有了解的读者都知道,算法、数据和算力被誉为驱动AI发展的三大引擎,缺了其中任何一个,AI产业这艘巨轮都跑不起来。落到“手绘滤镜”这样一个具体的功能上亦是如此。尽管有了出色的算法和丰富的数据,但要让用户获得完美流畅的使用体验,中间仍缺少一个必要环节,那就是强大的AI算力。
快手发现,虽然“AI艺术家”能够创作出引人入胜的手绘作品,但在速度方面却难以满足需求,实际使用时会出现帧率下降的情况。
“手绘滤镜”算法默认是在CPU上运行,而CPU是一个通用计算单元,并非运行AI工作负载的最佳选择。在这种情况下,App提供商通常会选择在云端进行复杂的AI处理,然而云端又会受到网络覆盖的影响,导致额外的时延和其他变化。几经探索,快手终于找到了一个完美的解决方案——搭载高通AIE的骁龙移动平台。
软件、硬件两手抓,两手都要硬高通的骁龙移动平台大家已经耳熟能详了,比如最新的骁龙888、骁龙780G等等,但什么是AIE呢?高通AIE其实是人工智能引擎(Atificial Intelligence Engine)的简称,它并非一枚全新的芯片,而是可以内置在骁龙移动平台中的一套涵盖完整软硬件的AI解决方案。