?最近,抖音特效又出了新爆款。只需手轻轻一挥,用户就能秒变高萌漫画人物,从发型到衣着,每个细节精准转换。几乎一夜之间,抖音满屏二次元化。
陈赫拿出神似苍蝇拍的“神秘钥匙”解除二次元封印▽
邓紫棋擦玻璃换脸▽
张艺兴来一段 rap 的功夫,已经不知道用手势在次元之间穿梭了多少回了▽
进入二次元后,明星们的发型、五官等细节“神还原”,同时还多了一丝俏皮灵动。全网都爱的变身漫画特效是如何诞生的?背后又有哪些行业领先的“黑科技”?
突破「次元壁」的关键技术
打破二次元和三次元的关键技术,就是GAN (对抗生成网络)。
所谓的GAN就是指生成对抗网络深度学习模型。网络中有生成器G(generator)和鉴别器(Discriminator)。有两个数据域分别为X,Y。G 负责把X域中的数据拿过来拼命地模仿成真实数据并把它们藏在真实数据中,而 D 就拼命地要把伪造数据和真实数据分开。经过二者的博弈以后,G 的伪造技术越来越厉害,D 的鉴别技术也越来越厉害。直到 D 再也分不出数据是真实的还是 G 生成的数据的时候,这个对抗的过程达到一个动态的平衡。
可以实现无配对的两个图片集的训练是CycleGAN与Pixel2Pixel相比的一个典型优点。但是我们仍然需要通过训练创建这个映射来确保输入图像和生成图像间存在有意义的关联,即输入输出共享一些特征。
整体结构如下:
整体来说,这个转换过程分为3步:
首先,生成器先根据CycleGAN生成一张粗糙的卡通人脸。
随后,模型根据第一步生成的图像,生成一个预训练回归量(regressor),来预测面部landmark,对面部的关键点进行标记。
最后,通过局部和全局两种鉴别器,研究人员细化在卡通图和对应真实图像中的人脸特征。在这个阶段,强调了landmark的一致性,因此最后的生成生成结果逼真且有辨识度。
虽然,抖音这次推出的漫画变身特效主要技术也还是GAN,但与以往相比也有差异之处。此前,变漫画功能基本都基于人脸表情跟踪,学界和工业界都没有千人千面的实时漫画生成方法。
这次抖音推出的漫画特效是在视频中实时实现的,这项技术在全球也是首次落地。在视频中,可实现人脸和头发变漫画的效果,配合背景风格迁移技术,完成全屏漫画的实时生成,并且通过“手动滑杆”道具,能与真实视频随意切换。
早期(上)与终版(下)风格对比
漫画特效定义了精致美和极致像两大特点。既要全面保留用户特征、像本人,又要生成出漫画独有的艺术美感。经过抖音团队广泛的风格设计、调研和修改,终于锁定了一款高萌可爱的漫画脸。引入算法后,进入了更加追求细致的打磨期。
这样一来,和你心仪的二次元对象,在现实中共舞便不再是梦!若是把明星作为模型输入的一部分,是不是也可以跟偶像共舞了?咦?好像可以预见娱乐平台的下一个爆款特效了。
本文发布于:2023-03-29 19:31:25,感谢您对本站的认可!
本文链接:http://www.ranqi119.com/to/1680089493253923.html
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。
留言与评论(共有 0 条评论) |