
最近,来自上海交大的一个新的插帧算法DAIN开源。它比英伟达的算法效果更清晰、帧率更高,可以把30fps的进一步插帧到480fps,这已经超过了很多手机的慢动作录像帧率。△连埼玉老师的披风都变得丝滑流......
最近,来自上海交大的一个新的插帧算法DAIN开源。它比英伟达的算法效果更清晰、帧率更高,可以把30fps的进一步插帧到480fps,这已经超过了很多手机的慢动作录像帧率。
△连埼玉老师的披风都变得丝滑流畅了如果你觉得上面效果还不够明显,可以再看一张。
羽毛的摆动是不是变得更流畅自然了?
可以想象,如果未来把DAIN用于动漫的制作,只要用低帧的动画就可以生成丝滑的效果,或许能大大减少插画师的工作。
DAIN的代码已经开源,甚至研究人员还打包了一份Windows安装程序,即使没有任何AI基础的用户也可以直接拿来用。
安装Windows系统的用户有现成的exe文件安装(地址见文末),不过现在仍处于Alpha阶段,软件可能存在一定的不稳定性。
其他平台的用户安装起来也不复杂。
首先确保你的PyTorch版本不低于1.0.0,将项目克隆到本地:
gitclone
安装PyTorch的各个扩展包:
cdDAINcdmy_package./
还要安装英伟达预测光流网络PWCNet的软件包:
cdmodel_weightswget
CUDA_VISIBLE_DEVICES=0pythondemo_MiddleBury_—netNameDAIN_slowmotion—time_深度加光流,图像更清晰
在这篇研究中,研究人员提出了一种通过探索深度信息来检测遮挡的方法。
上图是DAIN的体系架构:给定两个时刻的输入帧,先估计光流和深度图,然后使用建议的深度感知流投影层生成中间流。
然后,模型基于光流和局部插值内核对输入帧、深度图和上下文特征进行扭曲,合成输出帧。
这种模型紧凑、高效且完全可微分。定量和定性的结果表明,DAIN在各种数据集上均优于最新的帧插值方法。
作者传送门论文地址:
项目地址:
Windows版软件下载:
—完—