SyncAnimation是实时端到端的音频驱动框架,用于生成人体姿态和说话头像动画。通过音频信号实时生成与音频同步的上半身姿态和面部表情,包括嘴唇动作,实现高精度和高同步性的动画效果。框架基于NeRF技术,结合了音频到姿态和表情的同步模块,能从单目图像或噪声输入中生成具有丰富细节的头像动画。 能在保持流畅动画的同时,生成逼真的面部细节和自然的动态变化。

SyncAnimation – 南科大等推出的实时音频驱动生成头部运动框架  第1张
(图片来源网络,侵删)
SyncAnimation – 南科大等推出的实时音频驱动生成头部运动框架  第2张
(图片来源网络,侵删)