BackgroundMattingV2:多拍一张空景,让口播人物换背景更有依据

开源项目猫目发布于 来源:BackgroundMattingV2 官方资料
固定机位的额外背景输入,换来透明度和前景颜色两份输出。

为什么值得关注

适合能安排固定拍摄流程、制作人物合成素材的视频技术团队。

适合谁:视频技术美术、虚拟背景开发者、口播制作团队

这次有哪些亮点

  • 人物画面与空景共同输入,分别输出alpha和前景RGB
  • 低分辨率粗估加局部精修,可调整计算预算

使用前需要知道

需要额外背景输入;旧论文方法不冒充新发布;4K30fps是RTX2080Ti模型条件,仓库视频转换脚本不实时

拍摄口播或人物演示时,如果现场允许多留一个步骤,可以在人物入镜前先拍一张空景。BackgroundMattingV2把这张没有人的背景与正式画面一起送入模型,为人物分离提供额外依据。这对能控制机位的拍摄,比只在拍完后寻找自动抠像工具多了一种选择。

这是CVPR2021相关的既有研究项目。官方仓库明确要求额外背景图;其示例动画将原人物画面、小窗里的背景参考和绿色合成结果并排展示。绿色只是便于观察的目标背景,拍摄原片并不因此需要绿幕。

BackgroundMattingV2官方人物与空景参考、合成结果

项目官方演示。每组原片角落的Background小窗是额外输入,旁边是替换背景后的结果。

为什么还要保存前景颜色

模型使用说明将两份输入命名为src和bgr:同尺寸的RGB正式画面与背景图。常规输出只需两份,pha是0到1的透明度图,fgr是估计出的前景颜色。合成时以透明度混合前景和新背景,而不只是拿一张黑白选区硬切人物。

这种区分对发丝和运动边缘尤其有用:相机拍到的边缘往往混着原背景颜色,仅把它调透明,并没有自动清除颜色混合。模型同时估计前景RGB,给后期合成更多可用信息。具体效果仍要看素材,不能由这份接口定义推断所有头发、玻璃和模糊边缘都能完美分离。

拍摄上,可把空景与人物画面安排在同一机位、相近光线和布景下,避免正式拍摄后才发现桌椅位置、窗帘或曝光已经变化。这是由双输入关系推导的制作建议;实际场景的容错仍需用自己的片段验证。仓库另链接不需预拍背景的后续方法,那是另一个项目,不能挪成V2的能力。

精修预算可以按用途调整

方法先在较低分辨率产生粗结果,再把计算集中到容易出错的局部区域。说明文档里,sampling用固定上限的像素做精修,适合需要约束每帧计算量的情况;thresholding则按误差阈值选择区域,更适合愿意用时间换质量的图像编辑。后期团队因此能明确讨论:优先稳定预算,还是多修一些边缘。

性能数字尤其需要保留条件。README中的4K30fps、HD60fps来自RTX2080Ti上的模型研究设置;作者紧接着声明,inference_video.py没有硬件编解码和并行流水,并非实时转换脚本。直接运行仓库文件不能据此承诺直播性能。官方提供PyTorch、TorchScript及实验性其他后端,真正接到视频产品仍有工程工作。

项目自2020年改为MIT许可,权重有公开下载入口。对制作团队,最具体的改变是在拍摄清单里加入空景,交给后期时保留人物原片、背景参考、alpha和前景色。这样背景替换有清楚的来源,后续也能分别检查轮廓和边缘颜色。

原始资料:BackgroundMattingV2 官方资料

以上为编辑整理,功能、许可与使用条件以官方说明为准。

返回每日分享