Hallo2:把英文录音变成较长肖像动画,超分另走一步

新模型猫目发布于 来源:Hallo2 官方资料
长时生成、正面人脸与高清后处理的实际边界
Hallo2:把英文录音变成较长肖像动画,超分另走一步

为什么值得关注

帮助团队判断长段英文讲解头像的部署与素材要求,分清原始生成和超分输出。

适合谁:有授权肖像、英文讲稿与GPU环境,研究长段讲解视频的团队。

这次有哪些亮点

  • 源图配WAV音频,长时生成有独立脚本
  • 官方要求正面人脸与英文音频
  • 高清流程基于CodeFormer修改,许可与主体代码不同

使用前需要知道

官方测试A100,长时案例不是普通显卡速度承诺;预训练InsightFace仅非商业研究,高清模块需遵守S-Lab许可,不能整体概括为MIT商用。

一张肖像要连续讲几分钟,问题会从“嘴能不能动”变成“形象能不能持续稳定”。Hallo2 把长时音频驱动肖像和高清后处理作为两个明确环节,适合研究较长的英文讲解头像。它不是自动写课、配音、剪辑的一站式工具,输入仍要准备好图片与音频。

官方README展示了18分钟、23分钟以及最长约一小时的研究案例,说明作者关注长时生成。它们是作者选出的演示,不代表本稿已完整观看或逐帧核验,也不能据此推定任意照片、语言和硬件都达到同样结果。本文阅读完整说明与相关许可,没有执行推理。

最先需要接受的是输入边界。官方要求源图裁成正方形,人脸占画面约50%至70%,尽量正面,旋转小于30度;驱动音频采用WAV,要求英文,因为训练数据使用该语言。中文读者应把它看作英文内容的研究入口,不能因为其他音频驱动项目支持中文,就把多语种能力挪到Hallo2。

例如,团队已有授权讲师照片与一段英文课程录音,可以先截取其中一个自然段,检查头像与声音是否适合,再逐步加长。检查点包括段落转折时动作是否突变、停顿时嘴是否闭合、头部姿态有没有逐渐漂移。此处是编辑设计的试验流程,未运行;不应一开始就投入整小时音频,等完生成才发现源图侧脸过多。

长时流程使用 scripts/inference_long.py,配置里的source_image、driving_audio与save_path分别指定图片、音频和输出位置。pose_weight、face_weight、lip_weight提供姿态、面部与嘴部相关权重,face_expand_ratio调整处理范围。它们不是情绪导演的自然语言指令,调整时应固定其他输入逐项比较,不宜把每个值都同时改大。

高清则是后续的独立 video_sr.py,输入已生成视频,再设置放大倍数、背景超分和脸部增强。官方展示4K成片,不等于模型在整个流程中原生预测每一处4K细节。对需要保留人脸真实特征的内容,应同时看超分前后:纹理更清楚并不保证牙齿、皱纹或嘴唇仍完全忠实。

部署说明以Ubuntu20.04/22.04、CUDA11.8和A100测试为基础,需要下载主模型、运动模块、音频特征、脸部分析及超分等多种权重。它的准备量明显高于上传照片即生成的网页服务。仅有代码运行入口,也不代表普通笔记本有可接受的推理时间。

尤其不能把整个组合说成“MIT、可随便商用”。Hallo2主体代码为MIT,但文档列出的InsightFace预训练模型只供非商业研究;高清功能改自CodeFormer,需要遵守S-Lab License1.0。还有SD、AnimateDiff等组件,应按实际采用权重分别核对。商业使用前要处理受限组件,而非只复制主仓库LICENSE。

图片、录音、人物与声音的授权也要覆盖合成和发布用途。官方长时名人案例不能替你的客户项目提供这些权利。

如果任务明确是英文、正面肖像、长段音频研究,Hallo2有清楚的拆分路线;若要低成本生产中文讲师视频,应先验证语言、算力和许可是否符合要求,再决定是否继续。

资料:完整README及输入要求、MIT许可、InsightFace模型限制、官方演示页。

原始资料:Hallo2 官方资料

以上为编辑整理,功能、许可与使用条件以官方说明为准。

返回每日分享