ByteDance 的 OmniHuman 2.0:用一张照片和一段声音生成说话视频
OmniHuman 2.0 把一张肖像和一段录音变成最长五分钟的说话视频。该给它什么素材、三个指导提示词,以及它的局限。

有些说话数字人模型自带一整排开关。ByteDance 的 OmniHuman 2.0 只有三个输入,别无其他:一张肖像、一段录音,以及一行可选的指导。没有分辨率菜单,没有画面比例,没有表现力滑块。这听起来很受限,但想想实际意味着什么:结果几乎完全取决于你交给它的两个文件,所以功夫在于把它们选好。下面是我会在朋友第一次运行前告诉他的话。
它真正擅长什么
长时间、自然地说话。音频最长可达五分钟(只使用前 300 秒),远超大多数短片模型的上限,所以一段完整的产品讲解、一节短课或一段角色独白可以一次渲染完成,而不必拼接五段。脸会跟着声音走:停顿、重音和句子的节奏都会体现在嘴、眼睛和头部上。当你已经有一条完成的语音轨,不管来自自己的麦克风还是文字转语音模型,并且想要一张脸来承载它时,这是个好选择。
挑选肖像
图片会被转换成 JPEG,并适配到模型支持的尺寸,过宽或过高的图片会从中间裁切。所以自己先构好图:头肩照,脸大致朝向镜头,嘴巴露出,嘴唇前面没有任何遮挡。头顶留有空间的肖像比头发贴着边缘的更经得起裁切。生成的角色和照片一样好用;如果皮肤看起来像蜡,先用塑料皮肤指南修好,因为动画只会让它更明显,不会更少。
挑选音频
- 干净的语音胜过花哨的语音。背景音乐和房间回声会让嘴对一些不是词语的东西做出反应。
- 不足四秒的音频会用静音补齐,所以一句两秒的台词会变成一段脸在结尾干等着的视频。要么录一整句话,要么接受这段停顿。
- 剪掉开头的空白。开头长时间的沉默就是长时间盯着镜头。
- 超过五分钟的部分会被截掉。把较长的脚本拆成章节,分别渲染。
三个值得借用的指导
提示词引导动作和风格。留空的话一切由声音驱动;填写的话你可以设定情绪。像写给演员的备注那样写,而不是像写图片提示词。
平静而友好,像隔着办公桌给同事解释一件事。在关键词上轻轻点头,自然眨眼,眼睛大多看着镜头,结尾短暂一笑。一位坐在火边的老说书人,说得很慢。提问时头微微倾斜,回忆时目光飘远,然后又回到听众身上。温暖、疲惫,没有突然的动作。充满活力的游戏解说员:扬起眉毛,每次感叹时快速摆头,在最后一句之前咧嘴一笑。谁应该选别的模型
如果你想控制输出的形状或选择分辨率,OmniHuman 没有给你任何手柄:画面跟随你的图片。HeyGen Avatar IV 有表现力设置、分辨率选择和画面比例,它的指南会逐一讲解。如果你根本没有肖像,想要一个现成的主持人,就从 Avatar V 指南开始。其余的说话数字人和口型同步模型都在模型页面上。
坦白说它的局限
这是一张会说话的肖像,不是一个场景。人物不会穿过房间、拿起东西或换衣服,提示词也无法要求这些。它也救不了糟糕的输入:侧脸、捂着嘴的手或嘈杂的录音都会体现在结果里。你无权使用的脸依然不能碰:服务条款禁止对真实、可识别的人制作深度伪造。请使用你自己的脸、虚构角色,或你明确获得许可的肖像。
常见问题
OmniHuman 2.0 需要什么?
一张肖像图片和一段录音。用于动作和风格的文本提示词是可选的。
音频可以多长?
最多使用 300 秒,更长的部分会被截掉。短于四秒的录音会用静音补齐。
我能选择分辨率或画面比例吗?
不能。模型会把你的图片适配到它支持的尺寸,并从中间裁切过宽或过高的图片,所以请在上传前构好肖像的画面。
