卍 花径不曾缘客扫, 蓬门今始为君开. 古佛拈花方一笑, 痴人说梦已三生!

超强情绪控制!Fish Audio正式开源Drama 3,支持83种语言!

AI 拈花古佛 268℃ 0评论 繁體

各位漫剧大佬、潜力股们

Fish Audio应该都不陌生吧?

他家今天正式发布了全新的文本转语音(TTS)模型 Drama 3

官方将其定位为目前情感最丰富、最可控的语音模型,并且直接在 Hugging Face 上开源了模型权重(fishaudio/drama-3)

且目前Drama 3已经在官网、API 以及 ComfyUI 等多个主流创作者工具中同步上线,想上手的已经可以直接用了

核心能力升级:把声音控制细化到了单个词

过去大家用 TTS 工具配音,最烦的就是一句话里有八成是满意的,偏偏有一个词重音不对、念错读音或情绪没到位

为了改这一个词,只能整句推倒重抽,真就挺烦的

Drama 3这次把优化重心全放在了可控性与可编辑性上,经过一番攻关克难,终于带来了六项非常牛的能力

OK,说回它那六项非常牛的能力

1,自然语言直接导戏

大概就是说,你可以直接用普通文字描述你想要的语气、情绪和说话节奏,不需要死记硬背固定的代码标签

而且控制指令支持用与台词文本不同的语言来写,比如用中文指令指导英文台词的语气,这个就很牛了

2,一句话中途变调

支持在同一句话的中间直接改变语气、声音或情绪状态,非常适合演出来回拉扯的心理戏或情绪反转

有点视频模型实时生成的意思,随时可干预调整

3,单词级精准控制

通过 <whisper>(耳语)、<emphasis>(强调)这类成对标签,可以只改变某一个特定词语的发音方式,不用整句重新生成

也就是说,本来角色是带着哭腔的,突然就能话锋一转,直接蔑视了😂

4,气口与停顿随手插

在台词需要的地方,可以直接插入 [sigh](叹气)、[laugh](笑声)、[pause](停顿)等标记,把角色的呼吸感和生活感直接做进音轨里

声明的对比视频里就有,仔细听

5,单次搞定多角色对话

一次生成就能同时处理多个角色的来回对白,不同角色的声音依然能保持清晰区分,省去了切成十几条碎音频再去剪辑轨硬拼的麻烦

这个就真的是很省事了

6,局部编辑(Audio Inpainting)

如果整段配音都很好,只有某一个词读错了或者临时想改词,可以只重新生成那一个词或小片段,无需整段推倒重来

周围的声音质感、说话节奏和情绪完全保持不变

这就有点类似于现在的视频模型局部片段修改的意思了

极大的提高了修改瑕疵的便利性,压低了制作的成本

在规格上,Drama 3采用的是35B MoE架构

虽然总参数量达到了350 亿,但在实际推理时每个token仅激活约3B参数,兼顾了声音细节与推理速度

模型一共支持83种语言,在权威评测机构Artificial Analysis的测试中,Drama 3在开源权重 TTS 模型里排名领先

硬件与部署方面,本地推理目前主要支持NVIDIA GPU,推理框架 SGLang-Omni已经在发布当天提供了Day-0原生支持

商用权限方面,官方的规定是:年收入低于 50 万美元的团队或个人,可以直接免费商用;如果团队年收入超过 50 万美元,或者打算拿它对外提供商业TTS / API服务,则需要联系官方另行获取商业授权

等同于随便用

虽然现在的视频模型大多已经做到了音画同出,但TTS模型依然是有巨大市场的,比如有声书,比如多语言出海内容

如果你也想玩,可以去这里试用,现在官方是免费提供试用的

https://fish.audio/drama-3/?utm_source=x&utm_medium=influencer&utm_campaign=drama3-atomik&utm_content=creator

如果你认为自己的电脑带得动它的话,可以去这里下载

https://huggingface.co/fishaudio/drama-3

转载请注明:拈花古佛 » 超强情绪控制!Fish Audio正式开源Drama 3,支持83种语言!

喜欢 (0)
用户头像
发表我的评论
取消评论

表情

Hi,您需要填写昵称和邮箱!

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址
Impact-Site-Verification: 7636581d-f48c-49ad-b125-055b0905d525