最强AI语音模型免费开放API,一键集成到2D&3D实时互动数字人系统中

AI 知识库1天前发布
968 0 0
熊猫办公
最近,Fish Audio S2.1 Pro向所有人免费开放了API,也就是说所有开发者都可以免费使用它的TTS。自从做数字人以来,这款TTS是我接触到的最强最接近大众使用的TTS,无论是本地部署还是官方API版本都非常不错。所以第一时间就在2D&3D实时互动数字人系统中体验了一番。
01PART

最终效果DEMO · 六种音色实测
2D数字人秦岚的声音

2D数字人宣传片男性的声音
2D卡通人的声音
3D秦岚的声音
3D真人数字人用卡通的声音
3D卡通人用卡通的声音

我们可以清楚听到这个TTS可以精准地表达拟人化的情感和语气。

02PART

集成方法INTEGRATION · 三步接入指南
克隆音色创建voice model
配置智能体绑定4个数字人
设置提示词行内标签控制韵律

完成以上三步即可完美呈现演示效果

STEP 01自定义音色

我们首先利用fishaudio的声音克隆功能在管理后台克隆了4个音色,分别为活力女神、秦岚、宣传片男性、卡通声音作为基础底座。我们先通过/model接口创建一个持久化的 voice model,得到reference_id。这样后续每次 TTS 都复用同一个声音,质量更稳定、一致性更好。当然它也支持3s立即克隆,但延迟效果都不太好。

克隆要求需要 10-30 秒(或更长)干净的单说话人音频样本。
提升技巧支持多段音频 + 对应 transcript(可选,但推荐,能提升发音准确性)。
最强AI语音模型免费开放API,一键集成到2D&3D实时互动数字人系统中
STEP 02创建数字人智能体

在系统中创建了 4 个相关数字人智能体,分别对应上述克隆的音色。

最强AI语音模型免费开放API,一键集成到2D&3D实时互动数字人系统中
STEP 03设置fishspeech独有的提示词

为了让实时对话更有韵律和精细控制表达,可以对文本做行内标签控制。

[窃窃私语]我不想进去。我不想[窃窃私语]进去。最强AI语音模型免费开放API,一键集成到2D&3D实时互动数字人系统中

完成以上三步就可以完美呈现上面演示的效果,非常简单。

03PART

关于FishAudio的S2.1 ProDEEP DIVE · 模型能力解析

S2.1 Pro 是 Fish Audio 最先进的声音模型,现已作为免费文字转语音 API提供,支持 83 种语言,目前可以无限量使用,接口中将模型名称改为s2.1-pro-free即可正常使用了。在低延迟流式处理、多语言 TTS 和声音克隆方面具有显著优势。S2.1-Pro 在标准 API 上提供约 90ms 的 TTFA(首包音频延迟),使其适用于实时语音智能体和轮替对话系统。为了让实时对话更有韵律和精细控制表达,可以对文本做行内标签。

官方定位Fish Audio 目前提供了最慷慨的免费访问模型之一

也是唯一一个免费层级运行与付费层级相同的顶级模型,且没有硬性使用上限。ElevenLabs 的免费层级实际上是 10,000 积分的试用。Google 最先进的 TTS (Gemini TTS) 完全没有免费层级。除了实时对话,它还支持有声读物和长篇叙述,游戏 NPC 对话。下面是它内置的一个故事板:

可以编辑几个人的对话模式,随时修改音色和增加标签,做个人播客非常有用。

∞LAST

写在最后CLOSING · 总结与资源

我们的数字人实时系统会跟着AI的发展不断进步,有需要体验上述音色对话的或者相关合作需求的欢迎后台私信我们。关于fishaudio还有很多优秀的功能,乘这段免费使用的时期大量用起来吧。

关于作者做一只爬的最久的乌龟,保持学习保持好奇,即使慢一点,遇到一点困难,只要最后能到达终点,又有什么关系呢。毕竟人生没有白走的路,每一步都算数。
参考文档

🔗 官方博客https://fish.audio/zh-CN/blog/s2-1-pro-free-api/
🔗 精细控制文档https://fish.audio/zh-CN/blog/fish-audio-s2-fine-grained-ai-voice-control-at-the-word-level/

如果你觉得今天这篇有收获,欢迎点赞、在看、转发三连,我们下篇见。

既然看到这里了,如果觉得有用,随手点个赞、在看、转发三连吧。

点赞

在看

转发

THANKS FOR READING

© 版权声明

相关文章