Comments (4)
双击Windows一键包中的Start.bat文件启动软件,启动后等待软件加载完毕大概需要25-30秒时间。 能否缩短这个时间呢?
启动慢是因为把多音词典加载和语种识别库的加载放到初始化的过程中了,这样做的目的是减少第一次推理所需要的时间。同时还有bert模型和其他模型的加载也会增加耗时。如果不减少bert模型,目前是没什么好的办法缩短初始化时间的。
Windows一键包在朗读了英文和日文后会在data\bert\chinese-roberta-wwm-ext-large等文件夹下自动下载 1.3GB大小的pytorch_model.bin,有好几个,这样导致整个包实际超过12GB了,能否减小整个包的文件大小呢?
chinese-roberta-wwm-ext-large是朗读中文所需要的bert模型。如果要朗读英文日文的话,则需要下载对应的bert模型,这些在程序启动时会自动下载。如果只需要中文,就可以只用中文的bert模型,空间占用也能得到减小,除此之外没办法再减小整个项目的大小了
from vits-simple-api.
启动慢是因为把多音词典加载和语种识别库的加载放到初始化的过程中了,这样做的目的是减少第一次推理所需要的时间。
如果只用中文的话,或许可以把语种识别库的加载省去
from vits-simple-api.
双击Windows一键包中的Start.bat文件启动软件,启动后等待软件加载完毕大概需要25-30秒时间。 能否缩短这个时间呢?
启动慢是因为把多音词典加载和语种识别库的加载放到初始化的过程中了,这样做的目的是减少第一次推理所需要的时间。同时还有bert模型和其他模型的加载也会增加耗时。如果不减少bert模型,目前是没什么好的办法缩短初始化时间的。
Windows一键包在朗读了英文和日文后会在data\bert\chinese-roberta-wwm-ext-large等文件夹下自动下载 1.3GB大小的pytorch_model.bin,有好几个,这样导致整个包实际超过12GB了,能否减小整个包的文件大小呢?
chinese-roberta-wwm-ext-large是朗读中文所需要的bert模型。如果要朗读英文日文的话,则需要下载对应的bert模型,这些在程序启动时会自动下载。如果只需要中文,就可以只用中文的bert模型,空间占用也能得到减小,除此之外没办法再减小整个项目的大小了
感谢回复! 如果只使用GPT-SoVITS的话,是否可以选择去掉加载Bert的模型来加快启动速度呢?
from vits-simple-api.
感谢回复! 如果只使用GPT-SoVITS的话,是否可以选择去掉加载Bert的模型来加快启动速度呢?
GPT-SoVITS也是需要用到chinese-roberta-wwm-ext-large的,也无法去掉。GPT-SoVITS同时也需要加载chinese_hubert_base,这两个都是无法去掉的。
from vits-simple-api.
Related Issues (20)
- 特定词组单独推理无法返回音频 HOT 1
- 本地环境 pip install 安装时间太久, 似乎陷入死循环 HOT 3
- 生成的yaml文件与实际的配置路径不符,以及实例文件问题 HOT 1
- 管理员后台已加载模型但是网页前端不显示 HOT 4
- 希望大佬支持日语特化版 HOT 4
- 部署包无法启动 HOT 4
- GPT-SoVITS模型部署,已经识别出模型,但是推理的时候引用完音频后生成卡住了 HOT 1
- 目前gpt sovits的推理速度,有更新使用TorchScript推理速度优化吗? HOT 9
- 请问怎样可以与SillyTavern连接? HOT 2
- gpt sovits,你好,官方推理上是有按模式切分的参数的 HOT 7
- gpt sovits,你好,生成语音重复 HOT 6
- 支持并发请求吗? HOT 1
- SSML 合成语音时id问题 HOT 7
- 建议增加OpenAI API的兼容性接口
- GPT的GPT_SoVITS/text/engdict-hot.rep 配置文件怎么配置? HOT 1
- 中文特化版模型,流式推理报错 HOT 3
- 关于动态加载 gpt_sovits 的指定模型,我克隆生成的模型能否有api可以直接设置,而不需要在配置文件中配置 然后重启服务器才能用 HOT 3
- GPT-SoVITS里面增加搜索预设音频的功能 HOT 1
- id 0 does not exist
Recommend Projects
-
React
A declarative, efficient, and flexible JavaScript library for building user interfaces.
-
Vue.js
🖖 Vue.js is a progressive, incrementally-adoptable JavaScript framework for building UI on the web.
-
Typescript
TypeScript is a superset of JavaScript that compiles to clean JavaScript output.
-
TensorFlow
An Open Source Machine Learning Framework for Everyone
-
Django
The Web framework for perfectionists with deadlines.
-
Laravel
A PHP framework for web artisans
-
D3
Bring data to life with SVG, Canvas and HTML. 📊📈🎉
-
Recommend Topics
-
javascript
JavaScript (JS) is a lightweight interpreted programming language with first-class functions.
-
web
Some thing interesting about web. New door for the world.
-
server
A server is a program made to process requests and deliver data to clients.
-
Machine learning
Machine learning is a way of modeling and interpreting data that allows a piece of software to respond intelligently.
-
Visualization
Some thing interesting about visualization, use data art
-
Game
Some thing interesting about game, make everyone happy.
Recommend Org
-
Facebook
We are working to build community through open source technology. NB: members must have two-factor auth.
-
Microsoft
Open source projects and samples from Microsoft.
-
Google
Google ❤️ Open Source for everyone.
-
Alibaba
Alibaba Open Source for everyone
-
D3
Data-Driven Documents codes.
-
Tencent
China tencent open source team.
from vits-simple-api.