1.103.20及以上支持
1.103.25更新配置
非N卡用户安装此版本也需要重新安装tts,修改了部分传参,所以如果没有需要的话,可以先不更新
- 安装/更新后,下载新版的cuda版本tts(不用下载模型,模型是一次性的)
目前只支持cuda,linux版本由于没有显卡,所以没测试;(云电脑测试的N卡)
- 需要安装cuda12.9工具
- 然后在软件的配置文件中进行如下设置
"shenghuabi.pythonAddon": {
// 其他参数
"device": "cuda",
"dir": "c:/test/conf/pythonAddon",
"env": {
"CUDA_HOME":"C:\\Program Files\\NVIDIA GPU Computing Toolkit\\CUDA\\v12.9"
}
},
"shenghuabi.indexTTS": {
"loadModelParams": {
"use_deepspeed": true,
"use_fp16": true
},
},
- 目前测试结果是使用了7.7G的显存,如果长时间使用可能会爆一点,速度慢的话重启即可
- 此方法的优点就是全程跑在显卡上,我看了其他的低显存实现,都是将部分模型加载到了cpu上
本想找个3060或者更小显存的测试下爆显存后的速度,但是没找到…
不知道这种部分加载到cpu上的速度,和爆显存后的速度哪个快,毕竟两者都有部分要用内存跑