indextts 使用vllm提速

作者:互联网观察 发布时间:December 10, 2025 分类:互联网观察

原版indextts 的速度不满意

使用index-vllm速度可以提升到非常满意的程度。

但是其源码存在问题。


修改如下文件:indextts\BigVGAN\alias_free_activation\cuda\load.py

修改 "arch=compute_70,code=sm_70",  

将其中的 compute_70,sm_70修改成自己的显卡相关参数。


此时可以提升速度到RTF 0.08

标签: none

互联网观察
indextts 使用vllm提速
本文地址:http://www.tianmeng.org/archives/528/

相关文章

  • 无相关文章
文档信息

当前暂无评论 »

添加新评论 »

网站地图 京ICP证030173号