本地部署文本转语音大模型(带情感表达)IndexTTS2
主机配置:
- MacBook Pro
- 芯片 Apple M4 Pro
- 内存 24GB
- macOS Tahoe 26.1
IndexTTS2 是 B 站开源的大模型,官方安装文档(中文):
https://github.com/index-tts/index-tts/blob/main/docs/README_zh.md
按照官方文档安装:
1git clone https://github.com/index-tts/index-tts.gitcd index-ttsgit lfs pulluv sync --all-extras
在执行 uv sync 的时候出现报错:
目测这个报错是由于 deepspeed v0.17.1 依赖 setuptool 编译,而 uv 提供的分离虚拟环境中,默认不存在 setuptool 导致。
官方文档中提到在 Windows 上, deepspeed 不容易安装。但这台 MacBook Pro,也出现了问题。
解决 uv 分离虚拟环境,可以采用下面的方式:
1uv venvsource .venv/bin/activate # Linux/macOS# 或 .venv\Scripts\activate # Windows# 手动安装 setuptools 和 wheel 到运行时环境(uv 构建时会 fallback 使用)pip install setuptools wheel# 然后再次运行 uv sync,但禁用隔离构建(--no-build-isolation),让 uv 使用当前环境中的包来构建uv sync --extra deepspeed --default-index "https://mirrors.aliyun.com/pypi/simple" --no-build-isolation
也可以不安装 deepspeed,并不影响测试:
1uv sync --extra webui
安装模型:
1uv tool install "modelscope"modelscope download --model IndexTeam/IndexTTS-2 --local_dir checkpoints
查看本机 GPU 支持,可以看到 Apple MPS 的支持被发现,这代表在这台 MacBook 上可以使用 GPU 加速推理:
1uv run tools/gpu_check.py
在 macOS 下可以开启 --fp16降低显存使用,使用 --verbose 查看详细信息:
1uv run webui.py --fp16 --verbose
访问 http://127.0.0.1:7860 ,选择一个 example 进行测试。如果在命令行中发现 example 报错,要确认 samples 文件夹下是否有对应的 wav 文件:
最终的运行效果:
#胡扯AI #AI嵌入游戏研发工作流 #AI
- 文章ID:2898
- 原文作者:zrong(Jacky)
- 原文链接:https://blog.zengrong.net/post/local-deploy-indextts2/
- 【公众号】曾嵘胡扯的地方:https://mp.weixin.qq.com/s/GXCQQPXdcx5YsPoFfpMHMg
- 版权声明:本作品采用 署名-非商业性使用-相同方式共享 4.0 国际 (CC BY-NC-SA 4.0) 进行许可,非商业转载请注明出处(原文作者,原文链接),商业转载请联系作者获得授权。