为企业用户提供部署方案。
硬件: #
硬件配置主要取决于本地音频推理时长的需求,性能上无硬性要求。
需要英伟达gpu。
最低配置 #
- CPU: intel 13代i5或amd同级别及以上型号
- 内存:16G
- GPU:8G显存及以上型号的英伟达显卡
- 硬盘:50G以上
推荐配置 #
- CPU:intel 13代i7或amd同级别及以上型号
- 内存:32G
- GPU:24G显存及以上型号的英伟达显卡
- 硬盘:100G以上
注:我们在13700K+64G内存+A6000GPU(算力同等于NVDIA RTX3090)的配置下测试,每秒钟可以推理生成大约25-50秒(GPU时间)的动画。(也就是理论上当前配置支持25-50个用户0延迟并发,不过只是理论值,实际当中难以做到。)
系统: #
docker是一个跨平台的部署工具,可以在所有支持docker的平台上部署(linux, mac, win),不过发行版本的AnimaCore docker镜像只在Ubuntu 22.04 LTS和Windows 10上经过测试,其他平台需要自行测试。如果有其他平台的部署需求,欢迎提交建议,也欢迎提交在其他平台部署遇到的问题。
Ubuntu: #
环境:
- 显卡驱动
- docker(docker compose)
- nvidia-smi
- NVCC
- nvidia-docker2
- python:(系统自带)
Windows: #
环境:
- 安装docker desktop
- 安装python3.10(安装pyyaml: pip install pyyaml)
部署: #
1.运行load_images.sh,加载docker镜像。(window下右键load_images.ps1运行)
cd <root_dir>/docker_images
./load_images.sh
2.解压ServerRun_Local.zip
3.目录结构:
MHCtalker_localServer_0.x.x/
├── docker_images/
│ ├── main_l_00x.tar
│ ├── asr_00x.tar
│ └── ……
│
└── ServerRun_Local/
│ ├── main
│ ├── run.pyc
│ └── ……
│
4.启动
cd <root_dir>/ServerRun_Local
sudo python run.pyc
windows下
动画模块启动较慢,整个启动过程大约需要5分钟左右
数据库: #
本地数据库采用sqlite数据库,位于<root_dir>/ServerRun_Local/main/db/database.db
数据库目前没有加密设置和权限设置,下个版本可能会加入权限设置或者更换mysql数据库,以保证数据安全。
客户端连接: #
本地服务端运行在本机的19875端口上,请确保端口没有被其他程序占用。
客户端连接(UE5—项目设置—MHC_Talker—url)地址:ws://<ip>:19875
其他参数: #
见<root_dir>/ServerRun_Local/main/.env
| AUTH_KEY | lic_key |
| GREETING | 连接时是否返回欢迎提示语句。 |
以下参数按需填写,千问api在需要启用对话功能时填,azure api在需要语音功能时填
如果仅使用动画模块,以下参数留空
| QWEN_API_BASE | 通义千问api base |
| QWEN_API_KEY | 通义千问api key |
| – | – |
| AZURE_SPEECH_BASE | 微软Azure语音 base |
| AZURE_SPEECH_KEY | 微软Azure语音 key |
| AZURE_SPEECH_REGION | 微软Azure语音 地区 |