此仓库为专门用来搜集在天数智芯系列芯片上的模型、框架等适配需求,请到【工单】栏目进行留言讨论。
社区编译环境
【enginex-bi_series-tts】
语音合成模型 Kokoro, F5-TTS, GPT-SoVITS 与天数智芯 天垓100 适配使用到的基础镜像为:corex:3.2.1 获取 corex:3.2.1 镜像的方式有两种: 1、镜像已经上传到 EngineX-Iluvatar仓库 软件包,从命令行拉取镜像:
docker pull git.modelhub.org.cn:980/enginex-iluvatar/corex:3.2.1
2、使用用户名 iluvatar_corex 通过 29880 端口连接到 iftp.iluvatar.com.cn 服务器的 SFTP 服务
sftp -P 29880 iluvatar_corex@iftp.iluvatar.com.cn
输入对应用户名的密码:c494vp8F9 可 get 路径 BI_100/3.2.1_BI100/x86 下的文件 corex-docker-installer-3.2.1-10.2-ubuntu-py3.10-x86_64.run 运行该文件可生成基础镜像 corex 3.2.1 、sdk和 python库。
【enginex-bi_series-asr】
语音识别模型 whisper 与天数智芯 天垓100 适配使用到的基础镜像为:bi100-3.2.1-x86-ubuntu20.04-py3.10-poc-llm-infer:v1.2.2 获取镜像 bi100-3.2.1-x86-ubuntu20.04-py3.10-poc-llm-infer:v1.2.2 的方式有两种: 1、镜像已经上传到 EngineX-Iluvatar仓库 软件包,从命令行拉取镜像:
docker pull git.modelhub.org.cn:980/enginex-iluvatar/bi100-3.2.1-x86-ubuntu20.04-py3.10-poc-llm-infer:v1.2.2
2、通过 docker pull 从天数服务器拉取,需要先配置DNS,步骤如下: (1)配置淄博habor的hosts
vim /etc/hosts
增加hosts: 120.220.95.189 zibo.harbor.iluvatar.com.cn (2)修改docker的配置
vim /etc/docker/daemon.json
在 insecure-registries 里加入 “zibo.harbor.iluvatar.com.cn:30000” (3)重启docker
systemctl reload docker
完成后即可跳过认证直接用docker pull拉取所需镜像
语音识别模型 sensevoice 与天数智芯 天垓100 适配使用到的基础镜像为:corex:3.2.1 ,获取方式如上。