enginex-c_series-vc-cnn/README.md

enginex-metax-c500-vc-cnn

运行于沐曦曦云C系列算力卡的【视觉分类】引擎，基于 CNN 架构，支持 BEiT、MobileViT 等流行模型

QuickStart

1、从 modelscope上下载视觉分类的模型，例如 microsoft/beit-base-patch16-224

modelscope download --model microsoft/beit-base-patch16-224

2、使用Dockerfile生成镜像 使用 Dockerfile 生成 镜像

docker build -f Dockerfile_muxi -t muxi-my:v4 .

其中基础镜像 mxc500-torch2.4-py310:mc2.33.0.6-ubuntu22.04-amd64 通过联系沐曦厂商技术支持可获取 注意 Dockerfile 中已预先将模型 microsoft_beit_base_patch16_224_pt22k_ft22k 放在了 /model 下面

3、启动docker

metax-docker run -it --rm \
  -p 10086:80 \
  --privileged \
  --gpus=[0] \
  --name mx-my-v4.0 \
  muxi-my:v4

4、测试服务

curl -X POST http://localhost:10086/v1/private/s782b4996 \
>   -F "image=@/home/zhoushasha/models/026_0010.jpg"