update Readme
This commit is contained in:
40
README.md
40
README.md
@@ -1,8 +1,44 @@
|
|||||||
# image-classification-transformers
|
# image-classification-transformers
|
||||||
|
|
||||||
## 天数智芯 天垓100 视觉分类
|
## 天数智芯 天垓100 视觉分类
|
||||||
transformers框架支持多种图像分类模型,现对天垓100加速卡进行transformers框架的适配并且带入到信创算力测试框架中。将视觉分类模型放在天数卡(天垓100)上运行且测试性能,与CPU(4c)运行结果对比,注意该测试框架下的模型需适配transformers库。
|
transformers框架支持多种图像分类模型,现对天垓100加速卡进行transformers框架的适配并且带入到信创算力测试框架中。将视觉分类模型放在天数卡(天垓100)上运行且测试性能,注意该测试框架下的模型需适配transformers库。
|
||||||
使用 Hugging Face 的transformers库加载预训练模型,支持同时使用 CPU 和 GPU 进行图像分类推理。
|
|
||||||
|
## Quick Start
|
||||||
|
1、首先从 modelscope上下载视觉分类的模型,例如 microsoft/beit-base-patch16-224
|
||||||
|
```python
|
||||||
|
modelscope download --model microsoft/beit-base-patch16-224 README.md --local_dir /mnt/contest_ceph/zhoushasha/models/microsoft/beit-base-patch16-224
|
||||||
|
```
|
||||||
|
2、使用Dockerfile生成镜像
|
||||||
|
从仓库的【软件包】栏目下载基础镜像 bi100-3.2.1-x86-ubuntu20.04-py3.10-poc-llm-infer:v1.2.2
|
||||||
|
使用 Dockerfile_bi100 生成 镜像,例如 bi100-3.2.1-x86-ubuntu20.04-py3.10-poc-llm-infer:test
|
||||||
|
注意 Dockerfile_bi100 中已预先将模型 microsoft/beit-base-patch16-224 放在了 /model 下面
|
||||||
|
3、启动docker
|
||||||
|
```python
|
||||||
|
docker run -it --rm \
|
||||||
|
-p 10086:80 \
|
||||||
|
--name test_zss \
|
||||||
|
-v /mnt/contest_ceph/zhoushasha/models/microsoft/beit-base-patch16-224:/model:rw \
|
||||||
|
--privileged bi100-3.2.1-x86-ubuntu20.04-py3.10-poc-llm-infer:test
|
||||||
|
```
|
||||||
|
4、测试服务
|
||||||
|
```python
|
||||||
|
# 服务地址(根据实际部署修改)
|
||||||
|
BASE_URL = "http://localhost:80"
|
||||||
|
PREDICT_ENDPOINT = "/v1/private/s782b4996"
|
||||||
|
|
||||||
|
# 本地图片路径(替换为你的图片路径)
|
||||||
|
IMAGE_PATH = "test_image.jpg"
|
||||||
|
|
||||||
|
# 读取图片文件并发送请求
|
||||||
|
with open(IMAGE_PATH, "rb") as f:
|
||||||
|
files = {"image": f} # 键名必须为 "image",与服务端接收字段一致
|
||||||
|
response = requests.post(f"{BASE_URL}{PREDICT_ENDPOINT}", files=files)
|
||||||
|
|
||||||
|
# 打印响应结果
|
||||||
|
print("预测接口响应状态码:", response.status_code)
|
||||||
|
print("预测结果:")
|
||||||
|
print(response.json())
|
||||||
|
```
|
||||||
|
|
||||||
## 视觉分类模型测试服务原理
|
## 视觉分类模型测试服务原理
|
||||||
|
|
||||||
|
|||||||
Reference in New Issue
Block a user