update add deepseek
This commit is contained in:
@@ -6,4 +6,5 @@
|
|||||||
可在项目文件夹 `/enginex` 下查看具体可支持模型文件的运行方式。
|
可在项目文件夹 `/enginex` 下查看具体可支持模型文件的运行方式。
|
||||||
|
|
||||||
支持模型列表:
|
支持模型列表:
|
||||||
- jina-embeddings-v3
|
- jina-embeddings-v3
|
||||||
|
- DeepSeek-R1
|
||||||
9
enginex/DeepSeek-R1.md
Normal file
9
enginex/DeepSeek-R1.md
Normal file
@@ -0,0 +1,9 @@
|
|||||||
|
# 运行方式
|
||||||
|
```python
|
||||||
|
docker git.modelhub.org.cn:9443/enginex-hygon/pytorch:2.3.0-ubuntu22.04-dtk24.04.3-py3.10
|
||||||
|
|
||||||
|
docker run --shm-size 500g --network=host --name=dpskr1 --privileged --device=/dev/kfd --device=/dev/dri --group-add video --cap-add=SYS_PTRACE --security-opt seccomp=unconfined -v 项目地址(绝对路径):/home/ -v /opt/hyhal:/opt/hyhal:ro -it <your IMAGE ID> bash
|
||||||
|
|
||||||
|
cd inference
|
||||||
|
pip install -r requirements.txt
|
||||||
|
```
|
||||||
Reference in New Issue
Block a user