Files
enginex-hygon-vllm/enginex/ChatGLM-6B_fastllm.md
zhousha cd5b3fdf61 update
2025-11-19 15:48:02 +08:00

445 B
Raw Blame History

运行方式

推荐使用docker方式运行提供拉取的docker镜像

docker pull git.modelhub.org.cn:9443/enginex-hygon/custom:glm-ft-v1.0
#  自定义容器名
#  当前工程所在路径
docker run -it --name= -v :/work -w /work --device=/dev/kfd --device=/dev/dri --security-opt seccomp=unconfined --cap-add=SYS_PTRACE --shm-size=16G --group-add 39 git.modelhub.org.cn:9443/enginex-hygon/custom:glm-ft-v1.0 /bin/bash