zhousha 68f703b6c9 update
2025-11-04 18:56:58 +08:00
2025-11-04 18:56:58 +08:00
2025-11-04 18:56:58 +08:00
2025-11-04 16:55:56 +08:00

enginex-hygon-vllm

运行于【海光 DCU】系列算力卡的【文本生成】引擎基于 vLLM 引擎进行架构特别适配优化,支持 Qwen、DeepSeek、Llama 等最新开源模型

Description
运行于【海光 DCU】系列算力卡的【文本生成】引擎,基于 vLLM 引擎进行架构特别适配优化,支持 Qwen、DeepSeek、Llama 等最新开源模型
Readme 56 MiB
Languages
Python 100%