运行于【天数智芯-智铠】系列算力卡的【文本生成】引擎,基于 vLLM 引擎进行架构适配优化,支持 Qwen、DeepSeek、Llama 等最新开源模型
Updated 2025-12-04 15:26:30 +08:00
运行于沐曦曦云C系列算力卡的【文本生成】引擎 vLLM 特制优化版本,基于 transformer 架构,支持 gpt-oss 等最新流行模型
Updated 2025-11-15 20:15:16 +08:00
运行于【昇腾-910】系列算力卡的【文本生成】引擎,基于 vLLM 引擎进行架构特别适配优化,支持 Qwen、DeepSeek、Llama 等最新开源模型
Updated 2025-10-29 22:50:38 +08:00
运行于【天数智芯-天垓】系列算力卡的【文本生成】引擎,基于 vLLM 引擎进行架构特别适配优化,率先实现在天垓 100 芯片上支持 Qwen3 系列等最新流行模型,并且引入 prefix-caching 等开源社区流行优化技术
Updated 2025-10-24 15:46:47 +08:00