diff --git a/README.md b/README.md index db635d4..b146250 100644 --- a/README.md +++ b/README.md @@ -130,16 +130,45 @@ exec vllm serve "$MODEL_DIR" $EXTRA "$@" --- -## 7. 已知边界(不藏着) +## 7. 如何注册为平台可用框架(本轮挖出的完整链路) -* **没在真卡上跑过**。本机没有天垓100,也拉不到该基础镜像,Dockerfile 未经真机验证。 - 已把风险压到最小:基线镜像与官方基线仓库(`EngineX-Iluvatar/enginex-vllm-bi100-qwen36`) - 所用完全一致;结构照搬已在生产运行的社区引擎;修补全部失败安全。 - 真实反馈需要平台侧的引擎审核流程给出。 -* **R4 别名表只收已证实的 4 条**(Qwen3_5 系列 + Gemma3 早期类名)。 - 不靠猜扩表——猜错会把本来能跑的模型改坏。 -* **R7 shim 是兜底不是优化**:保证「能出结果」,不追求吞吐。 -* **平台侧「上传驱动」入口当前不可见**:`个人主页 → 我的驱动列表` 只有 - 筛选/搜索 + 「暂无驱动」,新闻公告里写的「上传驱动」按钮在当前 UI 不存在。 - 本引擎的注册需要走平台/社区的引擎收录流程(`dev.modelhub.org.cn` 建仓 + 平台同步), - 这一点已在 `cdp/PROGRESS.md` 记录。 +平台侧的「上传驱动」按钮在当前 UI 里不存在,但**引擎注册的完整链路藏在社区引擎的 CI 里**。 +照 `EngineX-Sunrise/enginex-S2-vllm-fix-tokenizer` 的 `.gitea/workflows/` 复刻即可: + +``` +.gitea/workflows/docker-build-push.yml 平台官方引擎 CI(原样复制,勿改) +.gitea/workflows/task_info.env 声明三要素:FRAMEWORK / GPU_TYPE / TASK_TYPE +``` + +推送一个 **`v*` 标签**即触发,CI 会依次: +1. 读 `task_info.env` 取 `FRAMEWORK`/`GPU_TYPE`/`TASK_TYPE`(FRAMEWORK 必填); +2. 调 `GET https://modelhub.org.cn/adminApi/image-verify/validate?gpuType=…&taskType=…` 校验元数据; +3. `docker build` + `docker push` 到平台 registry; +4. 调 `POST https://modelhub.org.cn//adminApi/image-verify` 回填 `{framework, gpuType, imageUrl, taskType, createBy, repoUrl, tag}` —— **这一步就是注册**。 + +本仓的取值:`FRAMEWORK=vllm_compat`、`GPU_TYPE=Iluvatar_bi-100`、`TASK_TYPE=text-generation`, +并已推送标签 **`v1.0.0`**(commit `d78a92b3`)。 +CI 运行记录:`actions/runs/1`,9 个步骤(Clone / Set metadata / Load Task Info / Validate Metadata / +Login / Build / Push / Notify / Complete)**全部 success**,其中 Build 2s、Push 1m1s。 + +> 注册生效后,提交适配任务时的「框架」下拉里会出现 `vllm_compat`(只对 Iluvatar_bi-100 × 文本生成)。 + +## 8. 已验证 / 未验证(分清楚,不把做了当成了成了) + +**已验证** +- `python3 test_engine.py` → **25 passed, 0 failed**(不需要 GPU / vLLM / Docker) +- CI 9 步全部 success;`image-verify/validate` 返回 `code:0, data:true`(平台认可元数据) + +**尚未验证** +- **框架还没出现在平台侧**:`Iluvatar_bi-100 × text-generation` 目前仍只有 + `transformers / vllm / vllm-patch-tokenizer(个人开发者 zhengzhongwei) / vllm_fix_tokenizer` 四个, + `vllm_compat` 未出现,「我的驱动列表」也仍显示「暂无驱动」。 + → 注册是异步或需平台审核,**尚未生效**,需要继续观察(不能声称已注册成功)。 +- **没在真卡上跑过**:本机没有天垓100,也拉不到该基础镜像,Dockerfile 未经真机验证。 + 风险已压到最小:基线镜像与官方基线一致、结构照搬生产引擎、修补全失败安全。 + +## 9. 已知边界 + +* R4 别名表只收已证实的 4 条(Qwen3_5 系列 + Gemma3 早期类名),不靠猜扩表。 +* R7 shim 是兜底不是优化:保证「能出结果」,不追求吞吐。 +* 提交任务的「框架」下拉要等平台注册生效后才看得到 `vllm_compat`。