README: 补齐引擎注册链路(CI+task_info.env+v* tag)与已/未验证分界
This commit is contained in:
53
README.md
53
README.md
@@ -130,16 +130,45 @@ exec vllm serve "$MODEL_DIR" $EXTRA "$@"
|
||||
|
||||
---
|
||||
|
||||
## 7. 已知边界(不藏着)
|
||||
## 7. 如何注册为平台可用框架(本轮挖出的完整链路)
|
||||
|
||||
* **没在真卡上跑过**。本机没有天垓100,也拉不到该基础镜像,Dockerfile 未经真机验证。
|
||||
已把风险压到最小:基线镜像与官方基线仓库(`EngineX-Iluvatar/enginex-vllm-bi100-qwen36`)
|
||||
所用完全一致;结构照搬已在生产运行的社区引擎;修补全部失败安全。
|
||||
真实反馈需要平台侧的引擎审核流程给出。
|
||||
* **R4 别名表只收已证实的 4 条**(Qwen3_5 系列 + Gemma3 早期类名)。
|
||||
不靠猜扩表——猜错会把本来能跑的模型改坏。
|
||||
* **R7 shim 是兜底不是优化**:保证「能出结果」,不追求吞吐。
|
||||
* **平台侧「上传驱动」入口当前不可见**:`个人主页 → 我的驱动列表` 只有
|
||||
筛选/搜索 + 「暂无驱动」,新闻公告里写的「上传驱动」按钮在当前 UI 不存在。
|
||||
本引擎的注册需要走平台/社区的引擎收录流程(`dev.modelhub.org.cn` 建仓 + 平台同步),
|
||||
这一点已在 `cdp/PROGRESS.md` 记录。
|
||||
平台侧的「上传驱动」按钮在当前 UI 里不存在,但**引擎注册的完整链路藏在社区引擎的 CI 里**。
|
||||
照 `EngineX-Sunrise/enginex-S2-vllm-fix-tokenizer` 的 `.gitea/workflows/` 复刻即可:
|
||||
|
||||
```
|
||||
.gitea/workflows/docker-build-push.yml 平台官方引擎 CI(原样复制,勿改)
|
||||
.gitea/workflows/task_info.env 声明三要素:FRAMEWORK / GPU_TYPE / TASK_TYPE
|
||||
```
|
||||
|
||||
推送一个 **`v*` 标签**即触发,CI 会依次:
|
||||
1. 读 `task_info.env` 取 `FRAMEWORK`/`GPU_TYPE`/`TASK_TYPE`(FRAMEWORK 必填);
|
||||
2. 调 `GET https://modelhub.org.cn/adminApi/image-verify/validate?gpuType=…&taskType=…` 校验元数据;
|
||||
3. `docker build` + `docker push` 到平台 registry;
|
||||
4. 调 `POST https://modelhub.org.cn//adminApi/image-verify` 回填 `{framework, gpuType, imageUrl, taskType, createBy, repoUrl, tag}` —— **这一步就是注册**。
|
||||
|
||||
本仓的取值:`FRAMEWORK=vllm_compat`、`GPU_TYPE=Iluvatar_bi-100`、`TASK_TYPE=text-generation`,
|
||||
并已推送标签 **`v1.0.0`**(commit `d78a92b3`)。
|
||||
CI 运行记录:`actions/runs/1`,9 个步骤(Clone / Set metadata / Load Task Info / Validate Metadata /
|
||||
Login / Build / Push / Notify / Complete)**全部 success**,其中 Build 2s、Push 1m1s。
|
||||
|
||||
> 注册生效后,提交适配任务时的「框架」下拉里会出现 `vllm_compat`(只对 Iluvatar_bi-100 × 文本生成)。
|
||||
|
||||
## 8. 已验证 / 未验证(分清楚,不把做了当成了成了)
|
||||
|
||||
**已验证**
|
||||
- `python3 test_engine.py` → **25 passed, 0 failed**(不需要 GPU / vLLM / Docker)
|
||||
- CI 9 步全部 success;`image-verify/validate` 返回 `code:0, data:true`(平台认可元数据)
|
||||
|
||||
**尚未验证**
|
||||
- **框架还没出现在平台侧**:`Iluvatar_bi-100 × text-generation` 目前仍只有
|
||||
`transformers / vllm / vllm-patch-tokenizer(个人开发者 zhengzhongwei) / vllm_fix_tokenizer` 四个,
|
||||
`vllm_compat` 未出现,「我的驱动列表」也仍显示「暂无驱动」。
|
||||
→ 注册是异步或需平台审核,**尚未生效**,需要继续观察(不能声称已注册成功)。
|
||||
- **没在真卡上跑过**:本机没有天垓100,也拉不到该基础镜像,Dockerfile 未经真机验证。
|
||||
风险已压到最小:基线镜像与官方基线一致、结构照搬生产引擎、修补全失败安全。
|
||||
|
||||
## 9. 已知边界
|
||||
|
||||
* R4 别名表只收已证实的 4 条(Qwen3_5 系列 + Gemma3 早期类名),不靠猜扩表。
|
||||
* R7 shim 是兜底不是优化:保证「能出结果」,不追求吞吐。
|
||||
* 提交任务的「框架」下拉要等平台注册生效后才看得到 `vllm_compat`。
|
||||
|
||||
Reference in New Issue
Block a user