21 lines
1.2 KiB
Markdown
21 lines
1.2 KiB
Markdown
# xc_validation_strategy_vllm_zhouyuanxi
|
||
|
||
部署在 zhouyuanxi 账号下的模型适配策略。任务通过 `zhangyuanxi`、`jiajing`、`l112233`、`l11223344` 四个账号的 XC Token 平均轮转提交;之后保持 HTTP 服务存活供平台探活。
|
||
|
||
本轮使用 2026-09-24 的成功下载、非量化模型清单,只提交目标 GPU 尚无验证记录、且其他 GPU 至少一张「已验证」的模型:`Biren_166m` 6 个、`Cambricon_mlu-370-x8` 179 个、`Kunlunxin_p-800` 180 个、`MetaX_c-500` 40 个,共 405 条 GPU/模型任务。PPU 与 Hygon 由另一策略提交,本轮不重复提交。
|
||
|
||
## 功能
|
||
|
||
- 通过 `/api/adapt/task/add` 接口(xc-Token 认证)批量提交模型适配任务
|
||
- 从 `model_ids/` 读取本轮四张 GPU 的模型 ID 清单,使用对应的 vLLM 配置
|
||
- 某账号命中额度限制 60007 时,切换到下一个活跃账号
|
||
- 提交成功的模型写入 `submitted_adapt_tasks.txt`
|
||
- 暴露 `/health` 和 `/status` 接口;`/status` 包含各账号、各 GPU 提交数量
|
||
|
||
## 平台契约说明
|
||
|
||
- Dockerfile 位于仓库根目录,基于官方轻量基础镜像
|
||
- 暴露 8080 端口并实现 `GET /health`
|
||
- 通过环境变量 `STRATEGY_ID` 获取策略 ID
|
||
- 正确处理 `SIGTERM` 信号,支持优雅停机
|