submit 338 nonquantized candidates on PPU and Hygon

This commit is contained in:
2026-09-24 22:17:16 +08:00
parent efee86e49c
commit a3d9109764
4 changed files with 371 additions and 45 deletions

View File

@@ -2,10 +2,13 @@
批量向 ModelHub XC 平台提交模型验证任务的策略服务,之后保持 HTTP 服务存活供平台探活。
当前批次使用 2026-09-24 的成功下载模型清单,经非量化过滤后,要求目标 GPU 无验证记录、至少一张其他 GPU 的状态为「已验证」。仅提交 `ppu_zw_810e` 的 17 个模型和 `hygon_k100-ai` 的 321 个模型,共 338 个任务;上一批模型不会重复提交。
## 功能
- 自动登录 ModelHub 获取 Token
- 批量提交模型验证任务(vLLM 框架,Cambricon MLU-370-x8)
- 使用 `AUTH_TOKEN` 环境变量(未提供时使用 `main.py` 中的预设 Bearer Token)向 `zhoushasha` 账号提交任务
- 分 GPU 读取 `model_ids/` 中的模型清单,批量提交 vLLM 验证任务
- 账号额度暂满时,每 30 分钟重试尚未提交的模型
- 提交结果写入 `submitted_validation_tasks.txt`
- 暴露 `/health` 和 `/status` 接口满足平台运行时契约
@@ -14,6 +17,7 @@
```
.
├── main.py # 主入口:HTTP 服务 + 提交逻辑
├── model_ids/ # 本批次两张 GPU 的模型 ID 清单
├── Dockerfile # 平台镜像构建配置
├── requirements.txt # Python 依赖
└── submitted_validation_tasks.txt # 运行后自动生成,记录提交结果
@@ -26,4 +30,6 @@
- Dockerfile 位于仓库根目录,基于官方轻量基础镜像
- 暴露 8080 端口并实现 `GET /health`
- 通过环境变量 `STRATEGY_ID` 获取策略 ID
- 正确处理 `SIGTERM` 信号,支持优雅停机
- 正确处理 `SIGTERM` 信号,支持优雅停机
预设 Bearer Token 于 2026-10-01 22:13(北京时间)到期;届时如需再次运行,应更新 `AUTH_TOKEN`。