submit 338 nonquantized candidates on PPU and Hygon
This commit is contained in:
12
README.md
12
README.md
@@ -2,10 +2,13 @@
|
||||
|
||||
批量向 ModelHub XC 平台提交模型验证任务的策略服务,之后保持 HTTP 服务存活供平台探活。
|
||||
|
||||
当前批次使用 2026-09-24 的成功下载模型清单,经非量化过滤后,要求目标 GPU 无验证记录、至少一张其他 GPU 的状态为「已验证」。仅提交 `ppu_zw_810e` 的 17 个模型和 `hygon_k100-ai` 的 321 个模型,共 338 个任务;上一批模型不会重复提交。
|
||||
|
||||
## 功能
|
||||
|
||||
- 自动登录 ModelHub 获取 Token
|
||||
- 批量提交模型验证任务(vLLM 框架,Cambricon MLU-370-x8)
|
||||
- 使用 `AUTH_TOKEN` 环境变量(未提供时使用 `main.py` 中的预设 Bearer Token)向 `zhoushasha` 账号提交任务
|
||||
- 分 GPU 读取 `model_ids/` 中的模型清单,批量提交 vLLM 验证任务
|
||||
- 账号额度暂满时,每 30 分钟重试尚未提交的模型
|
||||
- 提交结果写入 `submitted_validation_tasks.txt`
|
||||
- 暴露 `/health` 和 `/status` 接口满足平台运行时契约
|
||||
|
||||
@@ -14,6 +17,7 @@
|
||||
```
|
||||
.
|
||||
├── main.py # 主入口:HTTP 服务 + 提交逻辑
|
||||
├── model_ids/ # 本批次两张 GPU 的模型 ID 清单
|
||||
├── Dockerfile # 平台镜像构建配置
|
||||
├── requirements.txt # Python 依赖
|
||||
└── submitted_validation_tasks.txt # 运行后自动生成,记录提交结果
|
||||
@@ -26,4 +30,6 @@
|
||||
- Dockerfile 位于仓库根目录,基于官方轻量基础镜像
|
||||
- 暴露 8080 端口并实现 `GET /health`
|
||||
- 通过环境变量 `STRATEGY_ID` 获取策略 ID
|
||||
- 正确处理 `SIGTERM` 信号,支持优雅停机
|
||||
- 正确处理 `SIGTERM` 信号,支持优雅停机
|
||||
|
||||
预设 Bearer Token 于 2026-10-01 22:13(北京时间)到期;届时如需再次运行,应更新 `AUTH_TOKEN`。
|
||||
|
||||
Reference in New Issue
Block a user