Compare commits
18 Commits
| Author | SHA1 | Date | |
|---|---|---|---|
| fb5e1079a8 | |||
| 9ebc1f3666 | |||
| 78f8b5ad82 | |||
| 251f21ac8f | |||
| fae53f5a2a | |||
| 1155ac4f4e | |||
| f8750be928 | |||
| cea6924355 | |||
| 904893671f | |||
| 961ed40fc8 | |||
| cbac5457ac | |||
| 8556c7efc4 | |||
| a9fe1f6393 | |||
| 9aba1595db | |||
| 85f41bba58 | |||
| d6b0e416db | |||
| 4dcfed6b6d | |||
| 1e8cfacd8e |
2
.gitignore
vendored
Normal file
2
.gitignore
vendored
Normal file
@@ -0,0 +1,2 @@
|
||||
.DS_Store
|
||||
__pycache__/
|
||||
@@ -1,6 +1,7 @@
|
||||
FROM modelhubxc-4pd.tencentcloudcr.com/xc_agent_platform/python:3.11-slim
|
||||
|
||||
ENV PYTHONUNBUFFERED=1
|
||||
ENV PYTHONUNBUFFERED=1
|
||||
|
||||
|
||||
WORKDIR /app
|
||||
|
||||
|
||||
17
README.md
17
README.md
@@ -1,22 +1,23 @@
|
||||
# xc_validation_strategy
|
||||
# xc_validation_strategy_gguf
|
||||
|
||||
批量向 ModelHub XC 平台提交模型验证任务的策略服务,之后保持 HTTP 服务存活供平台探活。
|
||||
本版本为纯下载策略:使用 `zhoushasha` 账号批量创建 `main.py` 中未注释的 GGUF 模型下载任务(最大并发 8),不提交验证任务;之后保持 HTTP 服务存活供平台探活。
|
||||
|
||||
## 功能
|
||||
|
||||
- 自动登录 ModelHub 获取 Token
|
||||
- 批量提交模型验证任务(vLLM 框架,Cambricon MLU-370-x8)
|
||||
- 提交结果写入 `submitted_validation_tasks.txt`
|
||||
- 启动时登录 ModelHub 获取新 Token,并检查账号身份及有效期;登录失败时停止,不回退到过期 Token
|
||||
- 按流水线批量创建 GGUF 模型下载任务(HuggingFace 源,最大并发 8)
|
||||
- 当前 `DOWNLOAD_ONLY=True`,不调用验证任务提交接口;验证任务由其他策略负责
|
||||
- 下载成功的模型 ID 写入 `downloaded_success_models.txt`
|
||||
- 暴露 `/health` 和 `/status` 接口满足平台运行时契约
|
||||
|
||||
## 项目结构
|
||||
|
||||
```
|
||||
.
|
||||
├── main.py # 主入口:HTTP 服务 + 提交逻辑
|
||||
├── main.py # 主入口:HTTP 服务 + 纯下载流程
|
||||
├── Dockerfile # 平台镜像构建配置
|
||||
├── requirements.txt # Python 依赖
|
||||
└── submitted_validation_tasks.txt # 运行后自动生成,记录提交结果
|
||||
└── downloaded_success_models.txt # 运行后自动生成,记录下载成功的模型
|
||||
```
|
||||
|
||||
## 平台契约说明
|
||||
@@ -26,4 +27,4 @@
|
||||
- Dockerfile 位于仓库根目录,基于官方轻量基础镜像
|
||||
- 暴露 8080 端口并实现 `GET /health`
|
||||
- 通过环境变量 `STRATEGY_ID` 获取策略 ID
|
||||
- 正确处理 `SIGTERM` 信号,支持优雅停机
|
||||
- 正确处理 `SIGTERM` 信号,支持优雅停机
|
||||
|
||||
Reference in New Issue
Block a user