init: vLLM adapt-task batch submit strategy
This commit is contained in:
30
README.md
Normal file
30
README.md
Normal file
@@ -0,0 +1,30 @@
|
||||
# xc_validation_strategy_vllm_submit
|
||||
|
||||
批量向 ModelHub XC 平台提交 vLLM 模型适配任务的策略服务(fanyi 账号),
|
||||
之后保持 HTTP 服务存活供平台探活。
|
||||
|
||||
## 功能
|
||||
|
||||
- 通过 `/api/adapt/task/add` 接口(xc-Token 认证)批量提交模型适配任务
|
||||
- vLLM 框架,ppu_zw_810e GPU
|
||||
- 提交成功的模型写入 `submitted_adapt_tasks.txt`
|
||||
- 暴露 `/health` 和 `/status` 接口满足平台运行时契约
|
||||
|
||||
## 项目结构
|
||||
|
||||
```
|
||||
.
|
||||
├── main.py # 主入口:HTTP 服务 + 提交逻辑
|
||||
├── Dockerfile # 平台镜像构建配置
|
||||
├── requirements.txt # Python 依赖
|
||||
└── submitted_adapt_tasks.txt # 运行后自动生成,记录提交结果
|
||||
```
|
||||
|
||||
## 平台契约说明
|
||||
|
||||
本项目满足平台对策略镜像的全部必要约束:
|
||||
|
||||
- Dockerfile 位于仓库根目录,基于官方轻量基础镜像
|
||||
- 暴露 8080 端口并实现 `GET /health`
|
||||
- 通过环境变量 `STRATEGY_ID` 获取策略 ID
|
||||
- 正确处理 `SIGTERM` 信号,支持优雅停机
|
||||
Reference in New Issue
Block a user