Initial vLLM agent strategy
This commit is contained in:
20
seeds/README.md
Normal file
20
seeds/README.md
Normal file
@@ -0,0 +1,20 @@
|
||||
# Seed files
|
||||
|
||||
当前代码库没有找到悬赏模型 API,因此 v1 使用 CSV seed 文件。
|
||||
|
||||
CSV 字段:
|
||||
|
||||
```csv
|
||||
model_id,source,gpu_aliases,max_model_len,notes
|
||||
```
|
||||
|
||||
- `source`: 一般是 `HUGGING_FACE`。
|
||||
- `gpu_aliases`: 例如 `910b,k100,p800,biren166m`。
|
||||
- `max_model_len`: 默认 1024。
|
||||
|
||||
导入时用 `--origin` 控制优先级:
|
||||
|
||||
- `manual_bounty`: 悬赏模型,最高优先级。
|
||||
- `manual_promote`: 已入库/已验证成功模型。
|
||||
- `manual_downloaded_by_others`: 别人已下载模型。
|
||||
- `hf_seed`: 低优先级自下载候选。
|
||||
Reference in New Issue
Block a user