2026-10-13 11:16:51 +08:00
|
|
|
|
# 本地与镜像内的默认任务信息。平台若给出不同 FRAMEWORK，只改这一处，并保持 Dockerfile 的 ENV 与 CI 文件一致。
|
2026-10-13 15:15:16 +08:00
|
|
|
|
# FRAMEWORK 必须是本仓独有的名字，否则适配页会把镜像聚合到同名的别人名下。
|
2026-10-13 11:16:51 +08:00
|
|
|
|
GPU_TYPE=Iluvatar_bi-150
|
2026-10-13 15:15:16 +08:00
|
|
|
|
FRAMEWORK=vllm_bi150_r2r4
|
2026-10-13 11:16:51 +08:00
|
|
|
|
TASK_TYPE=text-generation
|
|
|
|
|
|
MODEL_DIR=/model
|
|
|
|
|
|
SERVED_MODEL_NAME=llm
|
|
|
|
|
|
PORT=8000
|
|
|
|
|
|
# 未知架构：fail 拒绝启动；skip 只记录并继续。默认拒绝。
|
|
|
|
|
|
ARCH_UNKNOWN_POLICY=fail
|
|
|
|
|
|
# I5 tokenizer 修补默认关闭。
|
|
|
|
|
|
APPLY_TOKENIZER_PATCH=0
|
|
|
|
|
|
FORCE_CHAT_TEMPLATE=0
|
