13 lines
469 B
Plaintext
13 lines
469 B
Plaintext
# 本地与镜像内的默认任务信息。平台若给出不同 FRAMEWORK，只改这一处，并保持 Dockerfile 的 ENV 与 CI 文件一致。
|
||
GPU_TYPE=Iluvatar_bi-150
|
||
FRAMEWORK=vllm_0_17_0_corex_4_4_0
|
||
TASK_TYPE=text-generation
|
||
MODEL_DIR=/model
|
||
SERVED_MODEL_NAME=llm
|
||
PORT=8000
|
||
# 未知架构：fail 拒绝启动；skip 只记录并继续。默认拒绝。
|
||
ARCH_UNKNOWN_POLICY=fail
|
||
# I5 tokenizer 修补默认关闭。
|
||
APPLY_TOKENIZER_PATCH=0
|
||
FORCE_CHAT_TEMPLATE=0
|