13 lines
469 B
Plaintext
13 lines
469 B
Plaintext
|
# 本地与镜像内的默认任务信息。平台若给出不同 FRAMEWORK，只改这一处，并保持 Dockerfile 的 ENV 与 CI 文件一致。
|
|||
|
|
GPU_TYPE=Iluvatar_bi-150
|
|||
|
|
FRAMEWORK=vllm_0_17_0_corex_4_4_0
|
|||
|
|
TASK_TYPE=text-generation
|
|||
|
|
MODEL_DIR=/model
|
|||
|
|
SERVED_MODEL_NAME=llm
|
|||
|
|
PORT=8000
|
|||
|
|
# 未知架构：fail 拒绝启动；skip 只记录并继续。默认拒绝。
|
|||
|
|
ARCH_UNKNOWN_POLICY=fail
|
|||
|
|
# I5 tokenizer 修补默认关闭。
|
|||
|
|
APPLY_TOKENIZER_PATCH=0
|
|||
|
|
FORCE_CHAT_TEMPLATE=0
|