This commit is contained in:
12
task_info.env.example
Normal file
12
task_info.env.example
Normal file
@@ -0,0 +1,12 @@
|
||||
# 本地与镜像内的默认任务信息。平台若给出不同 FRAMEWORK,只改这一处,并保持 Dockerfile 的 ENV 与 CI 文件一致。
|
||||
GPU_TYPE=Iluvatar_bi-150
|
||||
FRAMEWORK=vllm_0_17_0_corex_4_4_0
|
||||
TASK_TYPE=text-generation
|
||||
MODEL_DIR=/model
|
||||
SERVED_MODEL_NAME=llm
|
||||
PORT=8000
|
||||
# 未知架构:fail 拒绝启动;skip 只记录并继续。默认拒绝。
|
||||
ARCH_UNKNOWN_POLICY=fail
|
||||
# I5 tokenizer 修补默认关闭。
|
||||
APPLY_TOKENIZER_PATCH=0
|
||||
FORCE_CHAT_TEMPLATE=0
|
||||
Reference in New Issue
Block a user