删除 NV A100 Patched 镜像合并/entrypoint.sh
This commit is contained in:
@@ -1,14 +0,0 @@
|
|||||||
#!/bin/bash
|
|
||||||
set -e
|
|
||||||
|
|
||||||
MODEL_DIR=${MODEL_DIR:-/model}
|
|
||||||
FIX_TOKENIZER_DIR=/tmp/fixed_tokenizer
|
|
||||||
|
|
||||||
echo "[entrypoint] fixing tokenizer..."
|
|
||||||
python3 /opt/fix_tokenizer.py
|
|
||||||
|
|
||||||
echo "[entrypoint] starting vllm..."
|
|
||||||
|
|
||||||
exec vllm serve "$MODEL_DIR" \
|
|
||||||
--tokenizer "$FIX_TOKENIZER_DIR" \
|
|
||||||
"$@"
|
|
||||||
Reference in New Issue
Block a user