Files
project_6/qwen3_6_scripts
Claude d9064550b2 fix(CRITICAL): launch_server.py用execvp启动api_server——import *不触发__main__
原来的 from vllm...api_server import * 只执行了 import 阶段的
side-effects (torch/tensorflow warnings), 但不触发 if __name__ == '__main__'
所以服务器永远不启动, 进程直接退出。

改用 os.execvp 替换进程为 python3 -m vllm.entrypoints.openai.api_server,
传递所有CLI参数, 这是force patch后最安全的启动方式。
2026-08-11 10:45:35 +00:00
..