project_6_89d52222

dylanyunlong/project_6_89d52222

Fork 0

Commit Graph

Author	SHA1	Message	Date
Claude	da7d3af56e	fix(CRITICAL): launch_server.py覆盖所有vllm文件+运行xformers patch varlen_fwd()崩溃是因为xformers patch只打到了corex-3.2.3/lib64路径, 但runtime加载的是corex/lib/python3路径(PYTHONPATH优先级更高)。 launch_server.py现在覆盖所有关键文件到每个vllm安装: - qwen3_5.py, paged_attn.py, model_runner.py等 - 12个prebuilt .so - 运行patch_xformers_sdpa_seq.py等源码patch脚本	2026-08-11 11:45:10 +00:00
Claude	d9064550b2	fix(CRITICAL): launch_server.py用execvp启动api_server——import 不触发__main__ 原来的 from vllm...api_server import 只执行了 import 阶段的 side-effects (torch/tensorflow warnings), 但不触发 if __name__ == '__main__' 所以服务器永远不启动, 进程直接退出。改用 os.execvp 替换进程为 python3 -m vllm.entrypoints.openai.api_server, 传递所有CLI参数, 这是force patch后最安全的启动方式。	2026-08-11 10:45:35 +00:00
Claude	ba0f67e79e	fix(runtime): launch_server.py强制覆盖所有vllm路径后启动根因：patch_ops.sh部署到VLLM_ROOT(lib64)，但python3 -m vllm走的是 /usr/local/corex/lib/python3/dist-packages/vllm/（未被覆盖的路径）导致基础镜像原版api_server.py运行，不识别qwen3_coder/reasoning-parser 修复：launch_server.py在import前遍历sys.path所有vllm安装，用shutil.copy2强制覆盖api_server/cli_args/serving_chat等然后from vllm.entrypoints.openai.api_server import *启动	2026-08-11 10:27:51 +00:00

Author

SHA1

Message

Date

Claude

da7d3af56e

fix(CRITICAL): launch_server.py覆盖所有vllm文件+运行xformers patch

varlen_fwd()崩溃是因为xformers patch只打到了corex-3.2.3/lib64路径,
但runtime加载的是corex/lib/python3路径(PYTHONPATH优先级更高)。

launch_server.py现在覆盖所有关键文件到每个vllm安装:
- qwen3_5.py, paged_attn.py, model_runner.py等
- 12个prebuilt .so
- 运行patch_xformers_sdpa_seq.py等源码patch脚本

2026-08-11 11:45:10 +00:00

Claude

d9064550b2

fix(CRITICAL): launch_server.py用execvp启动api_server——import *不触发__main__

原来的 from vllm...api_server import * 只执行了 import 阶段的
side-effects (torch/tensorflow warnings), 但不触发 if __name__ == '__main__'
所以服务器永远不启动, 进程直接退出。

改用 os.execvp 替换进程为 python3 -m vllm.entrypoints.openai.api_server,
传递所有CLI参数, 这是force patch后最安全的启动方式。

2026-08-11 10:45:35 +00:00

Claude

ba0f67e79e

fix(runtime): launch_server.py强制覆盖所有vllm路径后启动

根因：patch_ops.sh部署到VLLM_ROOT(lib64)，但python3 -m vllm走的是
/usr/local/corex/lib/python3/dist-packages/vllm/（未被覆盖的路径）
导致基础镜像原版api_server.py运行，不识别qwen3_coder/reasoning-parser

修复：launch_server.py在import前遍历sys.path所有vllm安装，
用shutil.copy2强制覆盖api_server/cli_args/serving_chat等
然后from vllm.entrypoints.openai.api_server import *启动

2026-08-11 10:27:51 +00:00

3 Commits