a0d76bc06e790537c1002d88530a475624ec4fbe
真机探测确认: nm -D libixformer.so | grep topk_softmax → 空 ixf_F dir() → 无 vllm_moe_topk_softmax ixf_F dir() → 无 vllm_invoke_fused_moe_kernel ixf_F dir() → 无 vllm_moe_align_block_size _ixformer_torch.so symbols → 仅 cuinfer_gemm 系列, 无 MoE 结论: base 镜像的 MoE 路径: fused_moe.py → _custom_ops.topk_softmax → ixf_F.vllm_moe_topk_softmax → AttributeError → qwen3_5.py 捕获 → fallback to Python expert loop (这是唯一能工作的路径) 修改: 1. _custom_ops.py topk_softmax: 直接 PyTorch softmax+topk, 不尝试 ixf_F (消除 ERROR 日志) 2. 移除 ix_moe_bridge 加载逻辑 (libixformer.so 没有 MoE 符号, 链接会失败) 3. 移除 patch_ops.sh ix_moe_bridge JIT 编译步骤 comp 168 的 0 分根因不是 MoE fallback (所有参赛者都 fallback), 而是我们的自定义 qwen3_5.py 导致 GDN NaN 99.98% + OOM. 上一个 commit 已修复: 条件部署 qwen3_5.py + max_model_len=80000.
project_6
Description
Languages
C++
41.8%
Cuda
31.6%
Python
22.2%
C
2.1%
CMake
1.1%
Other
1.1%