Claude a0d76bc06e fix: remove ix_moe_bridge — nm -D confirms libixformer.so has NO MoE symbols
真机探测确认:
  nm -D libixformer.so | grep topk_softmax → 空
  ixf_F dir() → 无 vllm_moe_topk_softmax
  ixf_F dir() → 无 vllm_invoke_fused_moe_kernel
  ixf_F dir() → 无 vllm_moe_align_block_size
  _ixformer_torch.so symbols → 仅 cuinfer_gemm 系列, 无 MoE

结论: base 镜像的 MoE 路径:
  fused_moe.py → _custom_ops.topk_softmax → ixf_F.vllm_moe_topk_softmax → AttributeError
  → qwen3_5.py 捕获 → fallback to Python expert loop (这是唯一能工作的路径)

修改:
1. _custom_ops.py topk_softmax: 直接 PyTorch softmax+topk, 不尝试 ixf_F (消除 ERROR 日志)
2. 移除 ix_moe_bridge 加载逻辑 (libixformer.so 没有 MoE 符号, 链接会失败)
3. 移除 patch_ops.sh ix_moe_bridge JIT 编译步骤

comp 168 的 0 分根因不是 MoE fallback (所有参赛者都 fallback),
而是我们的自定义 qwen3_5.py 导致 GDN NaN 99.98% + OOM.
上一个 commit 已修复: 条件部署 qwen3_5.py + max_model_len=80000.
2026-08-10 07:41:53 +00:00
2026-08-07 08:43:51 +00:00
2026-07-30 17:03:23 +08:00
2026-08-07 07:47:01 +00:00

project_6

Description
No description provided
Readme 427 MiB
Languages
C++ 41.8%
Cuda 31.6%
Python 22.2%
C 2.1%
CMake 1.1%
Other 1.1%