Claude
|
1f69311375
|
fix: flash_attn import path ixformer.contrib → ixformer.functions
真机验证发现 ixformer.contrib.vllm_flash_attn 不存在。
flash_attn_varlen_func 实际位于 ixformer.functions
(通过 inference.functions.flash_attn_lib 导出)。
签名兼容:q,k,v,cu_seqlens_q/k,max_seqlen_q/k,softmax_scale,causal
test_dlopen_chain.py: 修复 total_mem→total_memory, ctypes.RTLD_LAZY,
系统 vllm 路径检测(避免解析到仓库里的 ./vllm/)
|
2026-08-14 03:56:23 +00:00 |
|