7 lines
249 B
Markdown
7 lines
249 B
Markdown
|
# PROJECT_SUMMARY — project_6
|
|||
|
|
|
|||
|
|
## 项目背景
|
|||
|
|
天垓100 (BI-V100) 推理引擎竞赛，在 4×BI-V100 上运行 Qwen3.5-27B 推理服务。
|
|||
|
|
竞赛目标：Token吞吐加权值 ≥ 8000（Output TPS × 83% + Input TPS × 14% + Cache TPS × 3%）
|
|||
|
|
|