From 85f3240c9862d9cabd4691b8b9f8e05de6b11225 Mon Sep 17 00:00:00 2001
From: Claude <claude@project6.dev>
Date: Sat, 8 Aug 2026 07:38:15 +0000
Subject: [PATCH] =?UTF-8?q?doc(prd):=20create=20PRD=20with=20CCCL=E2=86=92?=
 =?UTF-8?q?base=20mapping=20table=20and=20competition=20strategy?=
MIME-Version: 1.0
Content-Type: text/plain; charset=UTF-8
Content-Transfer-Encoding: 8bit

Records CCCL source → base modification mappings from each loop iteration.
Strategy: serving-layer-only patches + env var tuning, never touch model layer.
---
 PRD.md | 59 ++++++++++++++++++++++++++++++++++++++++++++++++++++++++++
 1 file changed, 59 insertions(+)
 create mode 100644 PRD.md

diff --git a/PRD.md b/PRD.md
new file mode 100644
index 00000000..21f85c13
--- /dev/null
+++ b/PRD.md
@@ -0,0 +1,59 @@
+# PRD: 天垓100 BI-V100 推理引擎竞赛
+
+## 目标
+首位通过全部功能测试+效果测试+性能基准的参赛者获得基础奖。
+
+## 竞赛门槛
+- 50+ 功能测试用例全部通过
+- 效果偏差 ≤±4%
+- 性能门槛 Token 吞吐加权值 ≥8000
+- Output TPS 权重占 83%（decode kernel 优化投入产出比最高）
+
+## 架构策略
+CCCL系统设计移植 + base引擎serving层改造。
+
+### 核心原则
+1. **不覆盖模型层代码** — Sub168证明base镜像CoreX原生代码能正确运行
+2. **只部署serving层** — patch_ops.sh控制部署范围
+3. **通过环境变量做硬件适配** — CCCL policy_selector模式
+
+### 部署文件清单（patch_ops.sh）
+- protocol.py — OpenAI API兼容层
+- serving_chat.py — 请求处理核心
+- qwen3coder_tool_parser.py — Qwen3 XML tool call解析
+- reasoning/ — thinking/reasoning分离
+- api_server.py — 入口点
+- chat_utils.py — 消息预处理
+- cli_args.py — 参数注册
+- registry.py — 仅当base缺少Qwen3_5时
+
+### 不部署的文件（base镜像原生）
+qwen3_5.py, model_runner.py, _custom_ops.py, sampler.py,
+scheduler.py, sequence.py, xformers.py, paged_attn.py,
+prefix_prefill.py, logits_processor.py, mamba_cache.py, arg_utils.py
+
+## Sub168参数基准（已对齐）
+- max_model_len=256000
+- max_num_seqs=2
+- gpu_memory_utilization=0.95
+- max_num_batched_tokens=4096
+- enable_chunked_prefill=True
+- enforce_eager=True
+- dtype=half
+- tensor_parallel_size=4
+
+## CCCL → base 映射记录
+| CCCL源码 | 映射到base位置 | 改动类型 |
+|----------|---------------|---------|
+| buddy_allocator.cu | computility-run.yaml env | PYTORCH_CUDA_ALLOC_CONF |
+| device_reduce policy_selector | computility-run.yaml params | 启动参数对齐Sub168 |
+| agent_reduce_by_key ConsumeTile | serving_chat.py | fast path/safe path分离 |
+| tuning_find_bound_sorted_values | yaml --dtype half | 类型大小自适应 |
+
+## 已修复的Sub508/509失败点
+1. ✅ n>1 OOM级联 → 允许n=2（匹配max_num_seqs=2）
+2. ✅ max_completion_tokens 400 → protocol.py接受
+3. ✅ tool_calls content=None → chat_utils.py容错
+4. ✅ d03 tool_call thinking耗尽 → 自动禁用thinking
+5. ✅ 内存碎片OOM → PYTORCH_CUDA_ALLOC_CONF
+6. ✅ 模型层代码破坏CoreX → patch_ops.sh只部署serving层