4 lines
248 B
Plaintext
4 lines
248 B
Plaintext
graph LR
|
|
A[16B 導師模型<br>Chang-chih/leviathan-16B-final] -->|產生 Soft Labels| B[蒸餾損失函數<br>KL Divergence]
|
|
C[10.5B 學生模型<br>繼承 7B 靈魂 + DeepSeek 骨架] -->|產生 Student Logits| B
|
|
B -->|反向傳播| C |