初始化项目,由ModelHub XC社区提供模型
Model: Omarrran/koshur-kouter-ks-en_v1 Source: Original Platform
This commit is contained in:
10
artifacts/README.md
Normal file
10
artifacts/README.md
Normal file
@@ -0,0 +1,10 @@
|
||||
# Stage 1 artifacts
|
||||
|
||||
This directory contains the Stage 1 training and evaluation artifacts used to document the published full merged model.
|
||||
|
||||
Files:
|
||||
- `config.json` — training configuration snapshot
|
||||
- `stage1_summary.json` — high-level summary (`total_hours`, `peak_vram_gb`, `total_steps`)
|
||||
- `stage1_eval.json` — internal Stage 1 evaluation summary and sample predictions
|
||||
- `stage1_training_log.jsonl` — stepwise training log
|
||||
- `stage1_metrics_summary.json` — derived summary metrics used for the model card plots
|
||||
39
artifacts/config.json
Normal file
39
artifacts/config.json
Normal file
@@ -0,0 +1,39 @@
|
||||
{
|
||||
"model_id": "sarvamai/sarvam-translate",
|
||||
"max_seq_length": 512,
|
||||
"batch_size": 32,
|
||||
"grad_accum": 1,
|
||||
"use_bf16": true,
|
||||
"s1_lora_r": 32,
|
||||
"s1_lora_alpha": 64,
|
||||
"s1_lora_dropout": 0.05,
|
||||
"s1_lr": 0.0002,
|
||||
"s1_epochs": 2,
|
||||
"s1_warmup_ratio": 0.03,
|
||||
"s2_lora_r": 16,
|
||||
"s2_lora_alpha": 32,
|
||||
"s2_lora_dropout": 0.05,
|
||||
"s2_lr": 5e-05,
|
||||
"s2_epochs": 3,
|
||||
"s2_warmup_ratio": 0.05,
|
||||
"save_steps": 250,
|
||||
"eval_steps": 250,
|
||||
"logging_steps": 10,
|
||||
"lr_scheduler": "cosine",
|
||||
"optimizer": "paged_adamw_8bit",
|
||||
"weight_decay": 0.01,
|
||||
"max_grad_norm": 1.0,
|
||||
"lora_targets": [
|
||||
"q_proj",
|
||||
"k_proj",
|
||||
"v_proj",
|
||||
"o_proj",
|
||||
"gate_proj",
|
||||
"up_proj",
|
||||
"down_proj"
|
||||
],
|
||||
"modules_to_save": [
|
||||
"lm_head",
|
||||
"embed_tokens"
|
||||
]
|
||||
}
|
||||
161
artifacts/stage1_eval.json
Normal file
161
artifacts/stage1_eval.json
Normal file
@@ -0,0 +1,161 @@
|
||||
{
|
||||
"stage": 1,
|
||||
"bleu": 100.00000000000004,
|
||||
"chrf": 100.0,
|
||||
"samples": 200,
|
||||
"sample_predictions": [
|
||||
{
|
||||
"src": "Please translate this into French",
|
||||
"ref": "مہربٲنی کٔرتھ کٔرو امیک فرانسیسی منٛز ترجمہٕ",
|
||||
"pred": "مہربٲنی کٔرتھ کٔرو امیک فرانسیسی منٛز ترجمہٕ"
|
||||
},
|
||||
{
|
||||
"src": "Is their father a doctor",
|
||||
"ref": "یُہنٛد مول چھا ڈاکٹر",
|
||||
"pred": "تہنٛد مٲل چھا ڈاکٹر"
|
||||
},
|
||||
{
|
||||
"src": "Our plan has lots of additional advantages",
|
||||
"ref": "سانہ منصوبس چھ واریاہ اضٲفی فائدٕ",
|
||||
"pred": "سٲنؠن منصوٗبن چھ واریاہ اضٲفی فٲئدٕ"
|
||||
},
|
||||
{
|
||||
"src": "Shiela is putting on her clothes",
|
||||
"ref": "شیلا چھےٚ پنٕنۍ پلو لاگان",
|
||||
"pred": "شیلا چھ پنن پلو لاگان"
|
||||
},
|
||||
{
|
||||
"src": "He is either drunk or mad",
|
||||
"ref": "سہ چھ یا تہ شرارتس منٛز یا پاگل",
|
||||
"pred": "سہ چھ یا تہ شرارتس منٛز یا پاگل"
|
||||
},
|
||||
{
|
||||
"src": "The wedding cake didnt taste very good",
|
||||
"ref": "خانٛدرٕ کس کیکس اوس نہٕ سؠٹھا مزٕ دار",
|
||||
"pred": "خانٛدرٕ کس کیکس اوس نہٕ زیادٕ مزٕ دار"
|
||||
},
|
||||
{
|
||||
"src": "Did Tom seem busy",
|
||||
"ref": "کیا ٹام اوس مصروف نظر یوان",
|
||||
"pred": "کیا ٹام اوس مصروف نظر یوان"
|
||||
},
|
||||
{
|
||||
"src": "Tom needs to go to the hospital",
|
||||
"ref": "ٹامس چھ ہسپتال گژھنٕچ ضرورت",
|
||||
"pred": "ٹامس چھ ہسپتال گژھنٕچ ضرورت"
|
||||
},
|
||||
{
|
||||
"src": "But the night before last I overheard their conversation",
|
||||
"ref": "مگر اوترٕ راتھ کُیٚتھ بوٗز مےٚ تِہنٛز کَتھ",
|
||||
"pred": "مگر پٔتمہ رؠتہٕ برٛونٛہہ رؠتہٕ سمجن مےٚ تہنٛز کتھ باتھ"
|
||||
},
|
||||
{
|
||||
"src": "Return immediately",
|
||||
"ref": "واپس فوری طور پر",
|
||||
"pred": "فوری طور پر واپس جائیں"
|
||||
},
|
||||
{
|
||||
"src": "Tom often has nightmares",
|
||||
"ref": "ٹامس چھ اکثر ڈراون خواب آسان",
|
||||
"pred": "ٹامس چھ اکثر ڈراون خواب"
|
||||
},
|
||||
{
|
||||
"src": "I hate fluorescent lights",
|
||||
"ref": "مےٚ چُھ فلوروسینٹ لایٹن نفرت",
|
||||
"pred": "مےٚ چُھ فلوروسینٹ لایٹَن سٟتۍ نفرت"
|
||||
},
|
||||
{
|
||||
"src": "Mastering English is difficult",
|
||||
"ref": "انگریزی زبان منٛز مہارت حأصل کرن چھ مشکل",
|
||||
"pred": "انگریزی منٛز مہارت حأصل کرن چھ مشکل"
|
||||
},
|
||||
{
|
||||
"src": "I really do like you",
|
||||
"ref": "بہٕ چُھس پٔزۍ پٲٹھۍ ژٕ پسند کران",
|
||||
"pred": "بہٕ چُھس پٔزۍ پٲٹھۍ ژٕ پسند"
|
||||
},
|
||||
{
|
||||
"src": "He seems to be involved in that matter",
|
||||
"ref": "یہٕ چھ ماننہٕ یوان ز سہ چھ اتھ معاملس منٛز ملوث",
|
||||
"pred": "مانٛنہٕ چھ یوان ز سہ چھ اتھ معاملس منٛز شٲمل"
|
||||
},
|
||||
{
|
||||
"src": "Those are rings",
|
||||
"ref": "ہُمہٕ چھےٚ واجہِ",
|
||||
"pred": "یم چھ رنٛگ"
|
||||
},
|
||||
{
|
||||
"src": "Tom longed to see Mary again",
|
||||
"ref": "ٹامس ٲس میریس دوبارٕ وچھنہٕ خٲطرٕ وۄچھان",
|
||||
"pred": "ٹام اوس میریس بیٚیہ ؤچھنہٕ خٲطرٕ بے چین"
|
||||
},
|
||||
{
|
||||
"src": "She asked him to help her father clean the garage but he said that he was too busy to help",
|
||||
"ref": "تٔمۍ ووٚن أمس پنٛنس مٲلس گیراج صاف کرنس منٛز مدد کرنہٕ خٲطرٕ مگر تٔمۍ ووٚن ز سہ چھ مدد کرنس منٛز واریاہ مصروف",
|
||||
"pred": "أمۍ ووٚن أمس پننس مٲلس گیراج صاف کرنس منٛز مدد کرنہٕ خٲطرٕ مگر أمۍ ووٚن ز سہ چھ مدد کرنہٕ خٲطرٕ واریاہ مصروف"
|
||||
},
|
||||
{
|
||||
"src": "The thief made off with the womans handbag",
|
||||
"ref": "چور گوٚو زنانہٕ سنٛد ہینڈ بیگ ہیتھ",
|
||||
"pred": "چور اوس زنانہ ہنٛد ہینڈ بیگ تلتھ ژلان"
|
||||
},
|
||||
{
|
||||
"src": "Isnt it about time to go home",
|
||||
"ref": "گھر گژھنک ٹایم چھا نہٕ کینٛہہ",
|
||||
"pred": "کیا یہ چھ نہٕ گرٕ گژھنک وقت"
|
||||
}
|
||||
],
|
||||
"demo_en_to_ks": [
|
||||
{
|
||||
"src": "The mountains of Kashmir are beautiful.",
|
||||
"pred": "کشمیرٕکۍ پہاڑ چھ خوبصورت"
|
||||
},
|
||||
{
|
||||
"src": "He went to the market to buy vegetables.",
|
||||
"pred": "سہ گوٚو بازرس منٛز سبزی کٕننہٕ خٲطرٕ"
|
||||
},
|
||||
{
|
||||
"src": "Please sit down and have some tea.",
|
||||
"pred": "مہربٲنی کٔرتھ بیٹیو تہٕ چائے کھیو"
|
||||
},
|
||||
{
|
||||
"src": "Education is the most powerful weapon.",
|
||||
"pred": "تعلیم چھ ساروی کھوتہٕ طاقتور ہتھیار"
|
||||
},
|
||||
{
|
||||
"src": "The children are playing in the garden.",
|
||||
"pred": "شرۍ چھ باغس منٛز گنٛدان"
|
||||
},
|
||||
{
|
||||
"src": "She wrote a letter to her mother.",
|
||||
"pred": "أمۍ لیوٗکھ پنٛنہ ماجہ اکھ چٹھہ"
|
||||
},
|
||||
{
|
||||
"src": "Winter in the valley is very cold.",
|
||||
"pred": "وادی منٛز چھ ونٛد واریاہ سرد آسان"
|
||||
},
|
||||
{
|
||||
"src": "I love reading books in the evening.",
|
||||
"pred": "مےٚ چھ شامس کتابہٕ پرن پسند"
|
||||
}
|
||||
],
|
||||
"demo_ks_to_en": [
|
||||
{
|
||||
"src": "یہِ چھُ کاکُد",
|
||||
"pred": "This is a cuckoo"
|
||||
},
|
||||
{
|
||||
"src": "کٔشیر چھُ اکھ خوبصورت جٲی",
|
||||
"pred": "Kashmir is a very beautiful place"
|
||||
},
|
||||
{
|
||||
"src": "بۆ چُھس گرٕہ پٹھ یوان",
|
||||
"pred": "I am coming home"
|
||||
},
|
||||
{
|
||||
"src": "سۆن وَطَن چُھ اَکھ خوبصورت مُلُک",
|
||||
"pred": "Sun Valley is a beautiful country"
|
||||
}
|
||||
],
|
||||
"comparisons": []
|
||||
}
|
||||
19
artifacts/stage1_metrics_summary.json
Normal file
19
artifacts/stage1_metrics_summary.json
Normal file
@@ -0,0 +1,19 @@
|
||||
{
|
||||
"train_steps_logged": 2010,
|
||||
"eval_points_logged": 80,
|
||||
"first_train_loss": 8.0698,
|
||||
"last_train_loss": 0.5819,
|
||||
"best_train_loss": 0.5632,
|
||||
"last_token_accuracy": 0.8547659933567047,
|
||||
"best_token_accuracy": 0.8557191073894501,
|
||||
"first_eval_loss": 1.4610004425048828,
|
||||
"best_eval_loss": 1.2010705471038818,
|
||||
"last_eval_loss": 1.2293951511383057,
|
||||
"peak_gpu_alloc_gb_from_logs": 12.88,
|
||||
"peak_vram_gb_from_summary": 12.88361472,
|
||||
"total_hours": 5.188692457411024,
|
||||
"total_steps": 20060,
|
||||
"internal_eval_bleu": 100.00000000000004,
|
||||
"internal_eval_chrf": 100.0,
|
||||
"internal_eval_samples": 200
|
||||
}
|
||||
7
artifacts/stage1_summary.json
Normal file
7
artifacts/stage1_summary.json
Normal file
@@ -0,0 +1,7 @@
|
||||
{
|
||||
"stage": 1,
|
||||
"total_hours": 5.188692457411024,
|
||||
"peak_vram_gb": 12.88361472,
|
||||
"total_steps": 20060,
|
||||
"final_loss": null
|
||||
}
|
||||
2171
artifacts/stage1_training_log.jsonl
Normal file
2171
artifacts/stage1_training_log.jsonl
Normal file
File diff suppressed because it is too large
Load Diff
Reference in New Issue
Block a user