KKHYA/qwen3-1.7b-fft-math
1
0
Fork 0
Code Issues Pull Requests Actions Projects Releases Wiki Activity

初始化项目，由ModelHub XC社区提供模型

Browse Source 
Model: KKHYA/qwen3-1.7b-fft-math
Source: Original Platform
This commit is contained in:
ModelHub XC
2026-06-16 05:05:17 +08:00
commit 634c2e8d57
15 changed files with 3954 additions and 0 deletions
Download Patch File Download Diff File Expand all files Collapse all files

694
trainer_state.json Normal file
View File

@@ -0,0 +1,694 @@
{
"best_global_step": null,
"best_metric": null,
"best_model_checkpoint": null,
"epoch": 2.0,
"eval_steps": 500,
"global_step": 938,
"is_hyper_param_search": false,
"is_local_process_zero": true,
"is_world_process_zero": true,
"log_history": [
{
"epoch": 0.021333333333333333,
"grad_norm": 11.143438339233398,
"learning_rate": 9.574468085106384e-07,
"loss": 0.6841894149780273,
"step": 10
},
{
"epoch": 0.042666666666666665,
"grad_norm": 4.5582380294799805,
"learning_rate": 2.021276595744681e-06,
"loss": 0.6096980094909668,
"step": 20
},
{
"epoch": 0.064,
"grad_norm": 1.4977697134017944,
"learning_rate": 3.0851063829787237e-06,
"loss": 0.46523351669311525,
"step": 30
},
{
"epoch": 0.08533333333333333,
"grad_norm": 0.7574602961540222,
"learning_rate": 4.148936170212766e-06,
"loss": 0.38690838813781736,
"step": 40
},
{
"epoch": 0.10666666666666667,
"grad_norm": 0.6511842012405396,
"learning_rate": 5.212765957446809e-06,
"loss": 0.3463115692138672,
"step": 50
},
{
"epoch": 0.128,
"grad_norm": 0.5265598297119141,
"learning_rate": 6.276595744680851e-06,
"loss": 0.3305189609527588,
"step": 60
},
{
"epoch": 0.14933333333333335,
"grad_norm": 0.5384871363639832,
"learning_rate": 7.340425531914894e-06,
"loss": 0.33223772048950195,
"step": 70
},
{
"epoch": 0.17066666666666666,
"grad_norm": 0.5109423995018005,
"learning_rate": 8.404255319148937e-06,
"loss": 0.31659588813781736,
"step": 80
},
{
"epoch": 0.192,
"grad_norm": 0.47720399498939514,
"learning_rate": 9.46808510638298e-06,
"loss": 0.31022181510925295,
"step": 90
},
{
"epoch": 0.21333333333333335,
"grad_norm": 0.49756094813346863,
"learning_rate": 9.999134070902206e-06,
"loss": 0.3155974388122559,
"step": 100
},
{
"epoch": 0.23466666666666666,
"grad_norm": 0.4745752215385437,
"learning_rate": 9.992208437615651e-06,
"loss": 0.31209163665771483,
"step": 110
},
{
"epoch": 0.256,
"grad_norm": 0.4676297903060913,
"learning_rate": 9.97836676558346e-06,
"loss": 0.30946059226989747,
"step": 120
},
{
"epoch": 0.2773333333333333,
"grad_norm": 0.4762783944606781,
"learning_rate": 9.957628230595527e-06,
"loss": 0.3128779888153076,
"step": 130
},
{
"epoch": 0.2986666666666667,
"grad_norm": 0.4929763078689575,
"learning_rate": 9.930021563125204e-06,
"loss": 0.3062174320220947,
"step": 140
},
{
"epoch": 0.32,
"grad_norm": 0.4954136312007904,
"learning_rate": 9.895585008527075e-06,
"loss": 0.30686254501342775,
"step": 150
},
{
"epoch": 0.3413333333333333,
"grad_norm": 0.48502442240715027,
"learning_rate": 9.854366274053125e-06,
"loss": 0.3146007299423218,
"step": 160
},
{
"epoch": 0.3626666666666667,
"grad_norm": 0.4601064622402191,
"learning_rate": 9.806422462760687e-06,
"loss": 0.30956292152404785,
"step": 170
},
{
"epoch": 0.384,
"grad_norm": 0.4399697780609131,
"learning_rate": 9.751819994403802e-06,
"loss": 0.30700514316558836,
"step": 180
},
{
"epoch": 0.4053333333333333,
"grad_norm": 0.5086579322814941,
"learning_rate": 9.690634513417487e-06,
"loss": 0.31289896965026853,
"step": 190
},
{
"epoch": 0.4266666666666667,
"grad_norm": 0.4878501892089844,
"learning_rate": 9.622950784122473e-06,
"loss": 0.3092350959777832,
"step": 200
},
{
"epoch": 0.448,
"grad_norm": 0.47980615496635437,
"learning_rate": 9.548862573295552e-06,
"loss": 0.3032077312469482,
"step": 210
},
{
"epoch": 0.4693333333333333,
"grad_norm": 0.4887213110923767,
"learning_rate": 9.468472520268207e-06,
"loss": 0.30856895446777344,
"step": 220
},
{
"epoch": 0.49066666666666664,
"grad_norm": 0.48731157183647156,
"learning_rate": 9.38189199473352e-06,
"loss": 0.3001561641693115,
"step": 230
},
{
"epoch": 0.512,
"grad_norm": 0.5213120579719543,
"learning_rate": 9.289240942458322e-06,
"loss": 0.2990098476409912,
"step": 240
},
{
"epoch": 0.5333333333333333,
"grad_norm": 0.46841681003570557,
"learning_rate": 9.190647719114328e-06,
"loss": 0.2924530029296875,
"step": 250
},
{
"epoch": 0.5546666666666666,
"grad_norm": 0.45176810026168823,
"learning_rate": 9.086248912458484e-06,
"loss": 0.3162691116333008,
"step": 260
},
{
"epoch": 0.576,
"grad_norm": 0.4480721056461334,
"learning_rate": 8.976189153108853e-06,
"loss": 0.30709133148193357,
"step": 270
},
{
"epoch": 0.5973333333333334,
"grad_norm": 0.4673004150390625,
"learning_rate": 8.860620914178188e-06,
"loss": 0.3032949924468994,
"step": 280
},
{
"epoch": 0.6186666666666667,
"grad_norm": 0.4601098299026489,
"learning_rate": 8.73970430004278e-06,
"loss": 0.29636149406433104,
"step": 290
},
{
"epoch": 0.64,
"grad_norm": 0.4462672173976898,
"learning_rate": 8.613606824539198e-06,
"loss": 0.3070181369781494,
"step": 300
},
{
"epoch": 0.6613333333333333,
"grad_norm": 0.48093080520629883,
"learning_rate": 8.482503178896227e-06,
"loss": 0.3074164867401123,
"step": 310
},
{
"epoch": 0.6826666666666666,
"grad_norm": 0.5080389380455017,
"learning_rate": 8.34657498972347e-06,
"loss": 0.2806987762451172,
"step": 320
},
{
"epoch": 0.704,
"grad_norm": 0.46668171882629395,
"learning_rate": 8.206010567391918e-06,
"loss": 0.28669133186340334,
"step": 330
},
{
"epoch": 0.7253333333333334,
"grad_norm": 0.4524853527545929,
"learning_rate": 8.061004645155049e-06,
"loss": 0.30783905982971194,
"step": 340
},
{
"epoch": 0.7466666666666667,
"grad_norm": 0.5166858434677124,
"learning_rate": 7.91175810937189e-06,
"loss": 0.29372529983520507,
"step": 350
},
{
"epoch": 0.768,
"grad_norm": 0.46780723333358765,
"learning_rate": 7.758477721205767e-06,
"loss": 0.2857055187225342,
"step": 360
},
{
"epoch": 0.7893333333333333,
"grad_norm": 0.47541725635528564,
"learning_rate": 7.601375830184297e-06,
"loss": 0.2911552429199219,
"step": 370
},
{
"epoch": 0.8106666666666666,
"grad_norm": 0.44671547412872314,
"learning_rate": 7.4406700800174545e-06,
"loss": 0.28858585357666017,
"step": 380
},
{
"epoch": 0.832,
"grad_norm": 0.44009825587272644,
"learning_rate": 7.276583107081243e-06,
"loss": 0.2948747158050537,
"step": 390
},
{
"epoch": 0.8533333333333334,
"grad_norm": 0.4630362093448639,
"learning_rate": 7.109342231984698e-06,
"loss": 0.28877460956573486,
"step": 400
},
{
"epoch": 0.8746666666666667,
"grad_norm": 0.506441593170166,
"learning_rate": 6.939179144647516e-06,
"loss": 0.3021462202072144,
"step": 410
},
{
"epoch": 0.896,
"grad_norm": 0.4811643660068512,
"learning_rate": 6.766329583324582e-06,
"loss": 0.2928939342498779,
"step": 420
},
{
"epoch": 0.9173333333333333,
"grad_norm": 0.4531882107257843,
"learning_rate": 6.591033008022067e-06,
"loss": 0.28879172801971437,
"step": 430
},
{
"epoch": 0.9386666666666666,
"grad_norm": 0.4446716904640198,
"learning_rate": 6.413532268757537e-06,
"loss": 0.2961143493652344,
"step": 440
},
{
"epoch": 0.96,
"grad_norm": 0.41976165771484375,
"learning_rate": 6.234073269123654e-06,
"loss": 0.2954572200775146,
"step": 450
},
{
"epoch": 0.9813333333333333,
"grad_norm": 0.4504052698612213,
"learning_rate": 6.052904625621556e-06,
"loss": 0.2948294162750244,
"step": 460
},
{
"epoch": 1.0021333333333333,
"grad_norm": 0.5018347501754761,
"learning_rate": 5.870277323235871e-06,
"loss": 0.2971747875213623,
"step": 470
},
{
"epoch": 1.0234666666666667,
"grad_norm": 0.48416292667388916,
"learning_rate": 5.686444367728494e-06,
"loss": 0.26477513313293455,
"step": 480
},
{
"epoch": 1.0448,
"grad_norm": 0.4401777386665344,
"learning_rate": 5.501660435132871e-06,
"loss": 0.2709561824798584,
"step": 490
},
{
"epoch": 1.0661333333333334,
"grad_norm": 0.4749163091182709,
"learning_rate": 5.316181518934319e-06,
"loss": 0.27056255340576174,
"step": 500
},
{
"epoch": 1.0874666666666666,
"grad_norm": 0.4591522216796875,
"learning_rate": 5.130264575425225e-06,
"loss": 0.27835679054260254,
"step": 510
},
{
"epoch": 1.1088,
"grad_norm": 0.4608944356441498,
"learning_rate": 4.944167167726367e-06,
"loss": 0.26178646087646484,
"step": 520
},
{
"epoch": 1.1301333333333332,
"grad_norm": 0.48433825373649597,
"learning_rate": 4.758147108967585e-06,
"loss": 0.2711505889892578,
"step": 530
},
{
"epoch": 1.1514666666666666,
"grad_norm": 0.5324186682701111,
"learning_rate": 4.572462105122078e-06,
"loss": 0.262709903717041,
"step": 540
},
{
"epoch": 1.1728,
"grad_norm": 0.4596474766731262,
"learning_rate": 4.3873693979891705e-06,
"loss": 0.2738328218460083,
"step": 550
},
{
"epoch": 1.1941333333333333,
"grad_norm": 0.48839670419692993,
"learning_rate": 4.203125408820106e-06,
"loss": 0.26540517807006836,
"step": 560
},
{
"epoch": 1.2154666666666667,
"grad_norm": 0.4470955729484558,
"learning_rate": 4.019985383080632e-06,
"loss": 0.26726350784301756,
"step": 570
},
{
"epoch": 1.2368000000000001,
"grad_norm": 0.44690802693367004,
"learning_rate": 3.838203036842446e-06,
"loss": 0.2629551887512207,
"step": 580
},
{
"epoch": 1.2581333333333333,
"grad_norm": 0.4668348431587219,
"learning_rate": 3.65803020529343e-06,
"loss": 0.2717682600021362,
"step": 590
},
{
"epoch": 1.2794666666666665,
"grad_norm": 0.440378338098526,
"learning_rate": 3.4797164938536113e-06,
"loss": 0.2709221601486206,
"step": 600
},
{
"epoch": 1.3008,
"grad_norm": 0.508844792842865,
"learning_rate": 3.3035089323801323e-06,
"loss": 0.26828670501708984,
"step": 610
},
{
"epoch": 1.3221333333333334,
"grad_norm": 0.49634313583374023,
"learning_rate": 3.1296516329403626e-06,
"loss": 0.27147223949432375,
"step": 620
},
{
"epoch": 1.3434666666666666,
"grad_norm": 0.4920685887336731,
"learning_rate": 2.9583854516271815e-06,
"loss": 0.272589111328125,
"step": 630
},
{
"epoch": 1.3648,
"grad_norm": 0.4857788681983948,
"learning_rate": 2.7899476548850046e-06,
"loss": 0.2664657115936279,
"step": 640
},
{
"epoch": 1.3861333333333334,
"grad_norm": 0.45807984471321106,
"learning_rate": 2.624571590808781e-06,
"loss": 0.2647489786148071,
"step": 650
},
{
"epoch": 1.4074666666666666,
"grad_norm": 0.4540899097919464,
"learning_rate": 2.4624863658713383e-06,
"loss": 0.2691283941268921,
"step": 660
},
{
"epoch": 1.4288,
"grad_norm": 0.5011265873908997,
"learning_rate": 2.3039165275269214e-06,
"loss": 0.2635840892791748,
"step": 670
},
{
"epoch": 1.4501333333333333,
"grad_norm": 0.441933810710907,
"learning_rate": 2.1490817531306778e-06,
"loss": 0.2607363224029541,
"step": 680
},
{
"epoch": 1.4714666666666667,
"grad_norm": 0.44827017188072205,
"learning_rate": 1.99819654560496e-06,
"loss": 0.27231812477111816,
"step": 690
},
{
"epoch": 1.4928,
"grad_norm": 0.4514150619506836,
"learning_rate": 1.851469936274174e-06,
"loss": 0.2777836561203003,
"step": 700
},
{
"epoch": 1.5141333333333333,
"grad_norm": 0.47360625863075256,
"learning_rate": 1.7091051952797404e-06,
"loss": 0.2632488965988159,
"step": 710
},
{
"epoch": 1.5354666666666668,
"grad_norm": 0.4452371895313263,
"learning_rate": 1.571299549976456e-06,
"loss": 0.2699136257171631,
"step": 720
},
{
"epoch": 1.5568,
"grad_norm": 0.45347362756729126,
"learning_rate": 1.4382439117002938e-06,
"loss": 0.25556948184967043,
"step": 730
},
{
"epoch": 1.5781333333333334,
"grad_norm": 0.45227858424186707,
"learning_rate": 1.3101226112862232e-06,
"loss": 0.26279048919677733,
"step": 740
},
{
"epoch": 1.5994666666666668,
"grad_norm": 0.4334966838359833,
"learning_rate": 1.1871131437024291e-06,
"loss": 0.2726590633392334,
"step": 750
},
{
"epoch": 1.6208,
"grad_norm": 0.4579485058784485,
"learning_rate": 1.0693859221547115e-06,
"loss": 0.2752861499786377,
"step": 760
},
{
"epoch": 1.6421333333333332,
"grad_norm": 0.48792654275894165,
"learning_rate": 9.571040420017324e-07,
"loss": 0.2579826354980469,
"step": 770
},
{
"epoch": 1.6634666666666666,
"grad_norm": 0.4276820421218872,
"learning_rate": 8.504230548081499e-07,
"loss": 0.26852080821990965,
"step": 780
},
{
"epoch": 1.6848,
"grad_norm": 0.4804341793060303,
"learning_rate": 7.4949075284868e-07,
"loss": 0.26603677272796633,
"step": 790
},
{
"epoch": 1.7061333333333333,
"grad_norm": 0.4831051230430603,
"learning_rate": 6.544469643616192e-07,
"loss": 0.25719456672668456,
"step": 800
},
{
"epoch": 1.7274666666666667,
"grad_norm": 0.508553683757782,
"learning_rate": 5.654233598354752e-07,
"loss": 0.2663470506668091,
"step": 810
},
{
"epoch": 1.7488000000000001,
"grad_norm": 0.4779980480670929,
"learning_rate": 4.825432695970673e-07,
"loss": 0.26163082122802733,
"step": 820
},
{
"epoch": 1.7701333333333333,
"grad_norm": 0.41447553038597107,
"learning_rate": 4.0592151295382464e-07,
"loss": 0.26932682991027834,
"step": 830
},
{
"epoch": 1.7914666666666665,
"grad_norm": 0.43118005990982056,
"learning_rate": 3.356642391269405e-07,
"loss": 0.27272663116455076,
"step": 840
},
{
"epoch": 1.8128,
"grad_norm": 0.4650283753871918,
"learning_rate": 2.7186878019580197e-07,
"loss": 0.2759810447692871,
"step": 850
},
{
"epoch": 1.8341333333333334,
"grad_norm": 0.45311886072158813,
"learning_rate": 2.1462351625736677e-07,
"loss": 0.2736822128295898,
"step": 860
},
{
"epoch": 1.8554666666666666,
"grad_norm": 0.43716010451316833,
"learning_rate": 1.6400775298734017e-07,
"loss": 0.2506378173828125,
"step": 870
},
{
"epoch": 1.8768,
"grad_norm": 0.46398675441741943,
"learning_rate": 1.2009161177273742e-07,
"loss": 0.2735074520111084,
"step": 880
},
{
"epoch": 1.8981333333333335,
"grad_norm": 0.4555061161518097,
"learning_rate": 8.293593256805842e-08,
"loss": 0.26666769981384275,
"step": 890
},
{
"epoch": 1.9194666666666667,
"grad_norm": 0.4673771560192108,
"learning_rate": 5.259218960964874e-08,
"loss": 0.2759205102920532,
"step": 900
},
{
"epoch": 1.9407999999999999,
"grad_norm": 0.46401599049568176,
"learning_rate": 2.9102420105009966e-08,
"loss": 0.27174739837646483,
"step": 910
},
{
"epoch": 1.9621333333333333,
"grad_norm": 0.45422956347465515,
"learning_rate": 1.249916599585954e-08,
"loss": 0.26730976104736326,
"step": 920
},
{
"epoch": 1.9834666666666667,
"grad_norm": 0.4789884686470032,
"learning_rate": 2.80542887561297e-09,
"loss": 0.2772205352783203,
"step": 930
},
{
"epoch": 2.0,
"step": 938,
"total_flos": 1.2200945171646382e+18,
"train_loss": 0.2963919332032519,
"train_runtime": 3915.3376,
"train_samples_per_second": 30.649,
"train_steps_per_second": 0.24
}
],
"logging_steps": 10,
"max_steps": 938,
"num_input_tokens_seen": 0,
"num_train_epochs": 2,
"save_steps": 500,
"stateful_callbacks": {
"TrainerControl": {
"args": {
"should_epoch_stop": false,
"should_evaluate": false,
"should_log": false,
"should_save": true,
"should_training_stop": true
},
"attributes": {}
}
},
"total_flos": 1.2200945171646382e+18,
"train_batch_size": 2,
"trial_name": null,
"trial_params": null
}