{
  "best_global_step": null,
  "best_metric": null,
  "best_model_checkpoint": null,
  "epoch": 2.0,
  "eval_steps": 500,
  "global_step": 938,
  "is_hyper_param_search": false,
  "is_local_process_zero": true,
  "is_world_process_zero": true,
  "log_history": [
    {
      "epoch": 0.021333333333333333,
      "grad_norm": 11.143438339233398,
      "learning_rate": 9.574468085106384e-07,
      "loss": 0.6841894149780273,
      "step": 10
    },
    {
      "epoch": 0.042666666666666665,
      "grad_norm": 4.5582380294799805,
      "learning_rate": 2.021276595744681e-06,
      "loss": 0.6096980094909668,
      "step": 20
    },
    {
      "epoch": 0.064,
      "grad_norm": 1.4977697134017944,
      "learning_rate": 3.0851063829787237e-06,
      "loss": 0.46523351669311525,
      "step": 30
    },
    {
      "epoch": 0.08533333333333333,
      "grad_norm": 0.7574602961540222,
      "learning_rate": 4.148936170212766e-06,
      "loss": 0.38690838813781736,
      "step": 40
    },
    {
      "epoch": 0.10666666666666667,
      "grad_norm": 0.6511842012405396,
      "learning_rate": 5.212765957446809e-06,
      "loss": 0.3463115692138672,
      "step": 50
    },
    {
      "epoch": 0.128,
      "grad_norm": 0.5265598297119141,
      "learning_rate": 6.276595744680851e-06,
      "loss": 0.3305189609527588,
      "step": 60
    },
    {
      "epoch": 0.14933333333333335,
      "grad_norm": 0.5384871363639832,
      "learning_rate": 7.340425531914894e-06,
      "loss": 0.33223772048950195,
      "step": 70
    },
    {
      "epoch": 0.17066666666666666,
      "grad_norm": 0.5109423995018005,
      "learning_rate": 8.404255319148937e-06,
      "loss": 0.31659588813781736,
      "step": 80
    },
    {
      "epoch": 0.192,
      "grad_norm": 0.47720399498939514,
      "learning_rate": 9.46808510638298e-06,
      "loss": 0.31022181510925295,
      "step": 90
    },
    {
      "epoch": 0.21333333333333335,
      "grad_norm": 0.49756094813346863,
      "learning_rate": 9.999134070902206e-06,
      "loss": 0.3155974388122559,
      "step": 100
    },
    {
      "epoch": 0.23466666666666666,
      "grad_norm": 0.4745752215385437,
      "learning_rate": 9.992208437615651e-06,
      "loss": 0.31209163665771483,
      "step": 110
    },
    {
      "epoch": 0.256,
      "grad_norm": 0.4676297903060913,
      "learning_rate": 9.97836676558346e-06,
      "loss": 0.30946059226989747,
      "step": 120
    },
    {
      "epoch": 0.2773333333333333,
      "grad_norm": 0.4762783944606781,
      "learning_rate": 9.957628230595527e-06,
      "loss": 0.3128779888153076,
      "step": 130
    },
    {
      "epoch": 0.2986666666666667,
      "grad_norm": 0.4929763078689575,
      "learning_rate": 9.930021563125204e-06,
      "loss": 0.3062174320220947,
      "step": 140
    },
    {
      "epoch": 0.32,
      "grad_norm": 0.4954136312007904,
      "learning_rate": 9.895585008527075e-06,
      "loss": 0.30686254501342775,
      "step": 150
    },
    {
      "epoch": 0.3413333333333333,
      "grad_norm": 0.48502442240715027,
      "learning_rate": 9.854366274053125e-06,
      "loss": 0.3146007299423218,
      "step": 160
    },
    {
      "epoch": 0.3626666666666667,
      "grad_norm": 0.4601064622402191,
      "learning_rate": 9.806422462760687e-06,
      "loss": 0.30956292152404785,
      "step": 170
    },
    {
      "epoch": 0.384,
      "grad_norm": 0.4399697780609131,
      "learning_rate": 9.751819994403802e-06,
      "loss": 0.30700514316558836,
      "step": 180
    },
    {
      "epoch": 0.4053333333333333,
      "grad_norm": 0.5086579322814941,
      "learning_rate": 9.690634513417487e-06,
      "loss": 0.31289896965026853,
      "step": 190
    },
    {
      "epoch": 0.4266666666666667,
      "grad_norm": 0.4878501892089844,
      "learning_rate": 9.622950784122473e-06,
      "loss": 0.3092350959777832,
      "step": 200
    },
    {
      "epoch": 0.448,
      "grad_norm": 0.47980615496635437,
      "learning_rate": 9.548862573295552e-06,
      "loss": 0.3032077312469482,
      "step": 210
    },
    {
      "epoch": 0.4693333333333333,
      "grad_norm": 0.4887213110923767,
      "learning_rate": 9.468472520268207e-06,
      "loss": 0.30856895446777344,
      "step": 220
    },
    {
      "epoch": 0.49066666666666664,
      "grad_norm": 0.48731157183647156,
      "learning_rate": 9.38189199473352e-06,
      "loss": 0.3001561641693115,
      "step": 230
    },
    {
      "epoch": 0.512,
      "grad_norm": 0.5213120579719543,
      "learning_rate": 9.289240942458322e-06,
      "loss": 0.2990098476409912,
      "step": 240
    },
    {
      "epoch": 0.5333333333333333,
      "grad_norm": 0.46841681003570557,
      "learning_rate": 9.190647719114328e-06,
      "loss": 0.2924530029296875,
      "step": 250
    },
    {
      "epoch": 0.5546666666666666,
      "grad_norm": 0.45176810026168823,
      "learning_rate": 9.086248912458484e-06,
      "loss": 0.3162691116333008,
      "step": 260
    },
    {
      "epoch": 0.576,
      "grad_norm": 0.4480721056461334,
      "learning_rate": 8.976189153108853e-06,
      "loss": 0.30709133148193357,
      "step": 270
    },
    {
      "epoch": 0.5973333333333334,
      "grad_norm": 0.4673004150390625,
      "learning_rate": 8.860620914178188e-06,
      "loss": 0.3032949924468994,
      "step": 280
    },
    {
      "epoch": 0.6186666666666667,
      "grad_norm": 0.4601098299026489,
      "learning_rate": 8.73970430004278e-06,
      "loss": 0.29636149406433104,
      "step": 290
    },
    {
      "epoch": 0.64,
      "grad_norm": 0.4462672173976898,
      "learning_rate": 8.613606824539198e-06,
      "loss": 0.3070181369781494,
      "step": 300
    },
    {
      "epoch": 0.6613333333333333,
      "grad_norm": 0.48093080520629883,
      "learning_rate": 8.482503178896227e-06,
      "loss": 0.3074164867401123,
      "step": 310
    },
    {
      "epoch": 0.6826666666666666,
      "grad_norm": 0.5080389380455017,
      "learning_rate": 8.34657498972347e-06,
      "loss": 0.2806987762451172,
      "step": 320
    },
    {
      "epoch": 0.704,
      "grad_norm": 0.46668171882629395,
      "learning_rate": 8.206010567391918e-06,
      "loss": 0.28669133186340334,
      "step": 330
    },
    {
      "epoch": 0.7253333333333334,
      "grad_norm": 0.4524853527545929,
      "learning_rate": 8.061004645155049e-06,
      "loss": 0.30783905982971194,
      "step": 340
    },
    {
      "epoch": 0.7466666666666667,
      "grad_norm": 0.5166858434677124,
      "learning_rate": 7.91175810937189e-06,
      "loss": 0.29372529983520507,
      "step": 350
    },
    {
      "epoch": 0.768,
      "grad_norm": 0.46780723333358765,
      "learning_rate": 7.758477721205767e-06,
      "loss": 0.2857055187225342,
      "step": 360
    },
    {
      "epoch": 0.7893333333333333,
      "grad_norm": 0.47541725635528564,
      "learning_rate": 7.601375830184297e-06,
      "loss": 0.2911552429199219,
      "step": 370
    },
    {
      "epoch": 0.8106666666666666,
      "grad_norm": 0.44671547412872314,
      "learning_rate": 7.4406700800174545e-06,
      "loss": 0.28858585357666017,
      "step": 380
    },
    {
      "epoch": 0.832,
      "grad_norm": 0.44009825587272644,
      "learning_rate": 7.276583107081243e-06,
      "loss": 0.2948747158050537,
      "step": 390
    },
    {
      "epoch": 0.8533333333333334,
      "grad_norm": 0.4630362093448639,
      "learning_rate": 7.109342231984698e-06,
      "loss": 0.28877460956573486,
      "step": 400
    },
    {
      "epoch": 0.8746666666666667,
      "grad_norm": 0.506441593170166,
      "learning_rate": 6.939179144647516e-06,
      "loss": 0.3021462202072144,
      "step": 410
    },
    {
      "epoch": 0.896,
      "grad_norm": 0.4811643660068512,
      "learning_rate": 6.766329583324582e-06,
      "loss": 0.2928939342498779,
      "step": 420
    },
    {
      "epoch": 0.9173333333333333,
      "grad_norm": 0.4531882107257843,
      "learning_rate": 6.591033008022067e-06,
      "loss": 0.28879172801971437,
      "step": 430
    },
    {
      "epoch": 0.9386666666666666,
      "grad_norm": 0.4446716904640198,
      "learning_rate": 6.413532268757537e-06,
      "loss": 0.2961143493652344,
      "step": 440
    },
    {
      "epoch": 0.96,
      "grad_norm": 0.41976165771484375,
      "learning_rate": 6.234073269123654e-06,
      "loss": 0.2954572200775146,
      "step": 450
    },
    {
      "epoch": 0.9813333333333333,
      "grad_norm": 0.4504052698612213,
      "learning_rate": 6.052904625621556e-06,
      "loss": 0.2948294162750244,
      "step": 460
    },
    {
      "epoch": 1.0021333333333333,
      "grad_norm": 0.5018347501754761,
      "learning_rate": 5.870277323235871e-06,
      "loss": 0.2971747875213623,
      "step": 470
    },
    {
      "epoch": 1.0234666666666667,
      "grad_norm": 0.48416292667388916,
      "learning_rate": 5.686444367728494e-06,
      "loss": 0.26477513313293455,
      "step": 480
    },
    {
      "epoch": 1.0448,
      "grad_norm": 0.4401777386665344,
      "learning_rate": 5.501660435132871e-06,
      "loss": 0.2709561824798584,
      "step": 490
    },
    {
      "epoch": 1.0661333333333334,
      "grad_norm": 0.4749163091182709,
      "learning_rate": 5.316181518934319e-06,
      "loss": 0.27056255340576174,
      "step": 500
    },
    {
      "epoch": 1.0874666666666666,
      "grad_norm": 0.4591522216796875,
      "learning_rate": 5.130264575425225e-06,
      "loss": 0.27835679054260254,
      "step": 510
    },
    {
      "epoch": 1.1088,
      "grad_norm": 0.4608944356441498,
      "learning_rate": 4.944167167726367e-06,
      "loss": 0.26178646087646484,
      "step": 520
    },
    {
      "epoch": 1.1301333333333332,
      "grad_norm": 0.48433825373649597,
      "learning_rate": 4.758147108967585e-06,
      "loss": 0.2711505889892578,
      "step": 530
    },
    {
      "epoch": 1.1514666666666666,
      "grad_norm": 0.5324186682701111,
      "learning_rate": 4.572462105122078e-06,
      "loss": 0.262709903717041,
      "step": 540
    },
    {
      "epoch": 1.1728,
      "grad_norm": 0.4596474766731262,
      "learning_rate": 4.3873693979891705e-06,
      "loss": 0.2738328218460083,
      "step": 550
    },
    {
      "epoch": 1.1941333333333333,
      "grad_norm": 0.48839670419692993,
      "learning_rate": 4.203125408820106e-06,
      "loss": 0.26540517807006836,
      "step": 560
    },
    {
      "epoch": 1.2154666666666667,
      "grad_norm": 0.4470955729484558,
      "learning_rate": 4.019985383080632e-06,
      "loss": 0.26726350784301756,
      "step": 570
    },
    {
      "epoch": 1.2368000000000001,
      "grad_norm": 0.44690802693367004,
      "learning_rate": 3.838203036842446e-06,
      "loss": 0.2629551887512207,
      "step": 580
    },
    {
      "epoch": 1.2581333333333333,
      "grad_norm": 0.4668348431587219,
      "learning_rate": 3.65803020529343e-06,
      "loss": 0.2717682600021362,
      "step": 590
    },
    {
      "epoch": 1.2794666666666665,
      "grad_norm": 0.440378338098526,
      "learning_rate": 3.4797164938536113e-06,
      "loss": 0.2709221601486206,
      "step": 600
    },
    {
      "epoch": 1.3008,
      "grad_norm": 0.508844792842865,
      "learning_rate": 3.3035089323801323e-06,
      "loss": 0.26828670501708984,
      "step": 610
    },
    {
      "epoch": 1.3221333333333334,
      "grad_norm": 0.49634313583374023,
      "learning_rate": 3.1296516329403626e-06,
      "loss": 0.27147223949432375,
      "step": 620
    },
    {
      "epoch": 1.3434666666666666,
      "grad_norm": 0.4920685887336731,
      "learning_rate": 2.9583854516271815e-06,
      "loss": 0.272589111328125,
      "step": 630
    },
    {
      "epoch": 1.3648,
      "grad_norm": 0.4857788681983948,
      "learning_rate": 2.7899476548850046e-06,
      "loss": 0.2664657115936279,
      "step": 640
    },
    {
      "epoch": 1.3861333333333334,
      "grad_norm": 0.45807984471321106,
      "learning_rate": 2.624571590808781e-06,
      "loss": 0.2647489786148071,
      "step": 650
    },
    {
      "epoch": 1.4074666666666666,
      "grad_norm": 0.4540899097919464,
      "learning_rate": 2.4624863658713383e-06,
      "loss": 0.2691283941268921,
      "step": 660
    },
    {
      "epoch": 1.4288,
      "grad_norm": 0.5011265873908997,
      "learning_rate": 2.3039165275269214e-06,
      "loss": 0.2635840892791748,
      "step": 670
    },
    {
      "epoch": 1.4501333333333333,
      "grad_norm": 0.441933810710907,
      "learning_rate": 2.1490817531306778e-06,
      "loss": 0.2607363224029541,
      "step": 680
    },
    {
      "epoch": 1.4714666666666667,
      "grad_norm": 0.44827017188072205,
      "learning_rate": 1.99819654560496e-06,
      "loss": 0.27231812477111816,
      "step": 690
    },
    {
      "epoch": 1.4928,
      "grad_norm": 0.4514150619506836,
      "learning_rate": 1.851469936274174e-06,
      "loss": 0.2777836561203003,
      "step": 700
    },
    {
      "epoch": 1.5141333333333333,
      "grad_norm": 0.47360625863075256,
      "learning_rate": 1.7091051952797404e-06,
      "loss": 0.2632488965988159,
      "step": 710
    },
    {
      "epoch": 1.5354666666666668,
      "grad_norm": 0.4452371895313263,
      "learning_rate": 1.571299549976456e-06,
      "loss": 0.2699136257171631,
      "step": 720
    },
    {
      "epoch": 1.5568,
      "grad_norm": 0.45347362756729126,
      "learning_rate": 1.4382439117002938e-06,
      "loss": 0.25556948184967043,
      "step": 730
    },
    {
      "epoch": 1.5781333333333334,
      "grad_norm": 0.45227858424186707,
      "learning_rate": 1.3101226112862232e-06,
      "loss": 0.26279048919677733,
      "step": 740
    },
    {
      "epoch": 1.5994666666666668,
      "grad_norm": 0.4334966838359833,
      "learning_rate": 1.1871131437024291e-06,
      "loss": 0.2726590633392334,
      "step": 750
    },
    {
      "epoch": 1.6208,
      "grad_norm": 0.4579485058784485,
      "learning_rate": 1.0693859221547115e-06,
      "loss": 0.2752861499786377,
      "step": 760
    },
    {
      "epoch": 1.6421333333333332,
      "grad_norm": 0.48792654275894165,
      "learning_rate": 9.571040420017324e-07,
      "loss": 0.2579826354980469,
      "step": 770
    },
    {
      "epoch": 1.6634666666666666,
      "grad_norm": 0.4276820421218872,
      "learning_rate": 8.504230548081499e-07,
      "loss": 0.26852080821990965,
      "step": 780
    },
    {
      "epoch": 1.6848,
      "grad_norm": 0.4804341793060303,
      "learning_rate": 7.4949075284868e-07,
      "loss": 0.26603677272796633,
      "step": 790
    },
    {
      "epoch": 1.7061333333333333,
      "grad_norm": 0.4831051230430603,
      "learning_rate": 6.544469643616192e-07,
      "loss": 0.25719456672668456,
      "step": 800
    },
    {
      "epoch": 1.7274666666666667,
      "grad_norm": 0.508553683757782,
      "learning_rate": 5.654233598354752e-07,
      "loss": 0.2663470506668091,
      "step": 810
    },
    {
      "epoch": 1.7488000000000001,
      "grad_norm": 0.4779980480670929,
      "learning_rate": 4.825432695970673e-07,
      "loss": 0.26163082122802733,
      "step": 820
    },
    {
      "epoch": 1.7701333333333333,
      "grad_norm": 0.41447553038597107,
      "learning_rate": 4.0592151295382464e-07,
      "loss": 0.26932682991027834,
      "step": 830
    },
    {
      "epoch": 1.7914666666666665,
      "grad_norm": 0.43118005990982056,
      "learning_rate": 3.356642391269405e-07,
      "loss": 0.27272663116455076,
      "step": 840
    },
    {
      "epoch": 1.8128,
      "grad_norm": 0.4650283753871918,
      "learning_rate": 2.7186878019580197e-07,
      "loss": 0.2759810447692871,
      "step": 850
    },
    {
      "epoch": 1.8341333333333334,
      "grad_norm": 0.45311886072158813,
      "learning_rate": 2.1462351625736677e-07,
      "loss": 0.2736822128295898,
      "step": 860
    },
    {
      "epoch": 1.8554666666666666,
      "grad_norm": 0.43716010451316833,
      "learning_rate": 1.6400775298734017e-07,
      "loss": 0.2506378173828125,
      "step": 870
    },
    {
      "epoch": 1.8768,
      "grad_norm": 0.46398675441741943,
      "learning_rate": 1.2009161177273742e-07,
      "loss": 0.2735074520111084,
      "step": 880
    },
    {
      "epoch": 1.8981333333333335,
      "grad_norm": 0.4555061161518097,
      "learning_rate": 8.293593256805842e-08,
      "loss": 0.26666769981384275,
      "step": 890
    },
    {
      "epoch": 1.9194666666666667,
      "grad_norm": 0.4673771560192108,
      "learning_rate": 5.259218960964874e-08,
      "loss": 0.2759205102920532,
      "step": 900
    },
    {
      "epoch": 1.9407999999999999,
      "grad_norm": 0.46401599049568176,
      "learning_rate": 2.9102420105009966e-08,
      "loss": 0.27174739837646483,
      "step": 910
    },
    {
      "epoch": 1.9621333333333333,
      "grad_norm": 0.45422956347465515,
      "learning_rate": 1.249916599585954e-08,
      "loss": 0.26730976104736326,
      "step": 920
    },
    {
      "epoch": 1.9834666666666667,
      "grad_norm": 0.4789884686470032,
      "learning_rate": 2.80542887561297e-09,
      "loss": 0.2772205352783203,
      "step": 930
    },
    {
      "epoch": 2.0,
      "step": 938,
      "total_flos": 1.2200945171646382e+18,
      "train_loss": 0.2963919332032519,
      "train_runtime": 3915.3376,
      "train_samples_per_second": 30.649,
      "train_steps_per_second": 0.24
    }
  ],
  "logging_steps": 10,
  "max_steps": 938,
  "num_input_tokens_seen": 0,
  "num_train_epochs": 2,
  "save_steps": 500,
  "stateful_callbacks": {
    "TrainerControl": {
      "args": {
        "should_epoch_stop": false,
        "should_evaluate": false,
        "should_log": false,
        "should_save": true,
        "should_training_stop": true
      },
      "attributes": {}
    }
  },
  "total_flos": 1.2200945171646382e+18,
  "train_batch_size": 2,
  "trial_name": null,
  "trial_params": null
}