7.8 KiB
7.8 KiB
| 1 | eval_loss | eval_binary | eval_rouge | eval_llm_as_a_judge | eval_runtime | eval_samples_per_second | eval_steps_per_second | epoch | step | loss | grad_norm | learning_rate | train_runtime | train_samples_per_second | train_steps_per_second | total_flos | train_loss | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| 2 | 0 | 1.0430654287338257 | 0.0 | 0.7331830459748829 | 0.0 | 27.2072 | 0.882 | 0.441 | 0.0 | 0 | ||||||||
| 3 | 1 | 0.04929022082018927 | 250 | 0.3684 | 2.2935080528259277 | 1.2266009852216749e-05 | ||||||||||||
| 4 | 2 | 0.09858044164037855 | 500 | 0.1488 | 2.575068712234497 | 2.458128078817734e-05 | ||||||||||||
| 5 | 3 | 0.14787066246056782 | 750 | 0.1085 | 2.218935012817383 | 3.6896551724137934e-05 | ||||||||||||
| 6 | 4 | 0.1971608832807571 | 1000 | 0.0951 | 1.3239541053771973 | 4.9211822660098524e-05 | ||||||||||||
| 7 | 5 | 0.24645110410094637 | 1250 | 0.0874 | 1.6102173328399658 | 4.939293311887096e-05 | ||||||||||||
| 8 | 6 | 0.29574132492113564 | 1500 | 0.0767 | 0.7495298385620117 | 4.874435739116899e-05 | ||||||||||||
| 9 | 7 | 0.34503154574132494 | 1750 | 0.0666 | 0.6342540383338928 | 4.8095781663467026e-05 | ||||||||||||
| 10 | 8 | 0.3943217665615142 | 2000 | 0.0673 | 0.5791177153587341 | 4.744720593576506e-05 | ||||||||||||
| 11 | 9 | 0.4436119873817035 | 2250 | 0.0615 | 0.594062328338623 | 4.679863020806309e-05 | ||||||||||||
| 12 | 10 | 0.49290220820189273 | 2500 | 0.0614 | 0.8758848905563354 | 4.6150054480361124e-05 | ||||||||||||
| 13 | 11 | 0.542192429022082 | 2750 | 0.0598 | 0.7535735368728638 | 4.550147875265916e-05 | ||||||||||||
| 14 | 12 | 0.5914826498422713 | 3000 | 0.0567 | 0.4846973121166229 | 4.4852903024957196e-05 | ||||||||||||
| 15 | 13 | 0.6407728706624606 | 3250 | 0.0554 | 0.605974018573761 | 4.420432729725523e-05 | ||||||||||||
| 16 | 14 | 0.6900630914826499 | 3500 | 0.0578 | 0.7289744019508362 | 4.355575156955327e-05 | ||||||||||||
| 17 | 15 | 0.7393533123028391 | 3750 | 0.0589 | 0.2903580069541931 | 4.29071758418513e-05 | ||||||||||||
| 18 | 16 | 0.7886435331230284 | 4000 | 0.0543 | 0.6766389608383179 | 4.2258600114149334e-05 | ||||||||||||
| 19 | 17 | 0.8379337539432177 | 4250 | 0.054 | 0.6083502769470215 | 4.1610024386447366e-05 | ||||||||||||
| 20 | 18 | 0.887223974763407 | 4500 | 0.054 | 0.4829879105091095 | 4.09614486587454e-05 | ||||||||||||
| 21 | 19 | 0.9365141955835962 | 4750 | 0.0512 | 0.49725648760795593 | 4.031287293104343e-05 | ||||||||||||
| 22 | 20 | 0.9858044164037855 | 5000 | 0.0517 | 0.36867058277130127 | 3.9664297203341464e-05 | ||||||||||||
| 23 | 21 | 0.12997011840343475 | 0.125 | 0.9386326588532996 | 0.25 | 39.8054 | 0.603 | 0.301 | 1.0 | 5072 | ||||||||
| 24 | 22 | 1.0350946372239747 | 5250 | 0.0502 | 0.42736464738845825 | 3.90157214756395e-05 | ||||||||||||
| 25 | 23 | 1.084384858044164 | 5500 | 0.0472 | 0.6313160061836243 | 3.836714574793753e-05 | ||||||||||||
| 26 | 24 | 1.1336750788643533 | 5750 | 0.0489 | 0.41575783491134644 | 3.771857002023557e-05 | ||||||||||||
| 27 | 25 | 1.1829652996845426 | 6000 | 0.0479 | 0.7196144461631775 | 3.70699942925336e-05 | ||||||||||||
| 28 | 26 | 1.2322555205047319 | 6250 | 0.0487 | 0.6047205328941345 | 3.6421418564831635e-05 | ||||||||||||
| 29 | 27 | 1.2815457413249212 | 6500 | 0.0443 | 0.5429460406303406 | 3.577284283712967e-05 | ||||||||||||
| 30 | 28 | 1.3308359621451105 | 6750 | 0.0493 | 0.434219628572464 | 3.51242671094277e-05 | ||||||||||||
| 31 | 29 | 1.3801261829652998 | 7000 | 0.0464 | 0.35918736457824707 | 3.447569138172573e-05 | ||||||||||||
| 32 | 30 | 1.4294164037854888 | 7250 | 0.0473 | 0.5194702744483948 | 3.3827115654023766e-05 | ||||||||||||
| 33 | 31 | 1.4787066246056781 | 7500 | 0.0494 | 0.734404444694519 | 3.31785399263218e-05 | ||||||||||||
| 34 | 32 | 1.5279968454258674 | 7750 | 0.0436 | 0.3676634430885315 | 3.252996419861983e-05 | ||||||||||||
| 35 | 33 | 1.5772870662460567 | 8000 | 0.0462 | 0.47532960772514343 | 3.1881388470917864e-05 | ||||||||||||
| 36 | 34 | 1.626577287066246 | 8250 | 0.0439 | 0.3276772201061249 | 3.12328127432159e-05 | ||||||||||||
| 37 | 35 | 1.6758675078864353 | 8500 | 0.0485 | 0.6114853620529175 | 3.0584237015513936e-05 | ||||||||||||
| 38 | 36 | 1.7251577287066246 | 8750 | 0.04 | 0.5024742484092712 | 2.993566128781197e-05 | ||||||||||||
| 39 | 37 | 1.774447949526814 | 9000 | 0.0454 | 0.35173356533050537 | 2.928708556011e-05 | ||||||||||||
| 40 | 38 | 1.8237381703470033 | 9250 | 0.0424 | 0.3135569989681244 | 2.8638509832408034e-05 | ||||||||||||
| 41 | 39 | 1.8730283911671926 | 9500 | 0.0457 | 0.4435234069824219 | 2.7989934104706067e-05 | ||||||||||||
| 42 | 40 | 1.9223186119873819 | 9750 | 0.0421 | 0.2805112600326538 | 2.73413583770041e-05 | ||||||||||||
| 43 | 41 | 1.971608832807571 | 10000 | 0.042 | 0.31933027505874634 | 2.6692782649302132e-05 | ||||||||||||
| 44 | 42 | 0.11887094378471375 | 0.16666666666666666 | 0.9442012430019484 | 0.20833333333333334 | 36.7044 | 0.654 | 0.327 | 2.0 | 10144 | ||||||||
| 45 | 43 | 2.0208990536277605 | 10250 | 0.0417 | 0.36422356963157654 | 2.6044206921600168e-05 | ||||||||||||
| 46 | 44 | 2.0701892744479493 | 10500 | 0.0406 | 0.12942010164260864 | 2.53956311938982e-05 | ||||||||||||
| 47 | 45 | 2.1194794952681386 | 10750 | 0.0393 | 0.37849336862564087 | 2.4747055466196234e-05 | ||||||||||||
| 48 | 46 | 2.168769716088328 | 11000 | 0.0387 | 0.414660781621933 | 2.4098479738494266e-05 | ||||||||||||
| 49 | 47 | 2.218059936908517 | 11250 | 0.0392 | 0.8603994846343994 | 2.34499040107923e-05 | ||||||||||||
| 50 | 48 | 2.2673501577287065 | 11500 | 0.0398 | 0.4274377226829529 | 2.2801328283090335e-05 | ||||||||||||
| 51 | 49 | 2.316640378548896 | 11750 | 0.0396 | 0.3474481403827667 | 2.2152752555388368e-05 | ||||||||||||
| 52 | 50 | 2.365930599369085 | 12000 | 0.0387 | 0.4806622266769409 | 2.15041768276864e-05 | ||||||||||||
| 53 | 51 | 2.4152208201892744 | 12250 | 0.038 | 0.42884835600852966 | 2.0855601099984433e-05 | ||||||||||||
| 54 | 52 | 2.4645110410094637 | 12500 | 0.0376 | 0.3058715760707855 | 2.0207025372282466e-05 | ||||||||||||
| 55 | 53 | 2.513801261829653 | 12750 | 0.0363 | 0.41386693716049194 | 1.9558449644580502e-05 | ||||||||||||
| 56 | 54 | 2.5630914826498423 | 13000 | 0.0396 | 0.3111126124858856 | 1.8909873916878535e-05 | ||||||||||||
| 57 | 55 | 2.6123817034700316 | 13250 | 0.0387 | 0.4284965693950653 | 1.8261298189176567e-05 | ||||||||||||
| 58 | 56 | 2.661671924290221 | 13500 | 0.0419 | 0.5107205510139465 | 1.7612722461474604e-05 | ||||||||||||
| 59 | 57 | 2.7109621451104102 | 13750 | 0.0367 | 0.23135702311992645 | 1.6964146733772636e-05 | ||||||||||||
| 60 | 58 | 2.7602523659305995 | 14000 | 0.0419 | 0.5340784192085266 | 1.631557100607067e-05 | ||||||||||||
| 61 | 59 | 2.809542586750789 | 14250 | 0.0381 | 0.5173833966255188 | 1.5666995278368705e-05 | ||||||||||||
| 62 | 60 | 2.8588328075709777 | 14500 | 0.0373 | 0.5786962509155273 | 1.5018419550666738e-05 | ||||||||||||
| 63 | 61 | 2.9081230283911674 | 14750 | 0.0388 | 0.500789999961853 | 1.436984382296477e-05 | ||||||||||||
| 64 | 62 | 2.9574132492113563 | 15000 | 0.0385 | 0.41375860571861267 | 1.3721268095262805e-05 | ||||||||||||
| 65 | 63 | 0.11580777168273926 | 0.2916666666666667 | 0.9513811085260991 | 0.3333333333333333 | 34.3655 | 0.698 | 0.349 | 3.0 | 15216 | ||||||||
| 66 | 64 | 3.0067034700315456 | 15250 | 0.0364 | 0.556251585483551 | 1.3072692367560838e-05 | ||||||||||||
| 67 | 65 | 3.055993690851735 | 15500 | 0.0338 | 0.29108449816703796 | 1.242411663985887e-05 | ||||||||||||
| 68 | 66 | 3.105283911671924 | 15750 | 0.0318 | 0.7872910499572754 | 1.1775540912156905e-05 | ||||||||||||
| 69 | 67 | 3.1545741324921135 | 16000 | 0.0338 | 0.4458884000778198 | 1.1126965184454937e-05 | ||||||||||||
| 70 | 68 | 3.203864353312303 | 16250 | 0.034 | 0.44207602739334106 | 1.0478389456752972e-05 | ||||||||||||
| 71 | 69 | 3.253154574132492 | 16500 | 0.0329 | 0.2676728069782257 | 9.829813729051005e-06 | ||||||||||||
| 72 | 70 | 3.3024447949526814 | 16750 | 0.0371 | 0.4853881895542145 | 9.181238001349037e-06 | ||||||||||||
| 73 | 71 | 3.3517350157728707 | 17000 | 0.0328 | 0.3404028117656708 | 8.532662273647072e-06 | ||||||||||||
| 74 | 72 | 3.40102523659306 | 17250 | 0.033 | 0.49972885847091675 | 7.884086545945104e-06 | ||||||||||||
| 75 | 73 | 3.4503154574132493 | 17500 | 0.0337 | 0.2257528454065323 | 7.235510818243138e-06 | ||||||||||||
| 76 | 74 | 3.4996056782334386 | 17750 | 0.0332 | 0.23458635807037354 | 6.5869350905411715e-06 | ||||||||||||
| 77 | 75 | 3.548895899053628 | 18000 | 0.0337 | 0.37136533856391907 | 5.938359362839206e-06 | ||||||||||||
| 78 | 76 | 3.5981861198738168 | 18250 | 0.032 | 0.5111656785011292 | 5.289783635137239e-06 | ||||||||||||
| 79 | 77 | 3.6474763406940065 | 18500 | 0.0324 | 0.7525674104690552 | 4.641207907435272e-06 | ||||||||||||
| 80 | 78 | 3.6967665615141954 | 18750 | 0.0312 | 0.8564553260803223 | 3.992632179733306e-06 | ||||||||||||
| 81 | 79 | 3.746056782334385 | 19000 | 0.0339 | 0.4249573051929474 | 3.344056452031339e-06 | ||||||||||||
| 82 | 80 | 3.795347003154574 | 19250 | 0.0343 | 0.43770530819892883 | 2.695480724329373e-06 | ||||||||||||
| 83 | 81 | 3.8446372239747633 | 19500 | 0.0317 | 0.2595922648906708 | 2.0469049966274064e-06 | ||||||||||||
| 84 | 82 | 3.8939274447949526 | 19750 | 0.033 | 0.6287868022918701 | 1.39832926892544e-06 | ||||||||||||
| 85 | 83 | 3.943217665615142 | 20000 | 0.0351 | 0.19430790841579437 | 7.497535412234734e-07 | ||||||||||||
| 86 | 84 | 3.992507886435331 | 20250 | 0.0329 | 0.41964784264564514 | 1.0117781352150678e-07 | ||||||||||||
| 87 | 85 | 0.11754986643791199 | 0.2916666666666667 | 0.9511809083258989 | 0.30434782608695654 | 33.9442 | 0.707 | 0.354 | 4.0 | 20288 | ||||||||
| 88 | 86 | 4.0 | 20288 | 3126.2875 | 12.978 | 6.489 | 2.855081305248768e+17 | 0.05055785858386699 |