Results from phase 3
This commit is contained in:
Johnny Fernandes
@@ -0,0 +1,550 @@
|
||||
{
|
||||
"run_name": "p3_3_vae_patchgan",
|
||||
"config": {
|
||||
"batch_size": 64,
|
||||
"ema_decay": 0.9999,
|
||||
"data_dir": "cropped/generator",
|
||||
"sources": [
|
||||
"wiki"
|
||||
],
|
||||
"subsample": 1.0,
|
||||
"sample_interval": 10,
|
||||
"fid_interval": 25,
|
||||
"fid_n_real": 5000,
|
||||
"num_workers": 2,
|
||||
"epochs": 100,
|
||||
"augment": "hflip",
|
||||
"image_size": 64,
|
||||
"model": "vae",
|
||||
"latent_dim": 256,
|
||||
"ngf": 64,
|
||||
"grad_clip": 1.0,
|
||||
"run_name": "p3_3_vae_patchgan",
|
||||
"lr": 0.0005,
|
||||
"lr_d": 0.0001,
|
||||
"beta_kl": 0.25,
|
||||
"lambda_perceptual": 0.1,
|
||||
"lambda_adversarial": 0.1,
|
||||
"ndf_patch": 64
|
||||
},
|
||||
"history": {
|
||||
"recon_loss": [
|
||||
0.21048237392917657,
|
||||
0.19502023699828702,
|
||||
0.18297071465187603,
|
||||
0.19129814436802497,
|
||||
0.18048820154279724,
|
||||
0.1784989392846568,
|
||||
0.17207328647247747,
|
||||
0.16280589195398185,
|
||||
0.1573610797397092,
|
||||
0.15148845356371668,
|
||||
0.1461392584710549,
|
||||
0.14490869093654501,
|
||||
0.1397501435608436,
|
||||
0.13813118205174932,
|
||||
0.13727535820032796,
|
||||
0.13501745293665135,
|
||||
0.13584097068852338,
|
||||
0.1332982173269121,
|
||||
0.13314595715039307,
|
||||
0.13236619353803813,
|
||||
0.13086195941218454,
|
||||
0.1302596262186511,
|
||||
0.1300788751970499,
|
||||
0.12819381808050168,
|
||||
0.12732886179135397,
|
||||
0.12582890380524162,
|
||||
0.12586307729411328,
|
||||
0.1243180935549685,
|
||||
0.12372656063073212,
|
||||
0.12184442987299374,
|
||||
0.12289042525693901,
|
||||
0.12280557551381426,
|
||||
0.12134526725699249,
|
||||
0.12132705526792595,
|
||||
0.1213438549102881,
|
||||
0.11976742461069018,
|
||||
0.1189075634520278,
|
||||
0.11869392601343301,
|
||||
0.11874047195554799,
|
||||
0.117522533919312,
|
||||
0.11819266148994112,
|
||||
0.11621911733005291,
|
||||
0.11483473204967813,
|
||||
0.11569778270955779,
|
||||
0.11535290541111404,
|
||||
0.11430604064948538,
|
||||
0.11513289564058311,
|
||||
0.11504829635159072,
|
||||
0.11417925926164174,
|
||||
0.11429929023242405,
|
||||
0.11237051758246544,
|
||||
0.11215632607857896,
|
||||
0.1111540690733072,
|
||||
0.11150377960159229,
|
||||
0.11108833772695473,
|
||||
0.11041813046058528,
|
||||
0.10850370189764051,
|
||||
0.10809642901150589,
|
||||
0.10692931655953583,
|
||||
0.10900155782826945,
|
||||
0.10970613979694681,
|
||||
0.10860411168482059,
|
||||
0.11032503268593906,
|
||||
0.1126491278091557,
|
||||
0.11339027415483426,
|
||||
0.11163446019029516,
|
||||
0.10916442699475676,
|
||||
0.10902748435226262,
|
||||
0.10967764777378139,
|
||||
0.1094813696307759,
|
||||
0.10688171892339347,
|
||||
0.10603785608759803,
|
||||
0.10709159695503549,
|
||||
0.10783593975899057,
|
||||
0.10689407786051942,
|
||||
0.10805186758247706,
|
||||
0.10730096759895484,
|
||||
0.10914180709574467,
|
||||
0.10965521663873114,
|
||||
0.1083346697796359,
|
||||
0.11155958567610663,
|
||||
0.11391076811740541,
|
||||
0.10912912585732774,
|
||||
0.10912497413273041,
|
||||
0.11343846010028297,
|
||||
0.11480826037561792,
|
||||
0.1116362733559476,
|
||||
0.11457416400886498,
|
||||
0.1142759728922039,
|
||||
0.12104331711545968,
|
||||
0.11806511987223585,
|
||||
0.11794181688664815,
|
||||
0.1210766851137846,
|
||||
0.11873740936892155,
|
||||
0.11463956635158795,
|
||||
0.11457132950870909,
|
||||
0.1163403105436482,
|
||||
0.1200980458758835,
|
||||
0.1253544254721994,
|
||||
0.12123021430885181
|
||||
],
|
||||
"kl_loss": [
|
||||
2.4562569958531957,
|
||||
1.003851546945735,
|
||||
0.6383791888753573,
|
||||
0.6167296634143234,
|
||||
0.47610875212738657,
|
||||
0.37824813060016715,
|
||||
0.32444628353557015,
|
||||
0.26246283337091786,
|
||||
0.24398899880739358,
|
||||
0.22430445323897225,
|
||||
0.21616006311443117,
|
||||
0.21170509348695093,
|
||||
0.20587752660752362,
|
||||
0.19568938831997734,
|
||||
0.19404012862688455,
|
||||
0.1866151445951217,
|
||||
0.184550642203062,
|
||||
0.1795366089631859,
|
||||
0.1737326546611949,
|
||||
0.169725509853954,
|
||||
0.1738417714070051,
|
||||
0.17650845061000595,
|
||||
0.1721198332742748,
|
||||
0.17369577820357093,
|
||||
0.1711989389334479,
|
||||
0.17340198920195937,
|
||||
0.17259813915205818,
|
||||
0.1764657135065804,
|
||||
0.177241051553661,
|
||||
0.1772580863828333,
|
||||
0.1777160302696065,
|
||||
0.1822892855375241,
|
||||
0.18138153513527325,
|
||||
0.17853387945100793,
|
||||
0.17685708610547912,
|
||||
0.1798670272796582,
|
||||
0.1796207419063291,
|
||||
0.18170238528241459,
|
||||
0.1821803457907632,
|
||||
0.18374669892538306,
|
||||
0.18160667891303697,
|
||||
0.18459757872753674,
|
||||
0.18100887619786793,
|
||||
0.1860812220117475,
|
||||
0.18614696930998412,
|
||||
0.18798703900896585,
|
||||
0.18705740771614587,
|
||||
0.18840715028027183,
|
||||
0.19209926944767308,
|
||||
0.18677029987940422,
|
||||
0.18930857972456858,
|
||||
0.19050368345063975,
|
||||
0.19024637169562852,
|
||||
0.19269215267820236,
|
||||
0.19042547305042928,
|
||||
0.19151107317362076,
|
||||
0.19576567758479688,
|
||||
0.19438897875639108,
|
||||
0.19776117919474587,
|
||||
0.19971292414981076,
|
||||
0.19674210756635055,
|
||||
0.19878320927675971,
|
||||
0.20493754180960166,
|
||||
0.20387869003491524,
|
||||
0.20550507892910233,
|
||||
0.20148318601597068,
|
||||
0.20633231581021577,
|
||||
0.20570937225706556,
|
||||
0.21170565037009043,
|
||||
0.2089539618892038,
|
||||
0.21066077833629063,
|
||||
0.2115025667107513,
|
||||
0.21099274430392134,
|
||||
0.21154515082255387,
|
||||
0.21153046461379427,
|
||||
0.21359701884480622,
|
||||
0.21120962917677358,
|
||||
0.2153645229135823,
|
||||
0.22168971314771563,
|
||||
0.22390575675118682,
|
||||
0.2258444666607767,
|
||||
0.2301438385541113,
|
||||
0.22804876229065096,
|
||||
0.2293865109483401,
|
||||
0.2402730770727508,
|
||||
0.23408484229674706,
|
||||
0.24096116570071277,
|
||||
0.2361867919436887,
|
||||
0.23606293390576655,
|
||||
0.2628212959274777,
|
||||
0.26044448910870105,
|
||||
0.2555364996003799,
|
||||
0.27547486995657283,
|
||||
0.2793021816601101,
|
||||
0.27457679617099273,
|
||||
0.27954825504213315,
|
||||
0.2877160691552692,
|
||||
0.29281348639573807,
|
||||
0.3061327184749465,
|
||||
0.30408311902712554
|
||||
],
|
||||
"perc_loss": [
|
||||
4.271831746284779,
|
||||
4.414898863205543,
|
||||
4.345449808316353,
|
||||
4.418299290868971,
|
||||
4.406226211123997,
|
||||
4.412156843731546,
|
||||
4.431426151185973,
|
||||
4.43332190798898,
|
||||
4.435288389523824,
|
||||
4.398323868074987,
|
||||
4.365907162682623,
|
||||
4.365325452934982,
|
||||
4.314914556650015,
|
||||
4.298382311804682,
|
||||
4.279924751346947,
|
||||
4.264667995974549,
|
||||
4.274168285039755,
|
||||
4.244420167727348,
|
||||
4.241943887156299,
|
||||
4.229488877149729,
|
||||
4.229408635033502,
|
||||
4.219965547577948,
|
||||
4.216032783699851,
|
||||
4.210510074073433,
|
||||
4.21268753363536,
|
||||
4.198639931332352,
|
||||
4.21425447657577,
|
||||
4.178874774366363,
|
||||
4.158467790000459,
|
||||
4.128817136471088,
|
||||
4.131065084893479,
|
||||
4.131518239648933,
|
||||
4.110296932041136,
|
||||
4.110551395477393,
|
||||
4.138069965900519,
|
||||
4.106568053237393,
|
||||
4.092394193013509,
|
||||
4.0880326435097265,
|
||||
4.096837147688254,
|
||||
4.084967139949146,
|
||||
4.105645643849658,
|
||||
4.064014745573712,
|
||||
4.065661613248352,
|
||||
4.084955420249548,
|
||||
4.048549413171589,
|
||||
4.058824027195955,
|
||||
4.066551101003957,
|
||||
4.067567649560097,
|
||||
4.069045652691115,
|
||||
4.050883881556682,
|
||||
4.026759957655882,
|
||||
4.030894798091334,
|
||||
4.027543693016737,
|
||||
4.016542301728175,
|
||||
4.018207814958361,
|
||||
4.01114175717036,
|
||||
4.000287359596317,
|
||||
4.002966770758996,
|
||||
3.982757446093437,
|
||||
3.9969155808799286,
|
||||
4.016212357924535,
|
||||
3.98707708894697,
|
||||
4.007491260002821,
|
||||
4.015582276205731,
|
||||
4.008296819324167,
|
||||
4.0140069549919195,
|
||||
4.001121124650678,
|
||||
3.9993364423768134,
|
||||
3.9902534535807423,
|
||||
3.986888856969328,
|
||||
3.9636723251424284,
|
||||
3.9483983154989715,
|
||||
3.954257430683853,
|
||||
3.9654157258506513,
|
||||
3.96560929218928,
|
||||
3.9747307748876066,
|
||||
3.9687393175231085,
|
||||
3.9705918981478763,
|
||||
3.9935462795771084,
|
||||
3.9677678229462385,
|
||||
4.012355051488957,
|
||||
4.0471479785748015,
|
||||
3.9649116193127427,
|
||||
3.9756286781058354,
|
||||
4.014665265878041,
|
||||
4.032942090788458,
|
||||
4.021660830730047,
|
||||
4.024021967863425,
|
||||
4.022689126495623,
|
||||
4.064319693634653,
|
||||
4.044084052754264,
|
||||
4.037493507576804,
|
||||
4.069223482894082,
|
||||
4.024905401926774,
|
||||
3.9854260851175356,
|
||||
3.9817921840227566,
|
||||
4.002969692914914,
|
||||
4.018450167953459,
|
||||
4.071174277199639,
|
||||
4.067347707911434
|
||||
],
|
||||
"adv_g_loss": [
|
||||
2.0889554358541202,
|
||||
2.431506502832103,
|
||||
2.58256017550444,
|
||||
2.7984188872779536,
|
||||
2.6471575883209195,
|
||||
2.703440791505397,
|
||||
2.5477578647784953,
|
||||
2.3742674223792095,
|
||||
2.3116572875227046,
|
||||
2.1857953431546435,
|
||||
2.242019505868865,
|
||||
2.172077705733414,
|
||||
2.058021314565538,
|
||||
2.080680656382161,
|
||||
2.1441320017234893,
|
||||
2.096459154517223,
|
||||
2.1429341703764777,
|
||||
2.144549473316178,
|
||||
2.1343159802162495,
|
||||
2.168498454611494,
|
||||
2.122300014918686,
|
||||
2.175204260688689,
|
||||
2.259016622860844,
|
||||
2.234001100393665,
|
||||
2.3466592317080903,
|
||||
2.358340935827617,
|
||||
2.397972164882554,
|
||||
2.3408731018117446,
|
||||
2.2997899073550205,
|
||||
2.2490297980670237,
|
||||
2.393347188193574,
|
||||
2.325204711395483,
|
||||
2.384071101108168,
|
||||
2.4477171558472843,
|
||||
2.585383534590658,
|
||||
2.4376790565319166,
|
||||
2.4323552496926304,
|
||||
2.487091144150855,
|
||||
2.558889996992727,
|
||||
2.498078364831133,
|
||||
2.652146563363763,
|
||||
2.5388465030835223,
|
||||
2.680304215504573,
|
||||
2.771813740205561,
|
||||
2.5515857805203424,
|
||||
2.6188599384174895,
|
||||
2.6594284013805227,
|
||||
2.7741920218253746,
|
||||
2.7339475711123047,
|
||||
2.763662334945467,
|
||||
2.723879899097304,
|
||||
2.81697260760344,
|
||||
2.8588432025833006,
|
||||
2.792523229988212,
|
||||
2.7813775963508167,
|
||||
2.8519935824422755,
|
||||
2.807129791404447,
|
||||
2.822288666907539,
|
||||
2.820211192736259,
|
||||
2.8357399996274557,
|
||||
2.9142754202724523,
|
||||
2.9317720501850815,
|
||||
3.0449257709531703,
|
||||
3.075957155125773,
|
||||
3.177517345063707,
|
||||
3.068604431600652,
|
||||
3.030642645736026,
|
||||
3.0077166121739607,
|
||||
2.9618968596825233,
|
||||
3.066009481238504,
|
||||
3.1443460767085734,
|
||||
3.134638136268681,
|
||||
3.106854225325788,
|
||||
3.119754250742431,
|
||||
3.1698144992702026,
|
||||
3.1671237260357947,
|
||||
3.212111535744789,
|
||||
3.1623704059001727,
|
||||
3.1775182699545836,
|
||||
3.2225774422160582,
|
||||
3.1992346585815787,
|
||||
3.30181507116709,
|
||||
3.306240015050285,
|
||||
3.2726660202711058,
|
||||
3.3324739433761335,
|
||||
3.309636655016842,
|
||||
3.3148074639149203,
|
||||
3.3544399009810553,
|
||||
3.349090330621116,
|
||||
3.3984305965594754,
|
||||
3.3496672954314795,
|
||||
3.340675473722637,
|
||||
3.322224827403696,
|
||||
3.340145743300772,
|
||||
3.2233474076303663,
|
||||
3.2789267235332065,
|
||||
3.2296756541627083,
|
||||
3.204706610777439,
|
||||
3.2321022107050967,
|
||||
3.203134943277408
|
||||
],
|
||||
"adv_d_loss": [
|
||||
0.24894345719287667,
|
||||
0.17390209497111794,
|
||||
0.13534904380217513,
|
||||
0.13304952260715744,
|
||||
0.15291849351249254,
|
||||
0.14715776490206775,
|
||||
0.17125040016527104,
|
||||
0.19274577863004982,
|
||||
0.18578718218984258,
|
||||
0.21875576794338533,
|
||||
0.21961111412184614,
|
||||
0.22060128946143848,
|
||||
0.2477767218509291,
|
||||
0.2354066458522764,
|
||||
0.22676930955459929,
|
||||
0.23203017615163937,
|
||||
0.23432785385630578,
|
||||
0.2316853996589143,
|
||||
0.23402280379564333,
|
||||
0.22844872873626712,
|
||||
0.22811520744401675,
|
||||
0.22338211313526854,
|
||||
0.2136384905435336,
|
||||
0.22049070462488976,
|
||||
0.19165504005793324,
|
||||
0.18345961038373473,
|
||||
0.1756664753342286,
|
||||
0.195083101789475,
|
||||
0.20340240698976395,
|
||||
0.19078307929966185,
|
||||
0.17902874801721838,
|
||||
0.20193760733828586,
|
||||
0.18817758448740357,
|
||||
0.17216961945478731,
|
||||
0.17294822287005493,
|
||||
0.1722318371757865,
|
||||
0.16856700216189155,
|
||||
0.1688445098618539,
|
||||
0.15808016375407705,
|
||||
0.1689767152007319,
|
||||
0.15433955042121503,
|
||||
0.15300460385047218,
|
||||
0.14637375394535115,
|
||||
0.14158190407145482,
|
||||
0.16016785049030924,
|
||||
0.14892392718575448,
|
||||
0.1507265834758679,
|
||||
0.14092685341930541,
|
||||
0.14043589852527422,
|
||||
0.134984684160823,
|
||||
0.1350740126501291,
|
||||
0.11972226521684828,
|
||||
0.11917545080073497,
|
||||
0.12366373358596848,
|
||||
0.11311743951315044,
|
||||
0.1102707584380594,
|
||||
0.12037636493292884,
|
||||
0.11112681263659754,
|
||||
0.10647379753426608,
|
||||
0.1106369305624921,
|
||||
0.10126394940874515,
|
||||
0.09652469677723244,
|
||||
0.09366368272333828,
|
||||
0.08211454640055059,
|
||||
0.07760829012442985,
|
||||
0.07622728248437245,
|
||||
0.07922865916839522,
|
||||
0.07928897440035501,
|
||||
0.08362293706283483,
|
||||
0.07019435945285372,
|
||||
0.06777056487691072,
|
||||
0.064988285362816,
|
||||
0.06298202340905037,
|
||||
0.06424616537908585,
|
||||
0.05719249795835752,
|
||||
0.05796155471227363,
|
||||
0.05460724353782323,
|
||||
0.054429387538415246,
|
||||
0.05256472083811577,
|
||||
0.0514424793366502,
|
||||
0.050568766039238974,
|
||||
0.048279059658814065,
|
||||
0.04288315045364742,
|
||||
0.037862979182097904,
|
||||
0.038264645125247285,
|
||||
0.038307074956898376,
|
||||
0.03910250372639419,
|
||||
0.03329014621026273,
|
||||
0.03515934087256463,
|
||||
0.03671098640686076,
|
||||
0.03210316471254023,
|
||||
0.0281283140867057,
|
||||
0.03255670556289136,
|
||||
0.030115999629657365,
|
||||
0.02929343422377307,
|
||||
0.02706535895052565,
|
||||
0.028704162273142073,
|
||||
0.028296635241414875,
|
||||
0.026950161147894513,
|
||||
0.02409191641749607
|
||||
],
|
||||
"fid": {
|
||||
"25": 98.35616302490234,
|
||||
"50": 70.87767028808594,
|
||||
"75": 70.66852569580078,
|
||||
"100": 96.90153503417969
|
||||
},
|
||||
"train_time_s": 2285.786023378372
|
||||
},
|
||||
"n_params": 10608451
|
||||
}
|
||||
Reference in New Issue
Block a user