Results from phase 5 - VAE
This commit is contained in:
Johnny Fernandes
@@ -0,0 +1,551 @@
|
||||
{
|
||||
"run_name": "p5_vae",
|
||||
"config": {
|
||||
"batch_size": 64,
|
||||
"ema_decay": 0.9999,
|
||||
"data_dir": "cropped/generator",
|
||||
"sources": [
|
||||
"wiki"
|
||||
],
|
||||
"subsample": 1.0,
|
||||
"sample_interval": 10,
|
||||
"fid_interval": 25,
|
||||
"fid_n_real": 5000,
|
||||
"num_workers": 2,
|
||||
"run_name": "p5_vae",
|
||||
"model": "vae",
|
||||
"epochs": 400,
|
||||
"augment": "hflip",
|
||||
"image_size": 64,
|
||||
"latent_dim": 256,
|
||||
"ngf": 64,
|
||||
"lr": 0.001,
|
||||
"lr_d": 0.0001,
|
||||
"beta_kl": 0.25,
|
||||
"lambda_perceptual": 0.1,
|
||||
"lambda_adversarial": 0.1,
|
||||
"ndf_patch": 64,
|
||||
"max_train_hours": 24,
|
||||
"fid_patience": 2
|
||||
},
|
||||
"history": {
|
||||
"recon_loss": [
|
||||
0.0873407603551944,
|
||||
0.04358899736235666,
|
||||
0.03418333942675565,
|
||||
0.029945257139734477,
|
||||
0.02730485076148413,
|
||||
0.0256642885824554,
|
||||
0.024606309914722655,
|
||||
0.024003406015471514,
|
||||
0.023481889054752313,
|
||||
0.023388028817458287,
|
||||
0.023165030958146877,
|
||||
0.023034087935478516,
|
||||
0.023093829576212626,
|
||||
0.023127540110204466,
|
||||
0.023243789039711412,
|
||||
0.023344778173213076,
|
||||
0.023640765824442744,
|
||||
0.023751988847795714,
|
||||
0.02397893554268357,
|
||||
0.024262953263062697,
|
||||
0.024448917048354436,
|
||||
0.024872611857887007,
|
||||
0.02515550658234164,
|
||||
0.02550989743242534,
|
||||
0.025736652398243163,
|
||||
0.02602377253321883,
|
||||
0.02638998716814905,
|
||||
0.026764424573470894,
|
||||
0.02702379642197719,
|
||||
0.027440408292489175,
|
||||
0.027744242869731452,
|
||||
0.028089644061003484,
|
||||
0.02848421647730801,
|
||||
0.028713980769245032,
|
||||
0.029125269327280868,
|
||||
0.029430037913605187,
|
||||
0.029704269650591236,
|
||||
0.03008795604826166,
|
||||
0.030501786245303787,
|
||||
0.030806709439135514,
|
||||
0.03112352060743122,
|
||||
0.03151081111998512,
|
||||
0.03180294511760147,
|
||||
0.03201285475849086,
|
||||
0.03250477283110476,
|
||||
0.03279393227197803,
|
||||
0.033106526129075095,
|
||||
0.03341933650673073,
|
||||
0.03377721751204286,
|
||||
0.03395956884432807,
|
||||
0.034379123602635585,
|
||||
0.03460381771477624,
|
||||
0.03494038589250965,
|
||||
0.03528320585958596,
|
||||
0.035614780918496035,
|
||||
0.035869904081376955,
|
||||
0.03618363298985184,
|
||||
0.036493296719068646,
|
||||
0.03672212112344738,
|
||||
0.0370304095121021,
|
||||
0.037354495376348495,
|
||||
0.03760785502023422,
|
||||
0.037863354250374764,
|
||||
0.03823175100195739,
|
||||
0.038425643482587785,
|
||||
0.03870724631139101,
|
||||
0.0389937731063264,
|
||||
0.03924838143090407,
|
||||
0.03949139775055596,
|
||||
0.03976541371522551,
|
||||
0.03993153934263521,
|
||||
0.040273130831555426,
|
||||
0.04053226028943164,
|
||||
0.04074429119658521,
|
||||
0.041034609883323185,
|
||||
0.04132901987809147,
|
||||
0.04159073577795783,
|
||||
0.04180888088945395,
|
||||
0.04201203822675678,
|
||||
0.042261788796665326,
|
||||
0.08396607959786287,
|
||||
0.10181164084018296,
|
||||
0.09799152593582104,
|
||||
0.09668531939068921,
|
||||
0.0968421785813621,
|
||||
0.09369673845795994,
|
||||
0.09009833600467597,
|
||||
0.0903104149346423,
|
||||
0.08894572399047196,
|
||||
0.08763274517005835,
|
||||
0.08656074902695468,
|
||||
0.08540202769586164,
|
||||
0.08515783267207125,
|
||||
0.08472549243487863,
|
||||
0.08296199838638815,
|
||||
0.08328578632293093,
|
||||
0.08295941359212256,
|
||||
0.08313999250212796,
|
||||
0.0818887078959463,
|
||||
0.08250387434839693
|
||||
],
|
||||
"kl_loss": [
|
||||
1.8525980165880969,
|
||||
1.4553406062798622,
|
||||
1.3945304973003192,
|
||||
1.3407280745669308,
|
||||
1.2857661698109064,
|
||||
1.2336315864171736,
|
||||
1.1874862180815802,
|
||||
1.1414925043399518,
|
||||
1.0977480350396571,
|
||||
1.0560076374274034,
|
||||
1.01724683932769,
|
||||
0.9797984164240013,
|
||||
0.9446675681915039,
|
||||
0.9104400175249475,
|
||||
0.8793187248401153,
|
||||
0.8478198795237093,
|
||||
0.8173006469877357,
|
||||
0.7886208149357739,
|
||||
0.7629873515703739,
|
||||
0.7364261971834378,
|
||||
0.7128106751757809,
|
||||
0.6888662757527115,
|
||||
0.6657254862734395,
|
||||
0.6452364749633349,
|
||||
0.6245541180300916,
|
||||
0.6049946047301985,
|
||||
0.5857444695937328,
|
||||
0.5684402824467064,
|
||||
0.5521934639949065,
|
||||
0.5358257534412237,
|
||||
0.5204513295211344,
|
||||
0.5060414804989456,
|
||||
0.49239281348438346,
|
||||
0.4787919474208457,
|
||||
0.4658316922111389,
|
||||
0.4539918888073701,
|
||||
0.4419420047575592,
|
||||
0.4312195180573015,
|
||||
0.42050094068305105,
|
||||
0.40945692296720976,
|
||||
0.40024506561776513,
|
||||
0.39102863456703657,
|
||||
0.3820533954944366,
|
||||
0.3735176674448527,
|
||||
0.3652671699722608,
|
||||
0.35739283327363497,
|
||||
0.3497536080515283,
|
||||
0.3421799224666041,
|
||||
0.3350429548284946,
|
||||
0.32887285833175367,
|
||||
0.3223056475448812,
|
||||
0.31573223348102,
|
||||
0.30969550721665734,
|
||||
0.3040077604162387,
|
||||
0.2983994829094308,
|
||||
0.2931375425213423,
|
||||
0.28794814818180525,
|
||||
0.28312774658457845,
|
||||
0.27795972312108064,
|
||||
0.2733073151137075,
|
||||
0.26867456909300935,
|
||||
0.2644821102611529,
|
||||
0.26038518162746715,
|
||||
0.2562667843368318,
|
||||
0.25174618904025126,
|
||||
0.24832279088660184,
|
||||
0.24432727156413925,
|
||||
0.24079690383285537,
|
||||
0.2376329786120317,
|
||||
0.2344166113334334,
|
||||
0.23053084180141106,
|
||||
0.22791345137306768,
|
||||
0.22474394993394867,
|
||||
0.22178132660113847,
|
||||
0.2186352158140423,
|
||||
0.21556782238503808,
|
||||
0.21307267468327132,
|
||||
0.21009610163477752,
|
||||
0.20776716148496693,
|
||||
0.2049679136556438,
|
||||
0.2247045011792937,
|
||||
0.2217696603292074,
|
||||
0.22496450988528055,
|
||||
0.22926593384044802,
|
||||
0.22361361193988058,
|
||||
0.22135189595894936,
|
||||
0.22035350220707747,
|
||||
0.22777206256476223,
|
||||
0.22325334799850088,
|
||||
0.2233544290702567,
|
||||
0.22975832863877982,
|
||||
0.22763504036980817,
|
||||
0.2286809598788237,
|
||||
0.23215497132295218,
|
||||
0.230580695769471,
|
||||
0.2321891579299401,
|
||||
0.23496549621097043,
|
||||
0.23647785600688723,
|
||||
0.23949947577511144,
|
||||
0.24036300223734644
|
||||
],
|
||||
"perc_loss": [
|
||||
3.335951432203635,
|
||||
2.998757926317362,
|
||||
2.8297285636266074,
|
||||
2.727970255745782,
|
||||
2.6565276032839065,
|
||||
2.6064420164140882,
|
||||
2.5682258865772147,
|
||||
2.5430078180427227,
|
||||
2.522596321044824,
|
||||
2.5114925208254757,
|
||||
2.5005857857883487,
|
||||
2.49486218405585,
|
||||
2.491978524077652,
|
||||
2.490892021574526,
|
||||
2.4906904473263993,
|
||||
2.492909249586937,
|
||||
2.497568679161561,
|
||||
2.5003321379677863,
|
||||
2.505250292456048,
|
||||
2.5104152916843057,
|
||||
2.516255518819532,
|
||||
2.523510086740184,
|
||||
2.53035162605791,
|
||||
2.536790308279869,
|
||||
2.542752216514359,
|
||||
2.55020610949932,
|
||||
2.5582634582478776,
|
||||
2.565885178044311,
|
||||
2.5708479911853104,
|
||||
2.5798426958230825,
|
||||
2.5859895343454475,
|
||||
2.5931876342520757,
|
||||
2.60077048621626,
|
||||
2.6064286018029237,
|
||||
2.6146339947341852,
|
||||
2.620219861340319,
|
||||
2.6261617546407585,
|
||||
2.63408244929762,
|
||||
2.6406683646715603,
|
||||
2.6461050449273524,
|
||||
2.6516372836553135,
|
||||
2.6584073289846764,
|
||||
2.6636348529758616,
|
||||
2.6680258059094095,
|
||||
2.6752815042805467,
|
||||
2.680128652315873,
|
||||
2.6852204356438074,
|
||||
2.69005358677644,
|
||||
2.6959197098373346,
|
||||
2.6993423679954986,
|
||||
2.7052695216276708,
|
||||
2.709015153412126,
|
||||
2.7140026301400275,
|
||||
2.7192573567740936,
|
||||
2.7227722610163894,
|
||||
2.727261029756986,
|
||||
2.731931083732181,
|
||||
2.735040227572123,
|
||||
2.739379578675979,
|
||||
2.7434892078750153,
|
||||
2.747702214962397,
|
||||
2.7503509246386013,
|
||||
2.7542025533496823,
|
||||
2.7583101478397336,
|
||||
2.7612236325557413,
|
||||
2.76464156819205,
|
||||
2.768620821655306,
|
||||
2.7716130385032067,
|
||||
2.7744738800912843,
|
||||
2.7773860871282396,
|
||||
2.780290570014562,
|
||||
2.784183261740921,
|
||||
2.786414759281354,
|
||||
2.78930699876231,
|
||||
2.7921430218932977,
|
||||
2.7955944777553916,
|
||||
2.7981467792111583,
|
||||
2.800831956231696,
|
||||
2.8030711285069456,
|
||||
2.8052900795243745,
|
||||
3.519835437974359,
|
||||
3.8608342984802704,
|
||||
3.8944253116591363,
|
||||
3.943398314154046,
|
||||
3.962524364137242,
|
||||
3.9387727614141936,
|
||||
3.9044231028638334,
|
||||
3.912559205140823,
|
||||
3.9143120524210806,
|
||||
3.898512967631348,
|
||||
3.8972727090884476,
|
||||
3.8735957543055215,
|
||||
3.872446519187373,
|
||||
3.863863379527361,
|
||||
3.8498869344719453,
|
||||
3.841842463383308,
|
||||
3.847525435635167,
|
||||
3.841787440654559,
|
||||
3.814141992829804,
|
||||
3.8276908326352763
|
||||
],
|
||||
"adv_g_loss": [
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.5217359245707018,
|
||||
0.981920200933376,
|
||||
1.2374933425846517,
|
||||
1.2787476180710344,
|
||||
1.3618476113511457,
|
||||
1.2804014555409424,
|
||||
1.245144590241914,
|
||||
1.3317598049711978,
|
||||
1.3350145901567263,
|
||||
1.3249803283212023,
|
||||
1.4742424943082384,
|
||||
1.4282420477232871,
|
||||
1.485014318018897,
|
||||
1.5059755784976814,
|
||||
1.5204202550001698,
|
||||
1.5489312943059186,
|
||||
1.6689910165503876,
|
||||
1.6956130060721508,
|
||||
1.681979666503831,
|
||||
1.782702047811646
|
||||
],
|
||||
"adv_d_loss": [
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.0,
|
||||
0.8759659508354644,
|
||||
0.6683682966181356,
|
||||
0.5347345314092107,
|
||||
0.5164251379732393,
|
||||
0.4872464276372622,
|
||||
0.49361801707846487,
|
||||
0.503935003382528,
|
||||
0.47848207029139894,
|
||||
0.4685567660718902,
|
||||
0.4727442391917237,
|
||||
0.42426876004180336,
|
||||
0.4130457585247663,
|
||||
0.40487297226348495,
|
||||
0.38646075183637124,
|
||||
0.39057583349128056,
|
||||
0.37396795503222025,
|
||||
0.33111938719566053,
|
||||
0.34095216335521805,
|
||||
0.3216267083254125,
|
||||
0.3050928452076056
|
||||
],
|
||||
"fid": {
|
||||
"25": 86.1589584350586,
|
||||
"50": 56.15982437133789,
|
||||
"75": 60.979278564453125,
|
||||
"100": 58.461761474609375
|
||||
},
|
||||
"train_time_s": 1603.9792292118073
|
||||
},
|
||||
"n_params": 10608451
|
||||
}
|
||||
Reference in New Issue
Block a user