strawberry, skull, teeth, seed: 2297974272, num_inference_steps: 18, guidance_scale: 13.6, sampler_name: ddpm, use_stable_diffusion_model: dreamshaper_8, use_vae_model: vae-ft-mse-840000-ema-pruned, skull, teeth, use_lora_model: [fruits-vegetables, Juha Arvid Helminen photostyle], lora_alpha: [0.5,1]
Den Photystyle in die Modellberechnung einbeziehen, das sollte nur unter der Bedingung erfolgen, daß man genau das als Ergebnis erwartet. Sonst sieht es Scheiße aus, wie oben.
LoRA: Low-Rank Adaptation of Large Language Models is a novel technique introduced by Microsoft researchers to deal with the problem of fine-tuning large-language models. ... This greatly reduces the number of trainable parameters and GPU memory requirements since gradients don't need to be computed for most model weights. ... fine-tuning quality with LoRA was on par with full model fine-tuning while being much faster and requiring less compute.
LoRA: Low-Rank Adaptation of Large Language Models ist eine neue Technik, die von Microsoft-Forschern eingeführt wurde, um das Problem der Feinabstimmung großer Sprachmodelle zu lösen. LoRA schlägt vor, vortrainierte Modellgewichte einzufrieren und trainierbare Schichten (Rangzerlegungsmatrizen) in jeden Transformer-Block zu injizieren. Dies reduziert die Anzahl der trainierbaren Parameter und die Anforderungen an den GPU-Speicher erheblich, da die Gradienten für die meisten Modellgewichte nicht berechnet werden müssen. ... die Qualität der Feinabstimmung mit LoRA gleichwertig mit der Feinabstimmung eines vollständigen Modells ist, während sie viel schneller ist und weniger Rechenleistung erfordert.
Ein anderes Modell und andere Alpha-Werte für die Loras, das ist dem Alpha-Kanal der Bildbearbeitung ähnlich, beeinflußt, wie stark das Lora auf das Grundmodell durchdrückt.
strawberry, skull, teeth, seed: 192649868, num_inference_steps: 18, guidance_scale: 13.6, sampler_name: ddpm, use_stable_diffusion_model: icbinpICantBelieveIts_seco, use_lora_model: [fruits-vegetables, Juha Arvid Helminen photostyle], lora_alpha: [1.5,0.7]
strawberry, skull, seed: 753934717, num_inference_steps: 18, guidance_scale: 13.6, sampler_name: ddpm, use_stable_diffusion_model: icbinpICantBelieveIts_seco, use_lora_model: [fruits-vegetables, Juha Arvid Helminen photostyle], lora_alpha: [1.5, 0.7]
