オフ(ブロックまたは許可しない)に設定されているため、このページは正常に機能しません。学習データを画像生成に利用する方法LoConLoRA学習環境にLoConを導入する方法LoConで学習したLoRAデータを1111で画像生成に利用する方法(IA)^3LoKRDyLORATIPS学習、検証結果コメントLyCORISとはhttps://github.com/KohakuBlueleaf/LyCORIS1111用の拡張機能...ではない。利用可能な、学習用のアルゴリズムの集まり。具体的にはLoConやLoHaを含んでいる。LoRAと共通する部分についてはLoRAのページも参考にしてください。LoConちゃん誕生。sd-scriptを用いてのLoRA学習に利用可能な新しいアルゴリズム。1111用の拡張機能ではない。1111上でLoCon学習データを用いた画像生成を可能にするための拡張機能。この時点では1111本体の🎴やQuicksettingsからの利用にのみ対応。拡張機能a1111-sd-webui-loconがアプデされた。拡張機能からLoCon学習データによる画像生成を行うことも可能になった。Networks拡張機能がアプデされ、ANのみでLoCon学習データによる画像生成が可能になった。LoRA学習に利用可能な新しいアルゴリズムとしてLoHaが公開。作者はLoConと同じ。これに伴ってLoConとLoHaはLyCORISというプロジェクト(≒GitHubリポジトリ)の中に内包される形となった。conv_dim16は必要な感じ服はどうでもいいならdim8でも平気っていう実験結果に落ち着いた学習環境に導入する方法まずLoRAを導入する必要があります。LoRAでの学習がまだできてない人はまずそっちからやろう。ここに書いてある通り。導入し、🎴またはQuicksettingsからLoRAと同様に指定する。拡張機能はLoHaには未対応。今からDyLoRA含む全種の学習データを使用するには、拡張機能a1111-sd-webui-lycorisを導入すると良さそう。🎴派、もしくはQuicksettings派の人まずこの拡張機能を導入する。https://github.com/KohakuBlueleaf/a1111-sd-webui-loconそんで1111の🎴、もしくはQuicksettingsからLoRAのように呼び出す。拡張機能派の人2023/3/8のsd-webui-additional-networksアプデにより、LoConに対応した。sd-webui-additional-networksを更新して2023/3/8以降のバージョンにするだけで、LoRAのように画像生成に利用可能になる。使えるようになったアルゴリズム。5e-3~1e-2)。このアルゴリズムは素晴らしい学習様式ですが転用するのは困難です(学習に使用したモデルでしか妥当な結果を得られません。実験的もっと見るhttps://mobile.twitter.com/t_zunko/status/1641779055413579776にて公式アセットを配布している東北ずん子のデータを無加工で使いLoRAを制作してみた。生成テストのため高画質を目指した設定の詰めを一切行っていない。outdoor,<lora:zunko_ia3_7th_anime_v3_A:1>7th_anime_v3_Aをベースモデルにしたものanything-v4.5をベースモデルにしたもの両方とも同じ方法で制作し、ベースモデルのみを変えた。ファイルサイズも同じく208KB。(上記の画像とは別シード値のもの。使えるようになったアルゴリズム。基礎となる部分はLoHaと同じで、下記が違う。このアルゴリズムはかなり敏感なので、lrをチューニングする必要があるかもしれません。このアルゴリズムは、キャラクターとスタイルの両方を学ぶことができます。サイズは小さいですが、転用するのは困難です。比較的小さなファイル(900~2500KB)を生成します。小さなファクターを使用すると、より大きなファイルが作成されます。2.5Mで十分でないと思われる場合は、調整することができます。見るhttps://mobile.twitter.com/t_zunko/status/1641779055413579776にて公式アセットを配布している東北ずん子のデータを無加工で使いLoRAを制作してみた。生成テストのため高画質を目指した設定の詰めを一切行っていない。outdoor,<lora:zunko_lokr:1>私感:顔はそれなりに学習出来ているものの、枝豆のヘアバンドの再現度が低く10枚出したうちの2、3枚程度しか形を再現できなかった。胸当てもほとんど覚えることが出来ていない。服装のフォルムが全体的に甘いようである。この辺りはLoKR独自の学習率の調整が必要ということなのだろう。一般的なLora(144MB)の113分の1という小ささは凄い。比較のためLoKRと同設定、同ステップ数で出力したLoHAの画像を添付します。シード値とプロンプトも同一にしましたがLoRAが変わったことにより若干の変化が絵に生じてしまいました。データセットファイル(json,toml形式)rem(このファイルを指定するとデータセットモード動作になる。5e-3~1e-2)。(学習に使用したモデルでしか妥当な結果を得られません。上側は学習レートの自動調整を有効にしたオプション。データセットファイルの有無を確認。使用するベースモデルによっては警告文が表示されるので注意DyLORA2023年4月に導入した新しいアルゴリズム。Unitを指定できて、同時に複数のパターンを学習しあとから抜粋することが可能。学習後複数のDimに分割したLoRAを作成できる。分割は(4,8,12,16,20,24,28,32)になる。よってUnit数は低ければ低いほどその分の効果向上が期待できると予測。同時に1stepの所要時間もそれに応じて倍増してしまう。検証を行った際の結果やTIPSを記載します。LoConとLoHaの推奨設定CORISのREADMEにある推奨設定でLoConとLoHaを比較した際の結果。adafactor、relative_step=True、scale_parameter=True、warmup_init=Falselrは未指定タグはtaggerで付けて、キャラ名や作品名、重複しているものを排除LoConnetwork_dim=64、network_alpha=0.3conv_dim=64、conv_alpha=0.3LoHanetwork_dim=32、network_alpha=1conv_dim=32、conv_alpha=1LoHaはキャラの顔学習だけなら600stepくらいでも良さそう。学習時間はVRAMが8Gと少ないのでどちらも3~4時間くらい。LoHaは学習中残り300Mくらい、LoConは600Mくらいで推移。adafactor、relative_step=True、scale_parameter=True、warmup_init=Falselrは未指定タグはtaggerで付けてキャラ名や作品名、重複しているものを排除network_dim=8、network_alpha=1conv_dim=8、conv_alpha=1epochは20固定で繰り返しで1epochが200~300stepになるように調整1枚のイラストからコピー機学習1枚のイラストからコピー機学習でLoRA(LoHa)を作成した際の記録。最初はベースとなるイラストから顔部分を切り取ってi2iで表情差分を数枚作成する。作成した顔イラストで学習を行う。dimは32で過学習になるかならないかくらいのステップ数とする。顔を学習させたLoRAを使用して胸から上くらいのイラストを数枚生成する。これも表情、服装、ポーズ、構図の差分を数枚作成する。全身を出力させようとすると顔の書き込みが著しく下がったため、まずは胸から上を学習させた。生成したイラストを追加して再度学習を行う。胸から上LoRAを使用して全身のイラストを数枚生成する。生成したイラストを追加して学習を行って完成。LoHaの場合、ここでdimは8や16に下げたほうが良い。補足use_conv_cp=True時に作られるものはlora用の層が一つ追加された構造変更が入ってる現在のデフォはuse_conv_cp=Falseコメントlohaの次元数の指定(dim,con_dim)はかなり小さくていいらしい。16:45:09コピー機学習ってこういう技法だったんですね。名前は知っていましたが手順までは知りませんでした。分割は(4,8,12,16,20,24,28,32)になる。04:29:35Unitサイズは通常のDyLoRAでは1層ごとに学習しているのを指定した倍数の層のみ学習する?なのでUnitはDimを割り切れる数字で指定しないといけない、1stepで1層しか学習できないので通常のLoRAよりは学習に時間がかかる。21:36:53LycorisってもしかしてLoraみたいに複数の概念を覚えさせるのって無理なのかな?トリガーワード使っても服装やキャラが呼び出されん・・。18:42:48ネットにあるLoRAにサイズ軽くて再現度かなり高いものもあるしLycorisがLoRAより小さいサイズで再現度高いってのは厳密には違うような気がする。22:22:14動かなくなったのはlocon廃止したのでLycorisを入れろとの事。あとLycoris・DyLoRAは複雑な設定が出来るLoRAという位置付けっぽいので上級者じゃなければ無理して使う必要はないかも。16:27:07(Tips)既存コメントの先頭にあるラジオボタンをONにすると、そのコメントの下にぶら下げ返信する形になります(ツリー構造)。コメントの文中で↵ボタン(下の画像参照)を押すと「&br;」の文字列が挿入されます。これは送信後に改行として機能するので、文章の整形に役立ちます。不具合issues最近の主な出来事このwikiは研究用のwikiです。知らない人には教えないでくださいね。スクリーンショットを撮影しSNSに掲載等の行為は大変迷惑なのでご遠慮ください。研究目的以外でリンクを掲載するなどの行為も含めご遠慮ください。