FACESITTING HunYuan

メジャーアップデート：204年12月26日

ついに、私が本当に満足するレベルまでLORAを仕上げることができました。バージョン1.0は、ここには一切投稿しなかった多数の試行錯誤の結果としてたどり着いたものです。これまでのバージョンはすべて不十分で、最終的にこのバージョンに到達しました。0.1とは異なり、今回はH100NVL（93GB VRAM GPU）をレンタルしてクラウドでトレーニングを実行する必要がありました。

主な変更点

#1：データセットが3倍に拡大され、LORAがより多くの内容を学習できるようになりました。

#2：トレーニング時の最大解像度が2048（以前は512）に引き上げられ、より詳細なフェイスシッティングシーンを生成可能になりました。

#3：0.1と比べて、フェイスシッティングの生成頻度が大幅に向上しました。

現在の満足度から、このバージョンを1.0とラベル付けします。実際にはその間にも0.2から0.9までのバージョンが存在していました。

0.2：0.1と同じ内容で、さらに2000ステップ追加でトレーニング。わずかに改善された程度で、直接比較するとほとんど差がありませんでした。

0.3：さらに2000ステップトレーニングしましたが、学習率を大幅に上げました。その結果、モデルが何らかの理由で過剰にカートゥーン化してしまいました。

0.4：0から再スタートしましたが、この回は学習率を2e-5から4e-5に変更しました。6000ステップ後にモデルが焼けました。それ以前のステップでも、結果が奇妙に見えました。

0.5：トレーニングデータを3倍に増やし、学習率を下げました。当初はうまくいっているように見えましたが、結果が不安定で、途中で焼けてしまいました。

0.6：再び0からスタート。今回は大きなデータセットと、学習率を2e-5に再設定しました。結果は十分に良くて、ほぼここで公開しようかと思いましたが、少しぼやけていました。

0.7 / 0.8 / 0.9：解像度に[2048]を追加し、[512, 1024, 2048]を含むようにしました。

0.7は途中でメモリ不足（OOM）でクラッシュし、私の4090が落ちました。0.8では勾配を増やしましたが、ほとんど学習できませんでした。0.9ではバランスを取って4090に収まるようにしましたが、トレーニング速度が極端に遅く、数か月かかる見込みでした。

1.0：H100i NVLをレンタルし、約16時間トレーニングを実行しました。2048解像度のため、このGPUでも非常に遅く動作しましたが、少なくとも目的は達成できました。今この文章を書いている最中も、トレーニングは継続中です。次回のエポックでさらに改善したLORAが得られれば、もちろんアップロードします。

---

これまでこのウェブサイトに何もアップロードしたことはなく、通常のプロトコルに沿っていない点があればご容赦ください。このLORAをトレーニングした唯一の理由は、自分が本当に欲しかったからで、他人が作るのを待つのが耐えられなかったからです。数多くの時間を費やし、トレーニングに使ったツールがLinux専用だったため、Linuxのデュアルブート設定方法を調べるのに多くの時間を費やしました（Windows対応版があるかは未確認です）。

これは、私が今後も改善し、完璧に仕上げていきたいLORAの極めて早期のベータ版です。しかし、この初期段階でも、すでに十分な可能性を示しており、アップロードする価値があると判断しました。あなたが生成する結果として、A）たまに意味不明な身体恐怖的な画像、またはB）フェイスシッティングを含まない動画が発生することを想定するべきです。しかし、うまくいったとき（私の初期テストでは比較的頻繁にうまくいきます）は、本当に素晴らしい仕上がりになります。（少なくとも私にはそう見えますね、笑）

私が最もうまくいったサンプルプロンプト：

「オフィスで働く、見事に美しい女性が男性の顔に座っている、非常に高品質なシネマティックな動画。女性はブルージーンズと白いタンクトップを着用し、髪は茶色でポニーテールにまとめている。男性の顔は完全に女性のお尻の下に閉じ込められ、フェイスシッティングされている。男性は息苦しさから顔を逃れようとするが、鼻は女性のお尻に押しつけられている。動画は非常に混雑したオフィスで撮影されており、周囲の人々は男性がお尻の下で窒息する様子を指差して笑っている。」

このプロンプトをそのまま使っても、好みの外見・服・背景を置き換えても、あるいは完全に変更しても構いません。何らかの理由で、このLORAは4～5秒の範囲で最も良く動作するようです。それより長くすることも可能ですが、6秒以上になると、不自然な現象が発生しやすくなります。