Veritas
详情
下载文件
模型描述
Veritas RR000
通过 EmoFact v3.6 对 illustrious v2.0 进行了多次全层 LoRA 微调
采用 e-pred + ZtSNR(非 v-pred),这是首个 IL 版本,EmoFact 效果相当不错
由于仍属粗略打磨,我认为“这不是一个适合所有人的模型”
关于 ZtnV(e-pred + ZtSNR):
在 Kohya-Script 中使用了 Zero Terminal SNR / 偏差校正估计
虽然 e-pred 被认为容易发散,但 emo 系列模型能稳定进行训练
这意味着我们可同时拥有 e-pred 的高泛化能力与 ZtSNR 的宽广色域
与 Flow-Matching(FM)的对比:
这组组合或许具备超越 Flow-Matching(FM)的潜力
FM 的泛化能力较弱,其训练更接近于复制(结构与色域虽精确,但本质如此)
而结构的精确度,关键其实取决于注意力层的多寡
拥有卓越泛化能力与采样器自由度的 e-pred,难道不是更优选择吗?
FM 的弱点:
尽管 FM 在论文中被描述为高精度与高收敛性,但实际训练中却难以收敛
原因在于其对噪声过于敏感,轻微波动即可能导致崩溃,影响输出结果
(而 e-pred 正是利用噪声进行训练,噪声恰恰是其学习的源泉)
未来将进入低精度与量化时代,这正是需要大量噪声的训练方式
FM 方式因噪声会阻碍学习,本质上与这一趋势相悖
许可证
本模型的许可证继承自原始模型 illustrious v2.0
但由于是通过实验性 optimizer emo 系列进行调整的版本,使用时需格外注意
可能存在未预见的错误,因此在合并或其他操作时应谨慎处理
故在继承 illustrious 许可证的同时,附加以下限制:
若进行合并或公开发布,请务必明确标注上述注意事项。










