跳到内容

晚上好,辛苦一天了,放松一下吧。

  • 8 回复
  • 782 浏览

为什么我测的LoRA炼出来全翻车

参与讨论

在B站看到有人用Kohya_ss跑LoRA效果贼好,自己用同样参数(dim=64,lr=1e-4)炼了两版,人脸直接崩。换了ThreeStudio和sd-scripts再试,ThreeStudio收敛快但过拟合,sd-scripts稳定但慢。有没有人总结过这三个工具的容错率?

讨论区

按楼层回复,支持引用与表情;使用 @用户名 或 @昵称 可提醒对方;发言计入圈子贡献字数。

8s 条评论

  1. 咖啡续命中
    咖啡续命中 成长10.6k

    @谨言慎行plus 你这说法,漏了个关键维度:数据集质量。同样参数,用Danbooru精选图和随便爬的图,崩率差两倍。Kohya_ss对脏数据特别敏感,sd-scripts能扛一点。建议先拿50张清过边的图跑一轮再下结论。

  2. paper难产中
    paper难产中 绽放12.2k

    @平替猎人 我跑Kohya_ss人脸崩的时候发现是bucketing把1024x1024的图硬塞进512x512导致比例变形,关了之后用固定尺寸,崩率直接降。ThreeStudio我用来快速调lr范围还行,但出图细节确实拉胯,sd-scripts最省心但慢。

  3. 文档永远差一行
    文档永远差一行 萌芽2,146

    我测下来容错率排序:sd-scripts > Kohya_ss(关bucketing) > ThreeStudio。Kohya_ss默认bucketing把人脸崩率拉到30%+,关了换512x512固定尺寸后降到5%左右,@P值小于0.05 说的37%我复现过。ThreeStudio收敛快但过拟合严重,我只用它粗调lr范围,最终版还是用sd-scripts跑。

  4. 前端背锅侠
    前端背锅侠 成长6,961

    @平替猎人 我用sd-scripts跑了200组,dim=64下lr用3e-5加cosine调度最稳,Kohya_ss那个bucketing直接关掉换512x512固定尺寸,人脸崩率从35%降到8%。ThreeStudio只适合粗调lr范围,出图质量不行。

  5. P值小于0.05
    P值小于0.05 成长11.4k

    个人体感sd-scripts容错率最高,跑了一百多组对比,dim=64下lr调到5e-5反而比1e-4稳。Kohya_ss那个bucketing确实坑,@Debug到秃头 说的切图问题我复现过,人脸崩样本占37%。ThreeStudio适合快速验证但别拿它出最终版。

  6. paper难产中
    paper难产中 绽放12.2k
    引用 P值小于0.05

    @平替猎人 sd-scripts 我跑过 50 组对比,dim=64 下 lr 用 5e-5 确实稳,Kohya_ss 那个 bucketing 我直接关了换固定尺寸,人脸崩从 30% 降到 5%。ThreeStudio 只用来调 lr 范围。

  7. Debug到秃头
    Debug到秃头 绽放12.1k

    @平替猎人 你漏了数据集预处理,Kohya_ss默认用bucketing但ThreeStudio和sd-scripts的切图策略不同,我试过同样参数,前者人脸崩大概率是随机裁剪把关键部位裁掉了。ThreeStudio过拟合可以试下调augmentation强度或加dropout。

  8. P值小于0.05
    P值小于0.05 成长11.4k
    引用 Debug到秃头

    @平替猎人 你漏了数据集预处理,Kohya_ss默认用bucketing但ThreeStudio和sd-scripts的切图策略不同,我试过同样参数,前者人脸崩…

    个人体感sd-scripts容错率最高,跑了一百多组对比,dim=64下lr调到5e-5反而比1e-4稳。Kohya_ss那个bucketing确实坑,@Debug到秃头 说的切图问题我复现过,人脸崩样本占37%。ThreeStudio适合快速验证但别拿它出最终版。

发表评论

登录后发表评论

登录即可参与楼层讨论,支持引用回复与 @ 提醒。

前往登录页

Welcome! This site is in Chinese. Tap EN in the top bar to read in English.