SD-Turbo 在美感上明顯更高,對 SD-21 的提升非常顯著。
背景:我使用 RTX2060 6GB,想獲得可用的次10秒生成。之前我在 SDXL 之前已建立過最佳化的 SD-21 管線。以下圖片的提示詞取自 Microsoft Image Creator(這些提示詞應該是為了展示影像模型的廣泛能力而選擇的)。
https://thekitchenscientist.github.io/dalle-3_examples.txt
在文字轉圖像方面,你可以看到 SDXL 對提示詞概念的理解有多好,但對於使用較舊硬體的人來說,SD-Turbo 看起來可以用於 Krita 這類工具的近乎即時繪畫。它與 Koyha 的 DeepShrink 和 FreeU_V2 搭配良好,能在 5 秒內產生 768x1024 的影像且無偽影。如果你使用 LCM 取樣器,還可以將它推到超過 2 步而不會燒壞影像——它只會逐漸簡化,直到你得到非常簡單的向量圖像。
在 4 步(下方使用的步數)時,它修復了僅用 2 步時出現的大部分肢體畸形問題。當你開始使用 LCM 取樣器將 SD-Turbo 推到 7 步以上時,複雜提示詞會產生一些非常有趣的效果。

SD-Turbo

SDXL-Turbo

SDXL Base

SDXL-LCM

SSD-1B LCM

SSD-1B
| 方法 | RTX2060 6GB ComfyUI 每張影像所需秒數 |
|---|---|
| SDXL - uni_pc_bh2 | 30 |
| SDXL LCM Lora(看來我需要使用合併) | 60 |
| SDXL Turbo | 13 |
| SSD-1B | 18 |
| SSD-1B LCM Lora | 10 |
| SD-Turbo | 1.5 |
| SD-2.1 | 3 |
我使用 simulacra 美學模型對所有 2135 張生成的影像進行排名。對每個提示詞,我計算所有方法的平均美學分數,然後從該組中每張影像的分數中減去該平均值。SSD-1B 分數高於 SDXL 的方式,讓我相信蒸餾過程中使用了 simulacra 美學模型或類似模型。

每個提示詞的平均分數從每張影像的分數中減去。
我使用了種子 1000000007、LCM 取樣器和 sge_uniform 排程器。Turbo 模型使用 4 步,LCM 使用 6 步。基礎影像使用 uni_pc_bh2 和 12 步生成。其他兩組提示詞可在以下位置取得:
https://thekitchenscientist.github.io/dalle-2_examples.txt
https://thekitchenscientist.github.io/artist-space_examples.txt
影像空間範例是基於以下連結的 244 個提示詞:https://docs.google.com/spreadsheets/d/14xTqtuV3BuKDNhLotB_d1aFlBGnDJOY0BRXJ8-86GpA/edit#gid=0 我使用 SSD-1B 從此清單中跑了 10k 個樣本,然後分析影像構圖與顏色,從潛在空間的無限性中取樣出一組分散/多樣/具代表性的藝術家提示詞。
額外圖表顯示每組分數的分佈:

SD Turbo 用於人物和風景的構思;混合取樣用於家具、雕塑和建築;提示延遲用於在多種風格下保持相同構圖;最重要的是只使用單一種子。如果需要控制,則使用 IP-Adaptor、img2img 或 ControlNet。有些種子傾向於分割主體等,所以一旦我找到一個可靠的種子,我就已經使用它一年了。
這裡還有一些我沒提到的技巧,這些技巧尚未全部在 ComfyUI 中可用,可以幫助較弱的模型更好地解析:
[潛在抖動(latent jitter)
以最小依賴和單一多功能管線設定 Stable Diffusion - thekitchenscientist/sd_lite
GitHubthekitchenscientist
](https://github.com/thekitchenscientist/sd_lite/wiki/latent-jitter)
你現在可以嘗試的一種技巧是:在前 15% 的步驟使用慢速取樣器,然後切換到快速方法(如 LCM)完成其餘步驟。我發現在 SSD-1B 中,對於建築、家具和雕塑,這種方法僅在 10 步(4/14 慢速 + 6/6 LCM)就能得到更好的結果。
原文發佈於 Reddit @thkitchenscientist
