需要即時身份生成?探索我們的零樣本身份生成技術,快速高效地創建身份。
InstantID 是身份生成領域的創新模型,正在徹底改變我們創建和保存身份的方式。憑藉其在沒有任何預先訓練資料的情況下生成高保真度人物影像的能力,InstantID 提供了一種零樣本的的身份生成方法。這項尖端技術在安全、電子商務和虛擬實境等各種應用中具有巨大潛力。透過利用 NLP、影像生成和個人化方面的先進技術,InstantID 將改變我們感知和保護身份的方式。
了解 InstantID
InstantID 是一種最新的、無需微調的 SOTA 方法,僅需單張影像即可實現身份保留生成,並支援多種下游任務。
要理解 InstantID 的重要性,我們首先需要了解身份盜竊的挑戰以及保護敏感資訊時應盡的審慎義務。身份盜竊是一個日益嚴重的問題,惡意行為者不斷尋找利用個人資料的方式。公司和個人必須採用強大的身份生成方法來應對這一威脅。這正是 InstantID 模型的用武之地,它提供了獨特的身份保存解決方案。透過利用輸入資料並採用擴散模型,InstantID 生成高保真度的身份影像,確保準確性和品質。
InstantID 在影像生成中的角色
影像生成是 InstantID 的關鍵能力之一,使其有別於傳統的身份保存工具。憑藉其參考影像庫和多種風格的使用,InstantID 能夠創建個人化的身份影像。影像參數的飽和度在實現高保真度和準確性方面也扮演著至關重要的角色。透過利用影像提示作為控制因素,InstantID 確保生成的身份影像符合特定要求,為各種使用案例提供個人化且逼真的結果。
凸顯 InstantID 的獨特功能
InstantID 擁有幾項獨特功能,使其有別於其他身份保存工具。讓我們深入探討一些值得注意的屬性:
- 詳細功能:InstantID 提供預設控制功能的即時身份生成,讓使用者能輕鬆生成身份影像。
- 多種風格:透過使用廣泛的風格範圍,InstantID 提供多樣化的身份影像選項,確保每次生成的獨特性。
- 擴散模型:InstantID 利用擴散模型優化高保真度身份影像的生成,維持每個輸出的品質和準確性。
- SDXL 參數:透過整合 SDXL 參數,InstantID 確保身份影像生成順暢且高效,提升整體使用者體驗。

深入探討 InstantID 的運作方式
現在,讓我們仔細看看 InstantID 的內部運作機制。
InstantID 是一種基於單張參考身份影像生成不同姿勢或風格的自訂影像的方法,同時保持高保真度。它包含三個關鍵組件:
- ID 嵌入:此組件從參考身份影像中捕捉強大的語義臉部資訊。
- 配備解耦交叉注意力的輕量級適配模組:此模組允許將影像用作視覺提示,從而實現生成各種姿勢或風格影像的靈活性。
- IdentityNet:此組件從參考臉部影像中編碼詳細特徵,並加入額外的空間控制,以便更好地控制生成的影像。

您可以從 Huggingface 直接下載模型。您也可以使用 Python 腳本下載模型:
from huggingface_hub import hf_hub_download
hf_hub_download(repo_id="InstantX/InstantID", filename="ControlNetModel/config.json", local_dir="./checkpoints")
hf_hub_download(repo_id="InstantX/InstantID", filename="ControlNetModel/diffusion_pytorch_model.safetensors", local_dir="./checkpoints")
hf_hub_download(repo_id="InstantX/InstantID", filename="ip-adapter.bin", local_dir="./checkpoints")
InstantID 與其他身份保存工具的比較
在身份盜竊構成持續威脅的環境中,比較 InstantID 與其他身份保存工具至關重要。InstantID 的一個關鍵區別在於其擴散模型,這使其有別於傳統方法。
與傳統方法不同,InstantID 不依賴 ControlNet 參數,而是利用 AI 優化身份影像的生成。這種 AI 驅動的過程確保了增強的保真度和個人化,使 InstantID 成為對抗身份盜竊的高效可靠工具。透過利用先進的 AI 技術,InstantID 實現了卓越的結果,為身份影像生成提供了額外的安全層。
與先前工作的比較

與現有無需微調的先進技術相比較。InstantID 在保真度和文字可編輯性之間取得了更好的平衡,使其成為生成自訂影像的優越選擇。
InstantID 與 LoRA 微調相比如何?
與預先訓練的角色 LoRA 進行比較。我們不需要多張影像,仍然可以在無需任何訓練的情況下達到與 LoRA 相當的結果。

InstantID 和 LoRA 微調是兩種身份生成方法。InstantID 是一種零樣本身份生成技術,而 LoRA 微調則需要在大數據集上進行預訓練。InstantID 可以在幾乎沒有或完全沒有訓練樣本的情況下生成身份,而 LoRA 微調需要更多資料才能達到高準確度。選擇取決於具體的使用案例和可用資源。

與 InsightFace Swapper(也稱為 ROOP 或 Refactor)進行比較。
InstantID 背後的運作機制
讓我們更深入地探討 InstantID 的運作機制。該模型採用嵌入技術將輸入資料轉換為潛在空間,以便在該空間中進行身份影像生成的操控。
InstantID 與先前工作的不同之處在於以下幾個方面:
- 保留生成能力:與先前的方法不同,InstantID 不涉及訓練 UNet。這使其能夠保留原始文生圖模型的生成能力,並保持與研究社群中現有預訓練模型和 ControlNets 的相容性。
- 消除測試時的微調:InstantID 在測試時不需要使用多張影像進行微調。它只需對特定角色推論單張影像,從而無需收集和在多張影像上進行微調。
- 提升的臉部保真度和文字可編輯性:InstantID 實現了更好的臉部保真度,更準確地捕捉臉部細節。同時保留了文字的可編輯性,使得基於文字的修改能夠順暢進行,而不會影響影像品質。

InstantID 的實際應用
讓我們探討 InstantID 的實際應用,考慮其基於影像的生成、個人化和分析功能。
借助 InstantID,使用影像提示可以控制身份影像生成,讓企業和個人能夠指定所需的特徵和特性。
這種靈活性為從電子商務中的身份驗證到虛擬實境應用等廣泛的使用案例打開了大門。整合 LexisNexis 分析功能可確保身份生成中的盡職調查,提供額外的安全性和可靠性。
使用 InstantID 個人化影像
InstantID 的關鍵方面之一是能夠個人化身份影像。透過使用多種風格和參考影像庫,InstantID 讓使用者能夠根據特定需求自訂生成的身份影像。
影像參數的飽和度進一步增強了個人化過程,允許微調特徵和特性。無論是行銷活動、使用者頭像還是個人化使用者體驗,InstantID 都能讓企業創建獨特且量身訂做的身份影像,從而提升參與度和個人化程度。

InstantID 風格及其影響
InstantID 中多樣的風格範圍對身份影像生成過程產生了重大影響。以下是一些值得注意的要點:
- 多種風格:InstantID 提供從經典到現代的多種風格選擇,能夠生成符合各種美學和目的的身份影像。
- 高保真度:透過利用先進的影像生成技術,InstantID 確保每種風格的高保真度和準確性,從而產生逼真且視覺上吸引人的身份影像。
- 倉庫整合:InstantID 的參考影像庫豐富了可用風格,從大量來源中汲取靈感,確保生成的身份影像具有獨特性和多樣性。

充分利用 InstantID
要充分發揮 InstantID 的潛力,了解如何最大程度地利用其功能非常重要。最佳使用需要利用文字提示輸入資料,這作為身份影像生成的指導因素。
仔細調整參數(例如飽和度和控制功能)可讓使用者根據特定需求微調輸出。
展示 InstantID 的穩健性、可編輯性和相容性。第 1 列顯示僅影像結果(推論時提示設為空)。第 2-4 列顯示透過文字提示實現的可編輯性。第 5-9 列顯示與現有 ControlNets(canny 和 depth)的相容性。

最佳使用 InstantID 的提示
了解零樣本身份生成的過程及其與 InstantID 的應用至關重要。
使用高解析度影像以獲得最有效的結果。使用同一人物的多張影像可提高身份生成的準確性。建議根據您的要求和所需的精確度調整信心閾值。此外,需要注意與使用此技術相關的潛在道德影響,並負責任地使用它。
兩個不同角色之間的插值。

使用 InstantID 加速影像生成
透過採用零樣本學習方法,InstantID 能夠在無需任何訓練資料的情況下高效地即時生成人臉影像。該技術無縫創建新身份的能力在安全、電子商務和虛擬實境等各行各業具有廣泛的實際應用。InstantID 建立在電腦視覺和機器學習的最新進展之上,代表了傳統影像生成技術的一種快速且經濟高效的替代方案。這項創新解決方案加速了影像生成過程,提供了高效且高品質的結果。
InstantID 與 LCM-LoRA 相容。首先,下載模型。
from huggingface_hub import hf_hub_download
hf_hub_download(repo_id="latent-consistency/lcm-lora-sdxl", filename="pytorch_lora_weights.safetensors", local_dir="./checkpoints")
要使用它,您只需載入並使用較小的 num_inference_steps 進行推論。請注意,建議將 guidance_scale 設定在 [0, 1] 之間。
from diffusers import LCMScheduler
lcm_lora_path = "./checkpoints/pytorch_lora_weights.safetensors"
pipe.load_lora_weights(lcm_lora_path)
pipe.fuse_lora()
pipe.scheduler = LCMScheduler.from_config(pipe.scheduler.config)
num_inference_steps = 10
guidance_scale = 0
InstantID 在不同平台上的應用
InstantID 與 AUTOMATIC1111 和 ComfyUI 的整合增強了跨平台的影像生成,提供無縫的個人化和更快的處理速度。在保持隱私和安全的同時,該工具還讓使用者能夠輕鬆應用不同的 InstantID 風格。此外,成功的設定指南確保了 InstantID 在兩個平台上的最佳使用,使其成為滿足多樣化影像生成需求的通用解決方案。
Replicate 演示
WebUI
ComfyUI
Windows
在 AUTOMATIC1111 上使用 InstantID 的指南
AUTOMATIC1111 可與 InstantID 的倉庫無縫整合,並利用其自動提示功能,確保快速影像生成。InstantID 的身份生成能力保證了在 AUTOMATIC1111 上的順暢使用,而其 IP ControlNet 功能則在影像處理過程中優先考慮安全性。此外,在 AUTOMATIC1111 上使用 InstantID 進行即時影像生成可快速獲得高效結果,使其成為簡化且即時視覺內容創作的寶貴資產。
使用 InstantID 的逐步指南:
步驟 1:下載模型
下載 InstantID 的 IP Adapter 模型。將其重新命名為
ip-adapter_instant_id_sdxl.bin
放入資料夾 stable-diffusion-webui > models > ControlNet。
下載 InstantID ControlNet 模型。將其重新命名為
control_instant_id_sdxl.safetensors
放入資料夾 stable-diffusion-webui > models > ControlNet。
- 使用 SDXL 模型。
- 使用較低的 CFG 比例,約 3–5。
- 為 InstantID 使用兩個 ControlNets。
- 減少兩個 ControlNets 的控制權重和結束控制步驟。
步驟 2:在 Stable Diffusion 檢查點下拉菜單中選擇 SDXL(sd_xl_base_1.0)模型。
步驟 3:設定 txt2img
為了讓 InstantID 有效運作,建議使用以下取樣方法、取樣步數、影像尺寸和 CFG 比例:
- 取樣方法:Euler A
- 取樣步數:20
- 影像尺寸:寬度:1216,高度:832(接近 1024x1024,但不完全相同)
- CFG 比例:3(設定較低)
步驟 3:設定 ControlNet 設定
您需要同時使用兩個 InstantID 模型和 ControlNet 0 與 ControlNet 1 的參考影像。
InstantID 中的第一個 ControlNet 利用 InsightFace 進行臉部特徵提取。

控制類型:Instant_ID 預處理器:instant_id_face_embedding 模型:ip-adapter_instant_id_sdxl 控制權重:0.5 起始控制步驟:0 結束控制步驟:0.5
InstantID 中的第二個 ControlNet 用於提取臉部關鍵點,包括眼睛、鼻子和嘴巴的位置。
控制類型:Instant_ID 預處理器:instant_id_face_keypoints 模型:control_instant_id_sdxl 控制權重:0.5 起始控制步驟:0 結束控制步驟:0.5
步驟 4:生成影像。
在 ComfyUI 上成功設定和使用 InstantID
ComfyUI 平台無縫整合 InstantID 以實現高效的影像生成,確保即時身份創建。InstantID 的詳細功能保證了在 ComfyUI 上成功生成影像,並提供高保真度的結果。此外,InstantID 的預設參數簡化了在 ComfyUI 上進行影像生成的設定,優化了使用者體驗和整體流程。
要在 ComfyUI 上設定並執行 InstantID 工作流程,請按照以下步驟操作:
步驟 1:載入工作流程
- 下載 InstantID 基本工作流程。
- 將下載的工作流程檔案拖放到 ComfyUI 中以載入。
步驟 2:安裝缺少的節點
- 如果您看到任何以紅色突出顯示的節點,請在 ComfyUI 中點選 Manager > Install Missing Custom Nodes。
- 安裝所有顯示的缺少節點。
- 點選 ComfyUI Manager 選單並選擇 Update All 以更新所有自訂節點和 ComfyUI 本身。
步驟 3:下載模型
- 創建以下資料夾結構:ComfyUI > models > instantid。
- 下載 InstantID IP-Adapter 模型並放入 instantid 資料夾。
- 下載 InstantID ControlNet 模型並放入 ComfyUI > models > controlnet 資料夾。
- 下載 antelopev2 臉部模型,解壓縮 zip 檔案,並將 .onnx 檔案放入 ComfyUI > models > insightface > models > antelopev2 資料夾。如果資料夾不存在,請創建必要的資料夾。
步驟 4:執行工作流程
- 重新啟動 ComfyUI 並刷新 ComfyUI 頁面。
- 您現在應該擁有執行工作流程所需的一切。
- 在 Load Checkpoint 節點中,選擇一個 SDXL Turbo 檢查點模型。例如,您可以使用 DreamShaper SDXL Turbo 模型。
現在您已經準備好使用指定的模型和設定在 ComfyUI 中執行 InstantID 工作流程。
在 API 中使用 InstantID 的指南
您應該使用 task_id 呼叫 /v3/async-batch/task-result API 端點以檢索影像生成結果。您可以在此處獲得指導:https://novita.ai/get-started/UseCase_ImageEnhancement.html#_20-instant-id。
更多詳細資訊請查看此處。
InstantID 能否真正革新身份保留影像生成?
憑藉其擴散模型、AI 整合、倉庫整合和個人化參數,InstantID 有潛力革新身份保留影像生成。其高保真度影像生成能力和創新方法使其在該領域脫穎而出。
結論
總之,InstantID 提供了一種突破性的身份保留影像生成方法。它提供了獨特的功能,並以不同於市場上其他工具的方式運作。憑藉其個人化影像能力和多樣化的風格,InstantID 為創意表達開啟了新的可能性。為了充分利用 InstantID,請遵循最佳使用提示,並探索其在 AUTOMATIC1111 和 ComfyUI 等不同平台上的應用。雖然比較它與 LoRA 微調和探索替代方案很重要,但很明顯,InstantID 有潛力革新身份保留影像生成。親自體驗 InstantID 的力量,並釋放無限的創意潛能。
novita.ai 提供 Stable Diffusion API 以及數百個快速且經濟實惠的 AI 影像生成 API,支援 10,000 個模型。🎯 最快 2 秒生成,按量付費,每張標準影像最低 $0.0015,您可以添加自己的模型並免除 GPU 維護。免費分享開源擴展。
推薦閱讀
[掌握技術:使用 Automatic1111 訓練 LoRA
LoRA 訓練是一個複雜的過程,需要進階技術技能和特定設備。但別讓這嚇到您!有了正確的準備,任何人都可以掌握 LoRA 訓練並創建出色的模型。在本部落格中,我們將引導您了解 LoRA 的一切,從
](/mastering-the-technique-train-lora-with-automatic1111/)
[動漫 AI 生成器:將照片轉換為動漫藝術
使用我們尖端的照片轉動漫 AI 生成器,將您的照片轉換為令人驚嘆的動漫藝術。在我們的部落格上試試看!動漫愛好者們,您是否厭倦了無止盡地尋找完美的動漫影像,或努力自己畫一張?如果我們告訴您 AI 可以幫助您
](/anime-ai-generator-transform-photos-into-anime-art/)
