Hugging Face Diffusers

Hugging Face Diffusers는 이미지, 오디오, 분자의 3D 구조를 생성하기 위한 사전 학습 확산 모델 라이브러리입니다. W&B 인테그레이션은 실험 추적, 미디어 시각화, 파이프라인 아키텍처 추적, 설정 관리를 대화형 중앙 대시보드에 추가합니다.

두 줄로 실험을 로깅하세요

실험에 연결된 모든 프롬프트, 네거티브 프롬프트, 생성된 미디어, 설정을 로깅하려면 다음 두 줄의 코드를 추가하세요:

# autolog 함수 임포트
from wandb.integration.diffusers import autolog

# 파이프라인 호출 전에 autolog 호출
autolog(init=dict(project="diffusers_logging"))

시작하기

diffusers, transformers, accelerate, wandb를 설치하세요.

명령줄:

pip install --upgrade diffusers transformers accelerate wandb

노트북:

!pip install --upgrade diffusers transformers accelerate wandb

autolog()를 init 매개변수와 함께 호출하세요. 이 매개변수는 wandb.init()에 필요한 매개변수 딕셔너리를 받습니다. autolog()는 W&B run을 초기화하고 지원되는 모든 파이프라인 호출의 입력과 출력을 자동으로 추적합니다.
- 각 파이프라인 호출은 Workspace의 개별 table에 추적되며, 해당 파이프라인 호출과 연결된 설정은 해당 run의 설정에 있는 워크플로 목록에 추가됩니다.
- 프롬프트, 네거티브 프롬프트, 생성된 미디어는 wandb.Table에 로깅됩니다.
- 시드와 파이프라인 아키텍처를 포함해 실험과 연결된 그 밖의 모든 설정은 run의 설정 섹션에 저장됩니다.
- 각 파이프라인 호출에서 생성된 미디어는 run의 미디어 패널에도 로깅됩니다.
지원되는 파이프라인 호출 목록을 확인하세요. 이 인테그레이션의 새 기능을 요청하거나 버그를 보고하려면 W&B GitHub issues page에서 이슈를 열어 주세요.

예시

다음 예시는 일반적인 확산 워크플로에서 autolog를 사용하는 방법을 보여주며, 이를 바탕으로 자체 파이프라인에 맞게 조정할 수 있습니다.

Autolog 예시

다음은 autolog의 전체 흐름을 보여주는 예시입니다:

스크립트
노트북

import torch
from diffusers import DiffusionPipeline

# autolog 함수를 임포트합니다
from wandb.integration.diffusers import autolog

# 파이프라인을 호출하기 전에 autolog를 호출합니다
autolog(init=dict(project="diffusers_logging"))

# 디퓨전 파이프라인을 초기화합니다
pipeline = DiffusionPipeline.from_pretrained(
    "stabilityai/stable-diffusion-2-1", torch_dtype=torch.float16
).to("cuda")

# 프롬프트, 네거티브 프롬프트, 시드를 정의합니다.
prompt = ["a photograph of an astronaut riding a horse", "a photograph of a dragon"]
negative_prompt = ["ugly, deformed", "ugly, deformed"]
generator = torch.Generator(device="cpu").manual_seed(10)

# 이미지를 생성하기 위해 파이프라인을 호출합니다
images = pipeline(
    prompt,
    negative_prompt=negative_prompt,
    num_images_per_prompt=2,
    generator=generator,
)

import torch
from diffusers import DiffusionPipeline

import wandb

# autolog 함수를 임포트합니다
from wandb.integration.diffusers import autolog

run = wandb.init()

# 파이프라인을 호출하기 전에 autolog를 호출합니다
autolog(init=dict(project="diffusers_logging"))

# 디퓨전 파이프라인을 초기화합니다
pipeline = DiffusionPipeline.from_pretrained(
    "stabilityai/stable-diffusion-2-1", torch_dtype=torch.float16
).to("cuda")

# 프롬프트, 네거티브 프롬프트, 시드를 정의합니다.
prompt = ["a photograph of an astronaut riding a horse", "a photograph of a dragon"]
negative_prompt = ["ugly, deformed", "ugly, deformed"]
generator = torch.Generator(device="cpu").manual_seed(10)

# 이미지를 생성하기 위해 파이프라인을 호출합니다
images = pipeline(
    prompt,
    negative_prompt=negative_prompt,
    num_images_per_prompt=2,
    generator=generator,
)

# 실험을 종료합니다
run.finish()

다음 이미지는 W&B에 로깅되는 내용을 보여줍니다:

단일 실험의 결과:
여러 실험의 결과:
실험의 설정:

IPython 노트북 환경에서 파이프라인 호출 후 코드를 실행하는 경우에는 wandb.Run.finish()를 명시적으로 호출해야 합니다. Python 스크립트를 실행하는 경우에는 필요하지 않습니다.

다중 파이프라인 워크플로 추적

다음 예시는 일반적인 Stable Diffusion XL + Refiner 워크플로를 사용해 autolog를 보여줍니다. 이 워크플로에서는 refiner가 StableDiffusionXLPipeline에서 생성된 latent를 후처리합니다.

스크립트
Notebook

import torch
from diffusers import StableDiffusionXLImg2ImgPipeline, StableDiffusionXLPipeline
from wandb.integration.diffusers import autolog

# SDXL 기본 파이프라인 초기화
base_pipeline = StableDiffusionXLPipeline.from_pretrained(
    "stabilityai/stable-diffusion-xl-base-1.0",
    torch_dtype=torch.float16,
    variant="fp16",
    use_safetensors=True,
)
base_pipeline.enable_model_cpu_offload()

# SDXL 리파이너 파이프라인 초기화
refiner_pipeline = StableDiffusionXLImg2ImgPipeline.from_pretrained(
    "stabilityai/stable-diffusion-xl-refiner-1.0",
    text_encoder_2=base_pipeline.text_encoder_2,
    vae=base_pipeline.vae,
    torch_dtype=torch.float16,
    use_safetensors=True,
    variant="fp16",
)
refiner_pipeline.enable_model_cpu_offload()

prompt = "a photo of an astronaut riding a horse on mars"
negative_prompt = "static, frame, painting, illustration, sd character, low quality, low resolution, greyscale, monochrome, nose, cropped, lowres, jpeg artifacts, deformed iris, deformed pupils, bad eyes, semi-realistic worst quality, bad lips, deformed mouth, deformed face, deformed fingers, deformed toes standing still, posing"

# 무작위성을 제어하여 실험을 재현 가능하게 만듭니다.
# 시드는 WandB에 자동으로 로깅됩니다.
seed = 42
generator_base = torch.Generator(device="cuda").manual_seed(seed)
generator_refiner = torch.Generator(device="cuda").manual_seed(seed)

# Diffusers용 WandB Autolog를 호출합니다. 프롬프트, 생성된 이미지,
# 파이프라인 아키텍처 및 관련 실험 설정이 W&B에 자동으로 로깅되므로
# 이미지 생성 실험을 손쉽게 재현, 공유, 분석할 수 있습니다.
autolog(init=dict(project="sdxl"))

# 기본 파이프라인을 호출하여 잠재 벡터 생성
image = base_pipeline(
    prompt=prompt,
    negative_prompt=negative_prompt,
    output_type="latent",
    generator=generator_base,
).images[0]

# 리파이너 파이프라인을 호출하여 정제된 이미지 생성
image = refiner_pipeline(
    prompt=prompt,
    negative_prompt=negative_prompt,
    image=image[None, :],
    generator=generator_refiner,
).images[0]

import torch
from diffusers import StableDiffusionXLImg2ImgPipeline, StableDiffusionXLPipeline

import wandb
from wandb.integration.diffusers import autolog

run = wandb.init()

# SDXL 기본 파이프라인 초기화
base_pipeline = StableDiffusionXLPipeline.from_pretrained(
    "stabilityai/stable-diffusion-xl-base-1.0",
    torch_dtype=torch.float16,
    variant="fp16",
    use_safetensors=True,
)
base_pipeline.enable_model_cpu_offload()

# SDXL 리파이너 파이프라인 초기화
refiner_pipeline = StableDiffusionXLImg2ImgPipeline.from_pretrained(
    "stabilityai/stable-diffusion-xl-refiner-1.0",
    text_encoder_2=base_pipeline.text_encoder_2,
    vae=base_pipeline.vae,
    torch_dtype=torch.float16,
    use_safetensors=True,
    variant="fp16",
)
refiner_pipeline.enable_model_cpu_offload()

prompt = "a photo of an astronaut riding a horse on mars"
negative_prompt = "static, frame, painting, illustration, sd character, low quality, low resolution, greyscale, monochrome, nose, cropped, lowres, jpeg artifacts, deformed iris, deformed pupils, bad eyes, semi-realistic worst quality, bad lips, deformed mouth, deformed face, deformed fingers, deformed toes standing still, posing"

# 무작위성을 제어하여 실험을 재현 가능하게 만듭니다.
# 시드는 WandB에 자동으로 로깅됩니다.
seed = 42
generator_base = torch.Generator(device="cuda").manual_seed(seed)
generator_refiner = torch.Generator(device="cuda").manual_seed(seed)

# Diffusers용 WandB Autolog를 호출합니다. 프롬프트, 생성된 이미지,
# 파이프라인 아키텍처 및 관련 실험 설정이 모두 W&B에 자동으로 로깅되어
# 이미지 생성 실험을 손쉽게 재현, 공유, 분석할 수 있습니다.
autolog(init=dict(project="sdxl"))

# 기본 파이프라인을 호출하여 잠재 벡터 생성
image = base_pipeline(
    prompt=prompt,
    negative_prompt=negative_prompt,
    output_type="latent",
    generator=generator_base,
).images[0]

# 리파이너 파이프라인을 호출하여 정제된 이미지 생성
image = refiner_pipeline(
    prompt=prompt,
    negative_prompt=negative_prompt,
    image=image[None, :],
    generator=generator_refiner,
).images[0]

# 실험 종료
run.finish()

다음 이미지는 Stable Diffusion XL + Refiner 실험 예시를 보여줍니다:

가이드

인테그레이션

레퍼런스

두 줄로 실험을 로깅하세요

시작하기

예시

Autolog 예시

다중 파이프라인 워크플로 추적

추가 자료

​두 줄로 실험을 로깅하세요

​시작하기

​예시

​Autolog 예시

​다중 파이프라인 워크플로 추적

​추가 자료

두 줄로 실험을 로깅하세요

시작하기

예시

Autolog 예시

다중 파이프라인 워크플로 추적

추가 자료