Diffusers documentation

FluxTransformer2DModel

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v0.42.1).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

FluxTransformer2DModel

Flux'tan görüntü benzeri veriler için bir Transformer modeli.

FluxTransformer2DModel

sınıf diffusers.FluxTransformer2DModel

< >

( patch_size: int = 1in_channels: int = 64out_channels: int | None = Nonenum_layers: int = 19num_single_layers: int = 38attention_head_dim: int = 128num_attention_heads: int = 24joint_attention_dim: int = 4096pooled_projection_dim: int = 768guidance_embeds: bool = Falseaxes_dims_rope: tuple = (16, 56, 56) )

Parametreler

  • patch_size (int, varsayılan 1) — Girdi verisini küçük yamalar (patch) haline getirmek için yama boyutu.
  • in_channels (int, varsayılan 64) — Girdideki kanal sayısı.
  • out_channels (int, isteğe bağlı, varsayılan None) — Çıktıdaki kanal sayısı. Belirtilmezse, varsayılan olarak in_channels değerini alır.
  • num_layers (int, varsayılan 19) — Kullanılacak çift akışlı DiT bloklarının katman sayısı.
  • num_single_layers (int, varsayılan 38) — Kullanılacak tek akışlı DiT bloklarının katman sayısı.
  • attention_head_dim (int, varsayılan 128) — Her dikkat başlığı için kullanılacak boyut sayısı.
  • num_attention_heads (int, varsayılan 24) — Kullanılacak dikkat başı sayısı.
  • joint_attention_dim (int, varsayılan 4096) — Ortak dikkat için kullanılacak boyut sayısı (encoder_hidden_states'in gömme/kanal boyutu).
  • pooled_projection_dim (int, varsayılan 768) — Birleştirilmiş projeksiyon için kullanılacak boyut sayısı.
  • guidance_embeds (bool, varsayılan False) — Modelin rehberlik damıtılmış (guidance-distilled) varyantı için rehberlik gömme (guidance embeddings) kullanılıp kullanılmayacağı.
  • axes_dims_rope (tuple[int], varsayılan (16, 56, 56)) — Döner konumsal gömme için kullanılacak boyutlar.

Flux'ta tanıtılan Transformer modeli.

Referans: https://blackforestlabs.ai/announcing-black-forest-labs/

forward

< >

( hidden_states: Tensorencoder_hidden_states: Tensor = Nonepooled_projections: Tensor = Nonetimestep: LongTensor = Noneimg_ids: Tensor = Nonetxt_ids: Tensor = Noneguidance: Tensor = Nonejoint_attention_kwargs: dict[str, typing.Any] | None = Nonecontrolnet_block_samples = Nonecontrolnet_single_block_samples = Nonereturn_dict: bool = Truecontrolnet_blocks_repeat: bool = False )

Parametreler

  • hidden_states (torch.Tensor, şekli (batch_size, image_sequence_length, in_channels)) — Girdi hidden_states.
  • encoder_hidden_states (torch.Tensor, şekli (batch_size, text_sequence_length, joint_attention_dim)) — Kullanılacak koşullu gömme değerleri (istekler gibi girdi koşullarından hesaplanan gömme değerleri).
  • pooled_projections (torch.Tensor, şekli (batch_size, projection_dim)) — Girdi koşullarının gömülme değerlerinden yansıtılan gömülme değerleri.
  • timestep ( torch.LongTensor) — Gürültü azaltma adımını belirtmek için kullanılır.
  • img_ids (torch.Tensor) — Döner konumsal gömme hesaplamalarında kullanılan görüntü konum kimlikleri.
  • txt_ids (torch.Tensor) — Döner konumsal gömme hesaplamalarında kullanılan metin konum kimlikleri.
  • guidance (torch.Tensor, isteğe bağlı) — Modelin guidance-distilled varyantları için kullanılan guidance ölçek gömme değeri.
  • controlnet_block_samples (list of torch.Tensor, isteğe bağlı) — Belirtilirse, transformer bloklarının artıklarına eklenen tensörlerin listesi.
  • controlnet_single_block_samples (list of torch.Tensor, isteğe bağlı) — Belirtilirse, tekil transformer bloklarının artıklarına eklenen tensörlerin listesi.
  • controlnet_blocks_repeat (bool, isteğe bağlı, varsayılan False) — Controlnet blok örneklerinin tüm transformer blokları boyunca tekrarlanıp tekrarlanmayacağı.
  • joint_attention_kwargs (dict, isteğe bağlı) — Belirtilirse, diffusers.models.attention_processor içindeki self.processor altında tanımlanan AttentionProcessor'a iletilen bir kwargs sözlüğü.
  • return_dict (bool, isteğe bağlı, varsayılan True) — Düz bir tuple yerine ~models.transformer_2d.Transformer2DModelOutput döndürülüp döndürülmemesi.

FluxTransformer2DModel ileri yöntemi.

Update on GitHub