Diffusers documentation
FluxTransformer2DModel
FluxTransformer2DModel
Flux'tan görüntü benzeri veriler için bir Transformer modeli.
FluxTransformer2DModel
sınıf diffusers.FluxTransformer2DModel
< source >( patch_size: int = 1in_channels: int = 64out_channels: int | None = Nonenum_layers: int = 19num_single_layers: int = 38attention_head_dim: int = 128num_attention_heads: int = 24joint_attention_dim: int = 4096pooled_projection_dim: int = 768guidance_embeds: bool = Falseaxes_dims_rope: tuple = (16, 56, 56) )
Parametreler
- patch_size (
int, varsayılan1) — Girdi verisini küçük yamalar (patch) haline getirmek için yama boyutu. - in_channels (
int, varsayılan64) — Girdideki kanal sayısı. - out_channels (
int, isteğe bağlı, varsayılanNone) — Çıktıdaki kanal sayısı. Belirtilmezse, varsayılan olarakin_channelsdeğerini alır. - num_layers (
int, varsayılan19) — Kullanılacak çift akışlı DiT bloklarının katman sayısı. - num_single_layers (
int, varsayılan38) — Kullanılacak tek akışlı DiT bloklarının katman sayısı. - attention_head_dim (
int, varsayılan128) — Her dikkat başlığı için kullanılacak boyut sayısı. - num_attention_heads (
int, varsayılan24) — Kullanılacak dikkat başı sayısı. - joint_attention_dim (
int, varsayılan4096) — Ortak dikkat için kullanılacak boyut sayısı (encoder_hidden_states'in gömme/kanal boyutu). - pooled_projection_dim (
int, varsayılan768) — Birleştirilmiş projeksiyon için kullanılacak boyut sayısı. - guidance_embeds (
bool, varsayılanFalse) — Modelin rehberlik damıtılmış (guidance-distilled) varyantı için rehberlik gömme (guidance embeddings) kullanılıp kullanılmayacağı. - axes_dims_rope (
tuple[int], varsayılan(16, 56, 56)) — Döner konumsal gömme için kullanılacak boyutlar.
Flux'ta tanıtılan Transformer modeli.
Referans: https://blackforestlabs.ai/announcing-black-forest-labs/
forward
< source >( hidden_states: Tensorencoder_hidden_states: Tensor = Nonepooled_projections: Tensor = Nonetimestep: LongTensor = Noneimg_ids: Tensor = Nonetxt_ids: Tensor = Noneguidance: Tensor = Nonejoint_attention_kwargs: dict[str, typing.Any] | None = Nonecontrolnet_block_samples = Nonecontrolnet_single_block_samples = Nonereturn_dict: bool = Truecontrolnet_blocks_repeat: bool = False )
Parametreler
- hidden_states (
torch.Tensor, şekli(batch_size, image_sequence_length, in_channels)) — Girdihidden_states. - encoder_hidden_states (
torch.Tensor, şekli(batch_size, text_sequence_length, joint_attention_dim)) — Kullanılacak koşullu gömme değerleri (istekler gibi girdi koşullarından hesaplanan gömme değerleri). - pooled_projections (
torch.Tensor, şekli(batch_size, projection_dim)) — Girdi koşullarının gömülme değerlerinden yansıtılan gömülme değerleri. - timestep (
torch.LongTensor) — Gürültü azaltma adımını belirtmek için kullanılır. - img_ids (
torch.Tensor) — Döner konumsal gömme hesaplamalarında kullanılan görüntü konum kimlikleri. - txt_ids (
torch.Tensor) — Döner konumsal gömme hesaplamalarında kullanılan metin konum kimlikleri. - guidance (
torch.Tensor, isteğe bağlı) — Modelin guidance-distilled varyantları için kullanılan guidance ölçek gömme değeri. - controlnet_block_samples (
listoftorch.Tensor, isteğe bağlı) — Belirtilirse, transformer bloklarının artıklarına eklenen tensörlerin listesi. - controlnet_single_block_samples (
listoftorch.Tensor, isteğe bağlı) — Belirtilirse, tekil transformer bloklarının artıklarına eklenen tensörlerin listesi. - controlnet_blocks_repeat (
bool, isteğe bağlı, varsayılanFalse) — Controlnet blok örneklerinin tüm transformer blokları boyunca tekrarlanıp tekrarlanmayacağı. - joint_attention_kwargs (
dict, isteğe bağlı) — Belirtilirse, diffusers.models.attention_processor içindekiself.processoraltında tanımlananAttentionProcessor'a iletilen bir kwargs sözlüğü. - return_dict (
bool, isteğe bağlı, varsayılanTrue) — Düz bir tuple yerine~models.transformer_2d.Transformer2DModelOutputdöndürülüp döndürülmemesi.
FluxTransformer2DModel ileri yöntemi.