Diffusers documentation
LTXVideoTransformer3DModel
LTXVideoTransformer3DModel
A Diffusion Transformer model for 3D data from LTX was introduced by Lightricks.
يمكن تحميل النموذج باستخدام مقتطف الشيفرة التالي.
from diffusers import LTXVideoTransformer3DModel
transformer = LTXVideoTransformer3DModel.from_pretrained("Lightricks/LTX-Video", subfolder="transformer", dtype=torch.bfloat16).to("cuda") # or "mps", "xpu", "cpu"LTXVideoTransformer3DModel
فئة diffusers.LTXVideoTransformer3DModel
< source >( in_channels: int = 128out_channels: int = 128patch_size: int = 1patch_size_t: int = 1num_attention_heads: int = 32attention_head_dim: int = 64cross_attention_dim: int = 2048num_layers: int = 28activation_fn: str = 'gelu-approximate'qk_norm: str = 'rms_norm_across_heads'norm_elementwise_affine: bool = Falsenorm_eps: float = 1e-06caption_channels: int = 4096attention_bias: bool = Trueattention_out_bias: bool = True )
المعاملات
- in_channels (
int)، القيمة الافتراضية128) — عدد القنوات في المدخلات. - out_channels (
int، القيمة الافتراضية128) — عدد القنوات في المخرجات. - patch_size (
int، القيمة الافتراضية1) — حجم البقع المكانية المستخدمة في طبقة تضمين البقع. - patch_size_t (
int، القيمة الافتراضية1) — حجم البقع الزمنية (temporal patches) المستخدمة في طبقة تضمين البقع (patch embedding layer). - num_attention_heads (
int، القيمة الافتراضية32) — عدد الرؤوس المستخدمة في الانتباه متعدد الرؤوس. - attention_head_dim (
int، القيمة الافتراضية64) — عدد القنوات في كل رأس. - cross_attention_dim (
int، القيمة الافتراضية2048) — عدد القنوات لرؤوس الانتباه المتقاطع. - num_layers (
int، القيمة الافتراضية28) — عدد طبقات كتل Transformer المستخدمة. - activation_fn (
str، القيمة الافتراضية"gelu-approximate") — دالة التنشيط المستخدمة في الشبكة العصبية الأمامية. - qk_norm (
str، القيمة الافتراضية"rms_norm_across_heads") — طبقة التطبيع المستخدمة.
نموذج Transformer لبيانات تشبه الفيديو يُستخدم في LTX.
forward
< source >( hidden_states: Tensorencoder_hidden_states: Tensortimestep: LongTensorencoder_attention_mask: Tensornum_frames: int | None = Noneheight: int | None = Nonewidth: int | None = Nonerope_interpolation_scale: typing.Union[tuple[float, float, float], torch.Tensor, NoneType] = Nonevideo_coords: typing.Optional[torch.Tensor] = Noneattention_kwargs: dict[str, typing.Any] | None = Nonereturn_dict: bool = True ) → torch.Tensor
المعاملات
- hidden_states (
torch.Tensorمن الشكل(batch_size, sequence_length, in_channels)) — مدخلاتhidden_states. - encoder_hidden_states (
torch.Tensorمن الشكل(batch_size, sequence_len, embed_dims)) — تضمينات شرطية (تضمينات محسوبة من الشروط المدخلة مثل الأوامر النصية) للاستخدام. - timestep (
torch.LongTensor) — يُستخدم للإشارة إلى خطوة إزالة الضوضاء. - encoder_attention_mask (
torch.Tensor) — قناع يُطبَّق علىencoder_hidden_statesأثناء الانتباه. - num_frames (
int, اختياري) — عدد الإطارات في الفيديو المستخدمة لحساب التضمينات الموضعية الدوارة. - height (
int، اختياري) — ارتفاع الكامن المستخدم لحساب التضمينات الموضعية الدوارة. - width (
int، اختياري) — عرض المتغير الكامن المستخدم لحساب التضمينات الموضعية الدوارة. - rope_interpolation_scale (
tupleمنfloatأوtorch.Tensor، اختياري) — مقياس الاستيفاء المستخدم في التضمينات الموضعية الدوارة. - video_coords (
torch.Tensor، اختياري) — إحداثيات الفيديو المحسوبة مسبقًا التي تُستخدمها التضمينات الموضعية الدوارة. - attention_kwargs (
dict، اختياري) — قاموس kwargs يُمرَّر إلىAttentionProcessorإذا تم تحديده، كما هو معرَّف تحتself.processorفي diffusers.models.attention_processor. - return_dict (
bool، اختياري، القيمة الافتراضيةTrue) — ما إذا كان يجب إرجاع~models.transformer_2d.Transformer2DModelOutputبدلاً من tuple عادي.
يعيد
torch.Tensor
المخرجات المُزالة الضوضاء على شكل متجه (تِنسور) بأبعاد (batch_size, sequence_length, out_channels).
طريقة LTXVideoTransformer3DModel الأمامية.
Transformer2DModelOutput
فئة diffusers.models.modeling_outputs.Transformer2DModelOutput
< source >( sample: torch.Tensor )
المعاملات
- sample (
torch.Tensorمن الشكل(batch_size, num_channels, height, width)أو(batch size, num_vector_embeds - 1, num_latent_pixels)إذا كان Transformer2DModel منفصلاً) — مخرجات الحالات المخفية المشروطة على مدخلencoder_hidden_states. إذا كان منفصلاً، يعيد توزيعات الاحتمال للبكسلات الكامنة غير الملوثة.
مخرجات Transformer2DModel.