Diffusers documentation
DPMSolverMultistepScheduler
DPMSolverMultistepScheduler
DPMSolverMultistepScheduler es un programador multipaso de DPM-Solver: A Fast ODE Solver for Diffusion Probabilistic Model Sampling in Around 10 Steps y DPM-Solver++: Fast Solver for Guided Sampling of Diffusion Probabilistic Models de Cheng Lu, Yuhao Zhou, Fan Bao, Jianfei Chen, Chongxuan Li y Jun Zhu.
DPMSolver (y la versión mejorada DPMSolver++) es un solver de alto orden dedicado y rápido para ecuaciones diferenciales ordinarias de difusión, con garantía de orden de convergencia. Empíricamente, el muestreo con DPMSolver de solo 20 pasos puede generar muestras de alta calidad, y puede generar muestras bastante buenas incluso en 10 pasos.
Consejos
Se recomienda establecer solver_order en 2 para la muestreo con guía, y solver_order=3 para el muestreo incondicional.
El umbral dinámico de Imagen es compatible y, para los modelos de difusión en el espacio de píxeles, puede establecer tanto algorithm_type="dpmsolver++" como thresholding=True para utilizar el umbral dinámico. Este método de umbral no es adecuado para los modelos de difusión en el espacio latente, como Stable Diffusion.
La variante SDE de DPMSolver y DPM-Solver++ también se admite, pero solo para los solvers de primer y segundo orden. Se trata de un solver SDE rápido para la SDE de difusión inversa. Se recomienda utilizar el solver de segundo orden sde-dpmsolver++.
DPMSolverMultistepScheduler
clase diffusers.DPMSolverMultistepScheduler
< source >( num_train_timesteps: int = 1000beta_start: float = 0.0001beta_end: float = 0.02beta_schedule: str = 'linear'trained_betas: numpy.ndarray | list[float] | None = Nonesolver_order: int = 2prediction_type: typing.Literal['epsilon', 'sample', 'v_prediction', 'flow_prediction'] = 'epsilon'thresholding: bool = Falsedynamic_thresholding_ratio: float = 0.995sample_max_value: float = 1.0algorithm_type: typing.Literal['dpmsolver', 'dpmsolver++', 'sde-dpmsolver', 'sde-dpmsolver++'] = 'dpmsolver++'solver_type: typing.Literal['midpoint', 'heun'] = 'midpoint'lower_order_final: bool = Trueeuler_at_final: bool = Falseuse_karras_sigmas: bool = Falseuse_exponential_sigmas: bool = Falseuse_beta_sigmas: bool = Falseuse_lu_lambdas: bool = Falseuse_flow_sigmas: bool = Falseflow_shift: float = 1.0final_sigmas_type: typing.Literal['zero', 'sigma_min'] = 'zero'lambda_min_clipped: float = -infvariance_type: typing.Optional[typing.Literal['learned', 'learned_range']] = Nonetimestep_spacing: typing.Literal['linspace', 'leading', 'trailing'] = 'linspace'steps_offset: int = 0rescale_betas_zero_snr: bool = Falseuse_dynamic_shifting: bool = Falsetime_shift_type: typing.Literal['exponential'] = 'exponential' )
Parámetros
- num_train_timesteps (
int, por defecto 1000) — El número de pasos de difusión para entrenar el modelo. - beta_start (
float, por defecto 0.0001) — El valor inicial debetapara la inferencia. - beta_end (
float, valor predeterminado 0.02) — El valor final debeta. - beta_schedule (
"linear","scaled_linear"o"squaredcos_cap_v2", por defecto"linear") — El plan de betas, una correspondencia desde un rango de betas hasta una secuencia de betas para dar pasos al modelo. - trained_betas (
np.ndarray, opcional) — Pase un array de betas directamente al constructor para omitirbeta_startybeta_end. - solver_order (
int, por defecto 2) — El orden de DPMSolver, que puede ser1o2o3. Se recomienda usarsolver_order=2para muestreo guiado ysolver_order=3para muestreo incondicional. - prediction_type (
"epsilon","sample","v_prediction"o"flow_prediction", por defecto"epsilon") — Tipo de predicción de la función del programador.epsilonpredice el ruido del proceso de difusión,samplepredice directamente la muestra con ruido,v_predictionpredice la velocidad (ver la sección 2.4 del artículo Imagen Video) yflow_predictionpredice el flujo. - thresholding (
bool, por defectoFalse) — Si se debe utilizar el método de “umbral dinámico”. No es adecuado para modelos de difusión en el espacio latente, como Stable Diffusion. - dynamic_thresholding_ratio (
float, valor predeterminado 0.995) — La proporción para el método de umbral dinámico. Solo es válido cuandothresholding=True. - sample_max_value (
float, por defecto 1.0) — El valor umbral para el umbral dinámico. Solo es válido cuandothresholding=Trueyalgorithm_type="dpmsolver++". - algorithm_type (
"dpmsolver","dpmsolver++","sde-dpmsolver"o"sde-dpmsolver++", por defecto"dpmsolver++") — Tipo de algoritmo para el solver. El tipodpmsolverimplementa los algoritmos del artículo DPMSolver, y el tipodpmsolver++implementa los algoritmos del artículo DPMSolver++. Se recomienda usardpmsolver++osde-dpmsolver++consolver_order=2para muestreo guiado, como en Stable Diffusion. - solver_type (
"midpoint"o"heun", por defecto"midpoint") — Tipo de solver para el solver de segundo orden. El tipo de solver afecta ligeramente a la calidad de la muestra, especialmente para un número pequeño de pasos. Se recomienda usar los solversmidpoint. - lower_order_final (
bool, por defectoTrue) — Si se deben usar solutores de orden inferior en los pasos finales. Solo es válido para < 15 pasos de inferencia. Esto puede estabilizar el muestreo de DPMSolver para pasos < 15, especialmente para pasos <= 10. - euler_at_final (
bool, por defectoFalse) — Si se debe utilizar el método de Euler en el paso final. Es un equilibrio entre la estabilidad numérica y la riqueza de detalle. Esto puede estabilizar el muestreo de la variante SDE de DPMSolver para un número pequeño de pasos de inferencia, pero a veces puede resultar en un desenfoque. - use_karras_sigmas (
bool, opcional, valor predeterminadoFalse) — Si se deben usar sigmas de Karras para los tamaños de paso en el plan de ruido durante el proceso de muestreo. Si esTrue, los sigmas se determinan según una secuencia de niveles de ruido {σi}. - use_exponential_sigmas (
bool, opcional, valor predeterminadoFalse) — Si se deben usar sigmas exponenciales para los tamaños de paso en el plan de ruido durante el proceso de muestreo. - use_beta_sigmas (
bool, opcional, valor predeterminadoFalse) — Si se deben usar beta sigmas para los tamaños de paso en el programa de ruido durante el proceso de muestreo. Consulte Beta Sampling is All You Need para obtener más información. - use_lu_lambdas (
bool, opcional, valor predeterminadoFalse) — Si se debe utilizar el uniform-logSNR para los tamaños de paso propuesto por el DPM-Solver de Lu en el plan de ruido durante el proceso de muestreo. Si esTrue, las sigmas y los pasos de tiempo se determinan según una secuencia delambda(t). - use_flow_sigmas (
bool, opcional, valor predeterminadoFalse) — Si se deben usar sigmas de flujo para los tamaños de paso en la programación de ruido durante el proceso de muestreo. - flow_shift (
float, opcional, valor predeterminado 1.0) — El valor de desplazamiento para la programación de pasos de tiempo para flow matching. - final_sigmas_type (
"zero"o"sigma_min", opcional, valor predeterminado"zero") — El valor final desigmapara el programa de ruido durante el proceso de muestreo. Si es"sigma_min", el sigma final es el mismo que el último sigma del programa de entrenamiento. Si es"zero", el sigma final se establece en 0. - lambda_min_clipped (
float, por defecto-inf) — Umbral de recorte para el valor mínimo delambda(t)para la estabilidad numérica. Esto es crítico para la programación de ruido coseno (squaredcos_cap_v2). - variance_type (
"learned"o"learned_range", opcional) — Establecer en"learned"o"learned_range"para modelos de difusión que predicen la varianza. Si se establece, la salida del modelo contiene la varianza gaussiana predicha. - timestep_spacing (
"linspace","leading"o"trailing", por defecto"linspace") — La forma en que deben escalarse los timesteps. Consulte la tabla 2 de Common Diffusion Noise Schedules and Sample Steps are Flawed para obtener más información. - steps_offset (
int, valor predeterminado 0) — Un desplazamiento que se suma a los pasos de inferencia, tal como lo requieren algunas familias de modelos. - rescale_betas_zero_snr (
bool, por defectoFalse) — Si se deben reescalar los betas para tener un SNR terminal cero. Esto permite al modelo generar muestras muy brillantes y oscuras en lugar de limitarse a muestras con un brillo medio. Relacionado de forma laxa con--offset_noise. - use_dynamic_shifting (
bool, por defectoFalse) — Si se debe usar un desplazamiento dinámico para el calendario de pasos de tiempo. - time_shift_type (
"exponential", por defecto"exponential") — El tipo de desplazamiento temporal que se aplica al usar desplazamiento dinámico.
DPMSolverMultistepScheduler es un solver de alto orden dedicado y rápido para ecuaciones diferenciales ordinarias de difusión.
Este modelo hereda de SchedulerMixin y ConfigMixin. Consulta la documentación de la clase superior para los métodos genéricos que la biblioteca implementa para todos los programadores, como la carga y el guardado.
add_noise
< source >( original_samples: Tensornoise: Tensortimesteps: IntTensor ) → torch.Tensor
Añade ruido a las muestras originales según el programa de ruido en los pasos de tiempo especificados.
convert_model_output
< source >( model_output: Tensor*argssample: typing.Optional[torch.Tensor] = None**kwargs ) → torch.Tensor
Convierte la salida del modelo al tipo correspondiente que necesita el algoritmo DPMSolver/DPMSolver++. DPM-Solver está diseñado para discretizar una integral del modelo de predicción de ruido, y DPM-Solver++ está diseñado para discretizar una integral del modelo de predicción de datos.
> El algoritmo y el tipo de modelo están desacoplados. Puede usar DPMSolver o DPMSolver++ tanto para modelos de predicción de ruido como para modelos de predicción de datos.
dpm_solver_first_order_update
< source >( model_output: Tensor*argssample: typing.Optional[torch.Tensor] = Nonenoise: typing.Optional[torch.Tensor] = None**kwargs ) → torch.Tensor
Parámetros
- model_output (
torch.Tensor) — La salida directa del modelo de difusión aprendido. - sample (
torch.Tensor, opcional) — Una instancia actual de una muestra creada por el proceso de difusión. - noise (
torch.Tensor, opcional) — El tensor de ruido.
Devuelve
torch.Tensor
El tensor de muestra en el paso de tiempo anterior.
Un paso para el DPMSolver de primer orden (equivalente a DDIM).
index_for_timestep
< source >( timestep: typing.Union[int, torch.Tensor]schedule_timesteps: typing.Optional[torch.Tensor] = None ) → int
Encuentra el índice para un paso de tiempo dado en la programación.
multistep_dpm_solver_second_order_update
< source >( model_output_list: list[torch.Tensor]*argssample: typing.Optional[torch.Tensor] = Nonenoise: typing.Optional[torch.Tensor] = None**kwargs ) → torch.Tensor
Parámetros
- model_output_list (
list[torch.Tensor]) — Las salidas directas del modelo de difusión aprendido en los pasos de tiempo actuales y posteriores. - sample (
torch.Tensor, opcional) — Una instancia actual de una muestra creada por el proceso de difusión. - noise (
torch.Tensor, opcional) — Ruido aleatorio utilizado por las variantes de solvador estocástico (sde-*). Es obligatorio cuandoalgorithm_typese establece en una de ellas y no se utiliza en caso contrario.
Devuelve
torch.Tensor
El tensor de muestra en el paso de tiempo anterior.
Un paso para el DPMSolver multipaso de segundo orden.
multistep_dpm_solver_third_order_update
< source >( model_output_list: list[torch.Tensor]*argssample: typing.Optional[torch.Tensor] = Nonenoise: typing.Optional[torch.Tensor] = None**kwargs ) → torch.Tensor
Parámetros
- model_output_list (
list[torch.Tensor]) — Las salidas directas del modelo de difusión aprendido en los pasos de tiempo actuales y posteriores. - sample (
torch.Tensor, opcional) — Una instancia actual de una muestra creada por el proceso de difusión. - noise (
torch.Tensor, opcional) — El tensor de ruido.
Devuelve
torch.Tensor
El tensor de muestra en el paso de tiempo anterior.
Un paso para el DPMSolver multipaso de tercer orden.
scale_model_input
< source >( sample: Tensor*args**kwargs ) → torch.Tensor
Garantiza la interoperabilidad con los programadores que necesitan escalar la entrada del modelo de desruido en función del paso temporal actual.
set_begin_index
< source >( begin_index: int = 0 )
Establece el índice inicial para el programador. Esta función debe ejecutarse desde la tubería antes de la inferencia.
set_timesteps
< source >( num_inference_steps: int = Nonedevice: typing.Union[str, torch.device] = Nonemu: float | None = Nonetimesteps: list[int] | None = None )
Parámetros
- num_inference_steps (
int, opcional) — El número de pasos de difusión utilizados al generar muestras con un modelo preentrenado. - device (
strotorch.device, opcional) — El dispositivo al que deben moverse los timesteps. Si esNone, los timesteps no se mueven. - mu (
float, opcional) — Exponente para el desplazamiento dinámico en el tiempo. Requiereuse_dynamic_shiftingy untime_shift_typede"exponential"; si se pasa,flow_shiftse establece enexp(mu). - timesteps (
list[int], opcional) — Pasos de tiempo personalizados para admitir una programación de pasos de tiempo arbitraria. Si esNone, los pasos de tiempo se generarán basándose en el atributotimestep_spacing. Si se pasatimesteps,num_inference_stepsysigmasdeben serNone, y el atributotimestep_spacingse ignorará.
Establece los pasos discretos utilizados para la cadena de difusión (para ejecutarse antes de la inferencia).
paso
< source >( model_output: Tensortimestep: typing.Union[int, torch.Tensor]sample: Tensorgenerator: typing.Optional[torch.Generator] = Nonevariance_noise: typing.Optional[torch.Tensor] = Nonereturn_dict: bool = True ) → SchedulerOutput or tuple
Parámetros
- model_output (
torch.Tensor) — La salida directa del modelo de difusión aprendido. - timestep (
intotorch.Tensor) — El paso de tiempo discreto actual en la cadena de difusión. - sample (
torch.Tensor) — Una instancia actual de una muestra creada por el proceso de difusión. - generator (
torch.Generator, opcional) — Un generador de números aleatorios. - variance_noise (
torch.Tensor, opcional) — Alternativa a generar ruido congeneratorproporcionando directamente el ruido para la varianza misma. Útil para métodos comoLEdits++. - return_dict (
bool, por defectoTrue) — Si se devuelve un SchedulerOutput o unatuple.
Devuelve
SchedulerOutput o tuple
Si return_dict es True, se devuelve SchedulerOutput; en caso contrario, se devuelve una tupla cuyo primer elemento es el tensor de la muestra.
Predice la muestra del paso de tiempo anterior invirtiendo la EDE. Esta función propaga la muestra con el DPMSolver de múltiples pasos.
SchedulerOutput
clase diffusers.schedulers.scheduling_utils.SchedulerOutput
< source >( prev_sample: Tensor )
Clase base para la salida de la función step de un programador.