Huggingface.js documentation

インターフェース: ModelConfig

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

インターフェース: ModelConfig

プロパティ

expert _ dtype

• Optional expert_dtype: string

一部のMoEは、モデルの他の部分よりも狭い精度でエキスパートを保存し、quantization_configの外側でこれを宣言します(例: DeepSeek-V4)。quantization configが独自のexpert_dtypeを宣言していない場合(DeepSeek-V4.1がそうであるように)のフォールバックとして使用されます。

定義場所

packages/hub/src/lib/parse-safetensors-metadata.ts:968


量子化

• Optional 量子化: MlxQuantizationConfig

現在のMLX形式。モジュール名をキーとして、モジュールごとのオーバーライドをオプションで指定できます。

定義場所

packages/hub/src/lib/parse-safetensors-metadata.ts:960


quantization _ config

• Optional quantization_config: QuantizationConfig | MlxQuantizationConfig

定義場所

packages/hub/src/lib/parse-safetensors-metadata.ts:961


text _ config

• Optional text_config: Pick<ModelConfig, "expert_dtype" | "quantization" | "quantization_config">

定義場所

packages/hub/src/lib/parse-safetensors-metadata.ts:962

Update on GitHub