Arayüz: BaseArgs

Özellikler

accessToken

• Optional accessToken: string

Kullanılacak erişim belirteci. Bu olmadan hızla hız sınırlamasına takılırsınız.

hf.co/settings/token adresinde ücretsiz olarak oluşturulabilir

Uygun bir sağlayıcıya (Together, Replicate, Cohere vb.) çağrı yapmayı planlıyorsanız, harici bir Inference sağlayıcısının anahtarını da iletebilirsiniz.

Tanımlandığı yer

inference/src/types.ts:125

---

endpointUrl

• Optional endpointUrl: string

Kullanılacak uç noktanın URL'si.

Belirtilmezse, varsayılan router.huggingface.co Inference Providers uç noktası çağrılır.

Tanımlandığı yer

inference/src/types.ts:142

---

model

• Optional model: string

Kullanılacak HF modeli.

Belirtilmezse, görevin varsayılan modelini almak için huggingface.co/api/tasks çağrılır.

/!\ Eski davranış, bunun bir URL olmasına izin verir, ancak bu kullanımdan kaldırılmıştır ve gelecekte kaldırılacaktır. Bunun yerine endpointUrl parametresini kullanın.

Tanımlandığı yer

inference/src/types.ts:135

---

sağlayıcı

• Optional provider: "baseten" | "cerebras" | "cohere" | "deepinfra" | "fal-ai" | "featherless-ai" | "fireworks-ai" | "groq" | "hf-inference" | "humain-ai" | "novita" | "nscale" | "openai" | "openrouter" | "ovhcloud" | "publicai" | "replicate" | "scaleway" | "together" | "wavespeed" | "zai-org" | "auto"

Bu modeli çalıştırmak için bir Inference sağlayıcısı ayarlayın.

Varsayılan olarak “auto”dur, yani model için kullanılabilir sağlayıcıların, https://hf.co/settings/inference-providers adresindeki kullanıcı sıralamasına göre sıralanmış ilk olanıdır.

Tanımlandığı yer

inference/src/types.ts:149

Update on GitHub