Kritt keng Feelermeldungen méi! Konfiguréiert d'Basis-URL an d'API vu Cloudflare einfach fir OpenAI-Kompatibilitéit.

Firwat gëtt meng Cloudflare AI Basis-URL ëmmer e 404-Fehler zréck?

Dësen Artikel léiert Iech a Sekonnen, wéi Dir séier eng Cloudflare-kompatibel OpenAI Basis-URL kritt a konfiguréiert. En enthält perfekt Templates fir offiziell REST API, AI Gateway Format a Clienten vun Drëttubidder (Dify/One-API), wat Iech hëlleft, gratis AI APIs mat engem eenzege Klick op d'Been ze stellen!

Lescht Woch huet mech e Frënd, deen onofhängeg Entwécklung mécht, op eemol kontaktéiert a mir e Screenshot geschéckt, deen e Bildschierm voller 401-Feeler weist. Hie sot: "Brudder, ech probéieren de ganzen Dag d'AI API vu Cloudflare ze debuggen, mee et funktionéiert einfach net."

Ech hunn e Bléck op säi Code gehäit. D'Basis-URL war op /ai/v1 gesat, awer de Request Body war als offiziell REST API formatéiert, sou datt déi zwee guer net iwwereneestëmmen.

Hie sot, hie wollt just den SDK vun OpenAI benotze fir e Modell op Workers AI ze debuggen, gëtt et e Problem?

Dëst ass e grousst Problem.

D'KI-Servicer vu Cloudflare benotzen dräi komplett verschidde Basis-URLen, jee no Szenario. Jidderee vun hinnen huet säin eegent Format a jeeweileg Szenarien. Och wann et Dokumentatioun gëtt, ass se iwwer verschidde Säiten verdeelt, soudatt et schwéier ass ze wëssen, op wéi eng ee sech beim éischte Versuch bezéie soll. Wann Dir déi falsch URL benotzt, féiert dat zu engem 401- oder 400-Feeler, wat Iech verhënnert, op de Service zouzegräifen.

Wéi ech dëst Problem fir d'éischt begéint sinn, hunn ech et e puermol probéiert, ier ech et erausfonnt hunn. Ech war sprachlos, wéi ech de Bildschierm voller Fehlermeldungen ugekuckt hunn.

Haut wäert ech Iech dës dräi Weeër kloer zeechnen, fir datt Dir no der Liesung keng weider Feeler maacht.

Basis-URL fir OpenAI-kompatibel Interface

Loosst eis mat deem ufänken, wat am meeschte benotzt gëtt.

Wann Dir den OpenAI SDK benotzt, oder Tools déi personaliséiert OpenAI Formater wéi LangChain, Dify, NextChat oder One-API ënnerstëtzen, dann ass dëst déi richteg Approche.

https://api.cloudflare.com/client/v4/accounts/{你的account_id}/ai/v1

Dëst ass eppes, wat Cloudflare speziell entwéckelt huet, fir sech mam OpenAI-Interfaceformat unzepassen. Füügt `/chat/completions` nom Endpunkt vum komplette Dialog derbäi. Ersetzt Är ursprénglech OpenAI Basis-URL doduerch, an ersetzt den API-Schlëssel duerch Äre Cloudflare-Token, an et sollt direkt lafen. Ech hunn Modeller wéi `@cf/deepseek-ai/deepseek-r1-distill-qwen-32b` an `@cf/meta/llama-3.1-8b-instruct` ausprobéiert, an si funktionéieren all gutt.

Et sollt awer bemierkt ginn, datt dëst nëmmen textbaséiert Dialogmodeller ënnerstëtzt.

Déi offiziell nativ REST API vu Cloudflare

Wann Dir Stable Diffusion fir Graphen, Whisper fir Audiotranskriptioun oder all aner net-textuellt Modell benotze musst, da wielt déi zweet Method, nämlech déi offiziell nativ REST API vu Cloudflare.

https://api.cloudflare.com/client/v4/accounts/{你的account_id}/ai/run

Den Numm vum Modell kann am Pfad geschriwwe ginn, wéi zum Beispill /ai/run/@cf/bytedance/stable-diffusion-xl-lightning, oder en kann am Feld `model` vum Ufro-Kierper gesat ginn. Ech léiwer en am Feld ze setzen; de Pfad ass méi kuerz a méi propper. Ech war och am Ufank duercherneen iwwer dësen Detail. E puer Modeller akzeptéieren béid Methoden, anerer nëmmen eng. Passt op dëst op wann Dir d'Dokumentatioun nokuckt.

Basis-URL vun der AI-Gateway

Et gëtt en drëtte Wee: KI Gateway.

Dëst Szenario ass liicht anescht. Wann Dir en AI Gateway am Cloudflare Backend ageriicht hutt fir Drëttubidder-APIen ze proxyen, wéi z.B. OpenAI-Ufroen iwwer de Cloudflare Gateway fir Caching, Iwwerwaachung a Geschwindegkeetslimitéierung weiderzeleeden, dann wier d'Basis-URL...

https://gateway.ai.cloudflare.com/v1/{你的account_id}/{你的gateway_id}/openai

Wann een `/chat/completions` nom Endpunkt "complete" derbäisetzt, gëtt séchergestallt, datt den ganzen Traffic iwwer de Cloudflare-Gateway leeft, an de Log-Panel weist d'Latenz an d'Resultat vun all Ufro. Dës Funktioun ass immens nëtzlech, well d'Team mat méi Projeten wiisst, soudatt een net méi muss duerch Daten vun de Backends vu verschiddene Fournisseuren een nom aneren gesicht ginn.

Wéi een auswielt: Dräi Sätz vun URLen, déi an engem Saz erkläert ginn.

Okay, dat deckt déi dräi Weeër of. Zesummegefaasst gëtt et just ee Prinzip.

De Wee, deen Dir wielt, hänkt vun den Tools of, déi Dir benotzt.

Fir den OpenAI SDK ze benotzen fir en Dialogmodell opzeruffen, gitt op `/ai/v1`. Fir en Bild/Audiomodell opzeruffen, gitt op `/ai/run`. Fir eng eenheetlech Gestioun iwwer e Gateway, gitt op `/gateway/`. D'Authentifikatiounsmethod ass déiselwecht: gitt `Authorization: Bearer` gefollegt vun Ärem API Token an den Header. Erstellt den Token am Cloudflare Backend, an denkt drun d'Berechtegung `Workers AI: Edit` ze kontrolléieren.

Wou fannt Dir d'account_id? Mellt Iech an Ärem Cloudflare-Adminpanel un, scrollt erof op d'API-Sektioun an der rietser Säitebar oder kuckt an der Adressbar vun Ärem Browser no; dee 32-Zeechen alphanumeresche String ass et.

Éierlech gesot, nodeems ech mengem Frënd deen Dag gehollef hat, et fäerdeg ze kréien, huet hien eppes zu mir gesot, wat ech mengen, ganz richteg ass: et war net, datt ech net wousst, wéi, et war, datt d'Dokumentatioun et mir net kloer erkläert hat.

Vill technesch Konfiguratioune sinn esou. Et ass net sou, datt se besonnesch schwéier sinn, mee et gi vill Entréeën, sou datt et einfach ass, sech beim éischte Versuch ze verléieren. Wann Dir op verschidde onerklärlech Feeler bei der Konfiguratioun vu Cloudflare AI gestouss sidd, ass et héchstwahrscheinlech wéinst enger falscher Basis-URL oder engem falsch formatéierte Format. Haalt dës dräi Sätz vun URLen prett; Dir kënnt déi nächst Kéier einfach déi richteg fannen.

Gär geschitt.

Also, well Dir bis elo gelies hutt, wann Dir et hëllefräich fonnt hutt, gitt et w.e.g. e Like a deelt et. Wann Dir als éischt Updates wëllt kréien, kënnt Dir mir och verfollegen! ⭐

Merci datt Dir mäin Artikel gelies hutt. Bis déi nächst Kéier.