Ĉesu ricevi erarojn! Facile agordu la bazan URL-on kaj API-on de Cloudflare por kongruo kun OpenAI.

Kial mia Cloudflare AI- baza URL ĉiam redonas 404-eraron?

Ĉi tiu artikolo instruas al vi en sekundoj kiel rapide akiri kaj agordi Cloudflare-kongruan OpenAI-bazan URL-on. Ĝi inkluzivas perfektajn ŝablonojn por oficiala REST API, AI Gateway-formato kaj triapartaj klientoj (Dify/One-API), helpante vin ekfunkciigi senpagajn AI-API-ojn per unu klako!

Lastan semajnon, amiko, kiu faras sendependan programiston, subite kontaktis min kaj sendis al mi ekranfoton montrantan ekranon plenan de 401-eraroj. Li diris: "Frato, mi provis sencimigi la AI-API-on de Cloudflare la tutan tagon, sed ĝi simple ne funkcias."

Mi ekrigardis lian kodon. La baza URL estis agordita al /ai/v1, sed la peto-korpo estis formatita kiel la oficiala REST API, do la du tute ne kongruis.

Li diris, ke li nur volis uzi la SDK-on de OpenAI por sencimigi modelon pri Laborista AI, ĉu estas ia problemo?

Jen granda problemo.

La artefarita inteligenteco-servoj de Cloudflare uzas tri tute malsamajn bazajn URL-ojn depende de la scenaro. Ĉiu havas sian propran formaton kaj aplikeblajn scenarojn. Kvankam ekzistas dokumentado, ĝi estas disigita tra malsamaj paĝoj, kio malfaciligas scii kiun referenci ĉe via unua provo. Uzi la malĝustan URL-on rezultigos eraron 401 aŭ 400, malhelpante vin aliri la servon.

Kiam mi unue renkontis ĉi tiun problemon, mi provis plurfoje antaŭ ol eltrovi ĝin. Mi restis senvorta rigardante la ekranon plenan de erarmesaĝoj.

Hodiaŭ mi klare desegnos por vi ĉi tiujn tri vojojn, por ke vi ne faru pluajn erarojn post legado de ĉi tio.

Baza URL de OpenAI Kongrua Interfaco

Ni komencu per la plej ofte uzata.

Se vi uzas la OpenAI SDK, aŭ ilojn kiuj subtenas kutimajn OpenAI-formatojn kiel LangChain, Dify, NextChat, aŭ One-API, tiam ĉi tiu estas la ĝusta aliro.

https://api.cloudflare.com/client/v4/accounts/{你的account_id}/ai/v1

Jen io, kion Cloudflare specife desegnis por kongrui kun la OpenAI-interfaca formato. Aldonu `/chat/completions` post la kompleta dialoga finpunkto. Anstataŭigu vian originalan OpenAI-bazan URL-on per ĉi tio, kaj anstataŭigu la API-ŝlosilon per via Cloudflare-ĵetono, kaj ĝi devus funkcii rekte. Mi provis modelojn kiel `@cf/deepseek-ai/deepseek-r1-distill-qwen-32b` kaj `@cf/meta/llama-3.1-8b-instruct`, kaj ili ĉiuj funkcias bone.

Tamen, oni notu, ke ĉi tio nur subtenas tekst-bazitajn dialogmodelojn.

La oficiala denaska REST API de Cloudflare

Se vi bezonas uzi Stable Diffusion por grafikado, Whisper por aŭdio-transskribo, aŭ ajnan ne-tekstan modelon, prenu la duan vojon, kiu estas la oficiala denaska REST API de Cloudflare.

https://api.cloudflare.com/client/v4/accounts/{你的account_id}/ai/run

La nomo de la modelo povas esti skribita en la dosierpado, ekzemple /ai/run/@cf/bytedance/stable-diffusion-xl-lightning, aŭ ĝi povas esti metita en la kampon `model` de la petokorpo. Mi preferas meti ĝin en la kampon; la dosierpado estas pli mallonga kaj pli pura. Mi ankaŭ komence konfuziĝis pri ĉi tiu detalo. Iuj modeloj akceptas ambaŭ metodojn, dum aliaj akceptas nur unu. Atentu tion dum kontrolado de la dokumentado.

Baza URL de AI-Pordego

Ekzistas tria maniero: AI-Enirejo.

Ĉi tiu scenaro estas iomete malsama. Se vi starigis AI-Pordegon en la Cloudflare-fonto por prokuri triapartajn APIojn, ekzemple plusendi OpenAI-petojn tra la Cloudflare-pordego por kaŝmemorigo, monitorado kaj limigo de rapideco, tiam la Baza URL estus...

https://gateway.ai.cloudflare.com/v1/{你的account_id}/{你的gateway_id}/openai

Aldonante `/chat/completions` post la kompleta finpunkto, oni certigas, ke ĉiu trafiko trapasas la Cloudflare-enirejon, kaj la protokola panelo montras la latentecon kaj rezulton de ĉiu peto. Ĉi tiu funkcio estas nekredeble utila dum la teamo kreskas kun pli da projektoj, forigante la bezonon serĉi tra datumoj de la serviloj de diversaj vendistoj unu post la alia.

Kiel elekti: Tri aroj de URL-oj klarigitaj en unu frazo.

Bone, tio kovras la tri vojojn. Resumante, estas nur unu principo.

La vojo, kiun vi prenas, dependas de la iloj, kiujn vi uzas.

Por uzi la OpenAI SDK por voki dialogan modelon, iru al `/ai/v1`. Por voki bildon/aŭdio-modelon, iru al `/ai/run`. Por unuigita administrado per enirejo, iru al `/gateway/`. La aŭtentiga metodo estas la sama: metu `Authorization: Bearer` sekvata de via API-Ĵetono en la kaplinion. Kreu la Ĵetonon en la Cloudflare-fonto, kaj memoru kontroli la permeson `Workers AI: Edit`.

Kie trovi la account_id? Ensalutu al via Cloudflare-administra panelo, rulumu malsupren al la API-sekcio en la dekstra flanka kolumno, aŭ kontrolu la adresbreton de via retumilo; tiu 32-signa alfanombra ĉeno estas ĝi.

Honeste, post kiam mi helpis mian amikon fari ĝin tiun tagon, li diris al mi ion, kion mi opinias tute ĝusta: ne estis, ke mi ne sciis kiel, sed ke la dokumentaro ne klarigis ĝin klare al mi.

Multaj teknikaj agordoj estas tiaj. Ne temas pri tio, ke ili estas aparte malfacilaj, sed estas tro multaj enirejoj, kio faciligas perdiĝi dum la unua provo. Se vi renkontis diversajn neklarigeblajn erarojn dum la agordado de Cloudflare AI, plej verŝajne temas pri malĝusta baza URL aŭ misformatita formato. Konservu ĉi tiujn tri arojn de URL-oj pretaj; vi povas facile trovi la ĝustan la sekvan fojon.

Bonvolu.

Do, ĉar vi legis ĝis ĉi tie, se vi trovis ĝin helpema, bonvolu ŝati kaj dividi ĝin. Se vi volas ricevi ĝisdatigojn unue, vi ankaŭ povas sekvi min! ⭐

Dankon pro legado de mia artikolo. Ĝis revido.