Imenik članaka
Zašto moj osnovni URL na Cloudflare AI uvijek vraća grešku 404?
Ovaj članak vas u sekundama uči kako brzo dobiti i konfigurirati Cloudflare-kompatibilni osnovni URL za OpenAI. Uključuje savršene predloške za službeni REST API, AI Gateway format i klijente trećih strana (Dify/One-API), pomažući vam da pokrenete besplatne AI API-je jednim klikom!
Prošli tjedan me prijatelj koji se bavi samostalnim razvojem iznenada kontaktirao i poslao mi snimku zaslona punu 401 grešaka. Rekao je: "Brate, cijeli dan pokušavam debugirati Cloudflareov AI API, ali jednostavno ne radi."
Bacio sam pogled na njegov kod. Osnovni URL bio je postavljen na /ai/v1, ali tijelo zahtjeva bilo je formatirano kao službeni REST API, tako da se ta dva uopće nisu podudarala.
Rekao je da samo želi koristiti OpenAI-jev SDK za otklanjanje pogrešaka u modelu na Workers AI-u, ima li kakvih problema?
Ovo je veliki problem.
Cloudflareove AI usluge koriste tri potpuno različita osnovna URL-a ovisno o scenariju. Svaki ima svoj format i primjenjive scenarije. Iako postoji dokumentacija, ona je raspršena po različitim stranicama, što otežava prepoznavanje na koji se treba pozvati pri prvom pokušaju. Korištenje pogrešnog URL-a rezultirat će pogreškom 401 ili 400, što će vam onemogućiti pristup usluzi.
Kad sam se prvi put susreo s ovim problemom, pokušao sam nekoliko puta prije nego što sam shvatio. Ostao sam bez riječi gledajući ekran pun poruka o pogreškama.
Danas ću vam jasno nacrtati ove tri ceste, kako ne biste napravili više grešaka nakon što ovo pročitate.
Osnovni URL sučelja kompatibilnog s OpenAI-jem
Krenimo s najčešće korištenim.
Ako koristite OpenAI SDK ili alate koji podržavaju prilagođene OpenAI formate kao što su LangChain, Dify, NextChat ili One-API, onda je ovo ispravan pristup.
https://api.cloudflare.com/client/v4/accounts/{你的account_id}/ai/v1
Ovo je nešto što je Cloudflare posebno dizajnirao kako bi se uskladilo s formatom OpenAI sučelja. Dodajte `/chat/completions` nakon završne točke potpunog dijaloga. Zamijenite svoj izvorni OpenAI osnovni URL s ovim i zamijenite API ključ svojim Cloudflare tokenom i trebalo bi se pokrenuti izravno. Isprobao sam modele poput `@cf/deepseek-ai/deepseek-r1-distill-qwen-32b` i `@cf/meta/llama-3.1-8b-instruct` i svi rade dobro.
Međutim, treba napomenuti da ovo podržava samo modele dijaloga temeljene na tekstu.
Cloudflareov službeni izvorni REST API
Ako trebate koristiti Stable Diffusion za grafički prikaz, Whisper za audio transkripciju ili bilo koji model koji nije tekst, odaberite drugi put, a to je službeni nativni REST API tvrtke Cloudflare.
https://api.cloudflare.com/client/v4/accounts/{你的account_id}/ai/run
Naziv modela može se napisati u putanji, kao što je /ai/run/@cf/bytandance/stable-diffusion-xl-lightning, ili se može smjestiti u polje `model` u tijelu zahtjeva. Više volim staviti ga u polje; putanja je kraća i čišća. I mene je ovaj detalj u početku zbunjivao. Neki modeli prihvaćaju obje metode, dok drugi prihvaćaju samo jednu. Obratite pozornost na to prilikom provjere dokumentacije.
Osnovni URL AI Gatewaya
Postoji i treći način: AI Gateway.
Ovaj scenarij je malo drugačiji. Ako ste postavili AI Gateway u Cloudflare backendu za proxy API-je trećih strana, kao što je prosljeđivanje OpenAI zahtjeva putem Cloudflare gatewaya za predmemoriranje, praćenje i ograničavanje brzine, tada bi osnovni URL bio...
https://gateway.ai.cloudflare.com/v1/{你的account_id}/{你的gateway_id}/openai
Dodavanje `/chat/completions` nakon dovršene krajnje točke osigurava da sav promet prolazi kroz Cloudflare pristupnik, a ploča zapisnika prikazuje latenciju i rezultat svakog zahtjeva. Ova je značajka nevjerojatno korisna kako tim raste s više projekata, eliminirajući potrebu za pretraživanjem podataka iz pozadinskih sustava različitih dobavljača jednog po jednog.
Kako odabrati: Tri seta URL-ova objašnjena u jednoj rečenici.
U redu, to pokriva tri puta. Ukratko, postoji samo jedan princip.
Put koji odaberete ovisi o alatima koje koristite.
Za korištenje OpenAI SDK-a za pozivanje modela dijaloga, idite na `/ai/v1`. Za pozivanje modela slike/zvuka, idite na `/ai/run`. Za objedinjeno upravljanje putem pristupnika, idite na `/gateway/`. Metoda autentifikacije je ista: u zaglavlje stavite `Authorization: Bearer` nakon čega slijedi vaš API token. Izradite token u Cloudflare backendu i ne zaboravite označiti dopuštenje `Workers AI: Edit`.
Gdje pronaći account_id? Prijavite se u administratorsku ploču Cloudflarea, pomaknite se prema dolje do odjeljka API u desnoj bočnoj traci ili provjerite adresnu traku preglednika; taj 32-znakovni alfanumerički niz je to.
Iskreno, nakon što sam tog dana pomogao prijatelju da to obavi, rekao mi je nešto što mislim da je sasvim točno: nije da nisam znao kako, nego da mi dokumentacija nije jasno objasnila.
Mnoge tehničke konfiguracije su takve. Nije da su posebno teške, ali ima previše ulaznih točaka, što olakšava gubitak pri prvom pokušaju. Ako ste naišli na razne neobjašnjive pogreške prilikom konfiguriranja Cloudflare AI-a, najvjerojatnije je to zbog netočnog osnovnog URL-a ili pogrešno formatiranog formata. Držite ova tri seta URL-ova pri ruci; sljedeći put lako možete pronaći ispravan.
Nema na čemu.
Dakle, budući da ste pročitali do sada, ako vam je bilo korisno, lajkajte i podijelite. Ako želite prvi primati novosti, možete me i pratiti! ⭐
Hvala vam što ste pročitali moj članak. Vidimo se sljedeći put.
Nadam se da će vam članak "Prestanite prijavljivati pogreške! Jednostavno konfigurirajte Cloudflare za kompatibilnost s OpenAI-jem: Osnovni URL i sučelje" podijeljen na blogu Chen Weilianga ( https://www.chenweiliang.com/ ) biti koristan.
Slobodno podijelite poveznicu na ovaj članak: https://www.chenweiliang.com/cwl-34252.html