Straipsnių katalogas
Cloudflare AI Kodėl bazinis URL visada grąžina 404 klaidą?
Šiame straipsnyje per kelias sekundes sužinosite, kaip greitai gauti ir sukonfigūruoti su „Cloudflare“ suderinamą „OpenAI“ bazinį URL. Jame yra puikūs šablonai oficialiai REST API, AI šliuzo formatui ir trečiųjų šalių klientams („Dify“ / „One-API“), kurie padės jums vienu spustelėjimu paleisti nemokamas AI API!
Praėjusią savaitę su manimi susisiekė draugas, kuris užsiima savarankiška programavimu, ir atsiuntė ekrano kopiją, kurioje matyti 401 klaida. Jis pasakė: „Broli, visą dieną bandžiau derinti „Cloudflare“ dirbtinio intelekto API, bet tai tiesiog neveikia.“
Žvilgtelėjau į jo kodą. Bazinis URL buvo nustatytas į /ai/v1, bet užklausos tekstas buvo suformatuotas kaip oficiali REST API, todėl jie visiškai nesutapo.
Jis sakė, kad tiesiog norėjo panaudoti „OpenAI“ SDK, kad derintų modelį „Workers AI“, ar yra kokių nors problemų?
Tai didelė problema.
„Cloudflare“ dirbtinio intelekto paslaugos naudoja tris visiškai skirtingus bazinius URL, priklausomai nuo scenarijaus. Kiekvienas turi savo formatą ir taikomus scenarijus. Nors dokumentacija yra, ji yra išsklaidyta skirtinguose puslapiuose, todėl sunku žinoti, kurį iš jų naudoti pirmą kartą bandant. Naudojant neteisingą URL, bus pateikta 401 arba 400 klaida, dėl kurios negalėsite pasiekti paslaugos.
Kai pirmą kartą susidūriau su šia problema, kelis kartus bandžiau, kol ją išsiaiškinau. Netekau žado žiūrėdamas į ekraną, pilną klaidų pranešimų.
Šiandien aiškiai nupiešiu šiuos tris kelius, kad perskaitę tai, daugiau nepadarytumėte klaidų.
OpenAI suderinamos sąsajos bazinis URL
Pradėkime nuo dažniausiai naudojamo.
Jei naudojate „OpenAI SDK“ arba įrankius, kurie palaiko pasirinktinius „OpenAI“ formatus, pvz., „LangChain“, „Dify“, „NextChat“ arba „One-API“, tai yra teisingas metodas.
https://api.cloudflare.com/client/v4/accounts/{你的account_id}/ai/v1
Tai yra kažkas, ką „Cloudflare“ specialiai sukūrė, kad atitiktų „OpenAI“ sąsajos formatą. Po užbaigto dialogo galinio taško pridėkite `/chat/completions`. Pakeiskite savo pradinį „OpenAI“ bazinį URL šiuo URL, o API raktą – savo „Cloudflare“ prieigos raktu ir jis turėtų veikti tiesiogiai. Išbandžiau tokius modelius kaip `@cf/deepseek-ai/deepseek-r1-distill-qwen-32b` ir `@cf/meta/llama-3.1-8b-instruct` ir jie visi veikia puikiai.
Tačiau reikėtų atkreipti dėmesį, kad tai palaiko tik tekstinius dialogo modelius.
Oficiali „Cloudflare“ gimtoji REST API
Jei grafikams braižyti reikia naudoti „Stable Diffusion“, garso transkripcijai – „Whisper“ arba bet kokiam netekstiniam modeliui, rinkitės antrąjį kelią – oficialią „Cloudflare“ REST API.
https://api.cloudflare.com/client/v4/accounts/{你的account_id}/ai/run
Modelio pavadinimą galima įrašyti kelyje, pvz., /ai/run/@cf/bytedance/stable-diffusion-xl-lightning, arba jį galima įdėti į užklausos teksto lauką „model“. Aš mieliau jį įrašau lauke; kelias trumpesnis ir aiškesnis. Iš pradžių mane ši detalė irgi glumino. Kai kurie modeliai priima abu metodus, o kiti – tik vieną. Atkreipkite į tai dėmesį tikrindami dokumentaciją.
DI šliuzo bazinis URL
Yra trečias būdas: dirbtinio intelekto vartai.
Šis scenarijus šiek tiek skiriasi. Jei „Cloudflare“ vidinėje pusėje nustatėte dirbtinio intelekto šliuzą, skirtą trečiųjų šalių API tarpiniam ryšiui, pvz., „OpenAI“ užklausų persiuntimui per „Cloudflare“ šliuzą talpyklai, stebėjimui ir greičio ribojimui, bazinis URL būtų...
https://gateway.ai.cloudflare.com/v1/{你的account_id}/{你的gateway_id}/openai
Pridėjus „/chat/completions“ po užbaigto galinio taško, užtikrinama, kad visas srautas eitų per „Cloudflare“ šliuzą, o žurnalų skydelyje būtų rodomas kiekvienos užklausos delsos laikas ir rezultatas. Ši funkcija yra nepaprastai naudinga komandai augant ir vykdant daugiau projektų, nes nereikia ieškoti duomenų iš įvairių tiekėjų serverių po vieną.
Kaip išsirinkti: trys URL rinkiniai, paaiškinti vienu sakiniu.
Gerai, tai apima tris kelius. Apibendrinant, yra tik vienas principas.
Jūsų pasirinktas kelias priklauso nuo naudojamų įrankių.
Norėdami naudoti „OpenAI SDK“ dialogo modeliui iškviesti, eikite į `/ai/v1`. Norėdami iškviesti vaizdo / garso modelį, eikite į `/ai/run`. Norėdami vieningo valdymo per šliuzą, eikite į `/gateway/`. Autentifikavimo metodas yra tas pats: antraštėje įrašykite `Authorization: Bearer`, o po jo – savo API prieigos raktą. Sukurkite prieigos raktą „Cloudflare“ vidinėje pusėje ir nepamirškite patikrinti leidimo `Workers AI: Edit`.
Kur rasti account_id? Prisijunkite prie „Cloudflare“ administratoriaus skydelio, slinkite žemyn iki API skyriaus dešinėje šoninėje juostoje arba patikrinkite naršyklės adreso juostą – tai 32 simbolių raidinė ir skaitmeninė eilutė.
Sąžiningai, tą dieną padėjęs draugui tai padaryti, jis man pasakė kai ką, kas, manau, yra visiškai teisinga: ne todėl, kad nežinojau kaip, o todėl, kad dokumentuose man tai nebuvo aiškiai paaiškinta.
Daugelis techninių konfigūracijų yra tokios. Jos nėra itin sudėtingos, tačiau yra per daug įėjimo taškų, todėl lengva pasiklysti iš pirmo karto. Jei konfigūruodami „Cloudflare AI“ susidūrėte su įvairiomis nepaaiškinamomis klaidomis, greičiausiai tai dėl neteisingo bazinio URL arba netinkamai suformatuoto formato. Turėkite šiuos tris URL rinkinius po ranka; kitą kartą galėsite lengvai rasti teisingą.
Prašom.
Taigi, kadangi jau perskaitėte iki šiol, jei manote, kad tai buvo naudinga, prašome paspausti „patinka“ ir pasidalyti. Jei norite gauti naujienas pirmieji, taip pat galite mane sekti! ⭐
Ačiū, kad perskaitėte mano straipsnį. Iki kito karto.
Hope Chen Weiliang tinklaraštis ( https://www.chenweiliang.com/ Straipsnis „Nustokite pranešti apie klaidas! Lengvai sukonfigūruokite „Cloudflare“ suderinamumui su „OpenAI“ su baziniais URL ir sąsajomis“, kuriuo pasidalinote čia, gali jums būti naudingas.
Kviečiame pasidalinti šio straipsnio nuoroda:https://www.chenweiliang.com/cwl-34252.html