Artiklite kataloog
Miks minu Cloudflare'i tehisintellekti baas-URL tagastab alati 404 vea?
See artikkel õpetab sulle sekunditega, kuidas kiiresti hankida ja seadistada Cloudflare'iga ühilduv OpenAI baas-URL. See sisaldab ideaalseid malle ametliku REST API, AI Gateway vormingu ja kolmandate osapoolte klientide (Dify/One-API) jaoks, aidates sul tasuta AI API-d ühe klõpsuga tööle panna!
Eelmisel nädalal võttis minuga ootamatult ühendust sõber, kes tegeleb iseseisva arendusega, ja saatis mulle ekraanipildi, mis näitas ekraanipilti täis 401 veakoodi. Ta ütles: "Vend, ma olen terve päeva üritanud Cloudflare'i tehisintellekti API-t siluda, aga see lihtsalt ei toimi."
Heitsin pilgu tema koodile. Baas-URL oli küll /ai/v1, aga päringu sisu oli vormindatud ametliku REST API järgi, seega need kaks ei sobinud üldse kokku.
Ta ütles, et tahab lihtsalt OpenAI SDK-d kasutada Workers AI mudeli silumiseks, kas on mingeid probleeme?
See on suur probleem.
Cloudflare'i tehisintellekti teenused kasutavad olenevalt stsenaariumist kolme täiesti erinevat baas-URL-i. Igal neist on oma vorming ja kohaldatavad stsenaariumid. Kuigi dokumentatsioon on olemas, on see hajutatud erinevatele lehtedele, mistõttu on raske esimesel katsel teada, millisele neist viidata. Vale URL-i kasutamine põhjustab 401- või 400-vea, mis takistab teil teenusele juurdepääsu.
Kui ma selle probleemiga esimest korda kokku puutusin, proovisin mitu korda, enne kui selle välja nuputasin. Olin veateateid täis ekraani vaadates sõnatu.
Täna joonistan teile need kolm teed selgelt välja, et te pärast selle lugemist enam vigu ei teeks.
OpenAI-ga ühilduva liidese baas-URL
Alustame kõige sagedamini kasutatavast.
Kui kasutate OpenAI SDK-d või tööriistu, mis toetavad kohandatud OpenAI vorminguid, näiteks LangChain, Dify, NextChat või One-API, on see õige lähenemisviis.
https://api.cloudflare.com/client/v4/accounts/{你的account_id}/ai/v1
See on midagi, mille Cloudflare on spetsiaalselt OpenAI liidese vorminguga vastavusse viimiseks loonud. Lisa pärast dialoogi lõpuleviimise lõpp-punkti `/chat/completions`. Asenda oma algne OpenAI baas-URL sellega ja API-võti oma Cloudflare'i tokeniga ning see peaks otse käivituma. Olen proovinud mudeleid nagu `@cf/deepseek-ai/deepseek-r1-distill-qwen-32b` ja `@cf/meta/llama-3.1-8b-instruct` ning need kõik töötavad hästi.
Siiski tuleb märkida, et see toetab ainult tekstipõhiseid dialoogimudeleid.
Cloudflare'i ametlik natiivne REST API
Kui teil on vaja graafikute loomiseks kasutada Stable Diffusionit, heli transkriptsiooniks Whisperit või mis tahes mittetekstilist mudelit, valige teine tee, milleks on Cloudflare'i ametlik natiivne REST API.
https://api.cloudflare.com/client/v4/accounts/{你的account_id}/ai/run
Mudeli nime saab kirjutada tee sisse, näiteks /ai/run/@cf/bytedance/stable-diffusion-xl-lightning, või selle saab paigutada päringu sisus väljale `model`. Eelistan selle väljale panna; tee on lühem ja selgem. Alguses olin ka selles detailis segaduses. Mõned mudelid aktsepteerivad mõlemat meetodit, teised aga ainult ühte. Pöörake sellele dokumentatsiooni kontrollimisel tähelepanu.
AI-lüüsi baas-URL
On ka kolmas viis: tehisintellekti värav.
See stsenaarium on veidi erinev. Kui olete Cloudflare'i taustsüsteemis seadistanud tehisintellekti värava kolmandate osapoolte API-de puhverdamiseks, näiteks OpenAI päringute edastamiseks Cloudflare'i värava kaudu vahemällu salvestamiseks, jälgimiseks ja kiiruse piiramiseks, siis oleks baas-URL...
https://gateway.ai.cloudflare.com/v1/{你的account_id}/{你的gateway_id}/openai
`/chat/completions` lisamine pärast lõpp-punkti täielikku päringut tagab, et kogu liiklus läbib Cloudflare'i lüüsi ning logipaneel näitab iga päringu latentsust ja tulemust. See funktsioon on uskumatult kasulik meeskonna kasvades uute projektidega, välistades vajaduse otsida andmeid ükshaaval erinevate müüjate serveripoolsetest serveritest.
Kuidas valida: Kolm URL-ide komplekti selgitatud ühes lauses.
Olgu, see hõlmab kõiki kolme teed. Kokkuvõttes on ainult üks põhimõte.
Sinu valitud tee sõltub kasutatavatest tööriistadest.
Dialoogimudeli kutsumiseks OpenAI SDK abil minge kausta `/ai/v1`. Pildi/heli mudeli kutsumiseks minge kausta `/ai/run`. Ühendatud halduse jaoks lüüsi kaudu minge kausta `/gateway/`. Autentimismeetod on sama: sisestage päisesse `Authorization: Bearer`, millele järgneb teie API token. Looge token Cloudflare'i taustaprogrammis ja ärge unustage kontrollida luba `Workers AI: Edit`.
Kust leida account_id? Logige sisse oma Cloudflare'i administraatoripaneelile, kerige paremal külgribal API jaotiseni või vaadake oma brauseri aadressiriba – see on 32-tähemärgiline tähtnumbriline string.
Ausalt öeldes, pärast seda, kui ma sel päeval oma sõbral aitasin selle ära teha, ütles ta mulle midagi, mis minu arvates on täiesti õige: asi polnud selles, et ma ei teadnud, kuidas, vaid selles, et dokumentatsioon ei selgitanud mulle seda selgelt.
Paljud tehnilised konfiguratsioonid on sellised. Asi pole selles, et need oleksid eriti keerulised, aga sisenemispunkte on liiga palju, mistõttu on esimesel katsel lihtne ära eksida. Kui Cloudflare AI seadistamisel olete kohanud mitmesuguseid seletamatuid vigu, on see tõenäoliselt tingitud valest baas-URL-ist või valesti vormindatud vormingust. Hoidke need kolm URL-ide komplekti käepärast; järgmisel korral leiate hõlpsalt õige.
Pole tänu väärt.
Seega, kuna olete siiani lugenud, siis kui see oli teie arvates kasulik, siis palun meeldige ja jagage seda. Kui soovite esimesena värskendusi saada, võite mind ka jälgida! ⭐
Tänan teid minu artikli lugemise eest. Näeme järgmine kord.
Loodetavasti on teile abiks artikkel "Lõpetage vigade teatamine! Konfigureerige Cloudflare hõlpsalt OpenAI-ühilduvuse jaoks", mida jagati Chen Weiliangi blogis ( https://www.chenweiliang.com/ ).
Jaga julgelt seda artikli linki: https://www.chenweiliang.com/cwl-34252.html