Greinaskrá
Cloudflare AI Af hverju skilar grunnslóðin alltaf 404 villu?
Þessi grein kennir þér á nokkrum sekúndum hvernig á að fá og stilla grunnvefslóð fyrir OpenAI sem er samhæfð við Cloudflare fljótt. Hún inniheldur fullkomnar sniðmát fyrir opinbert REST API, AI Gateway snið og þriðja aðila viðskiptavini (Dify/One-API), sem hjálpar þér að koma ókeypis AI API í gang með einum smelli!
Í síðustu viku hafði vinur minn, sem vinnur sjálfstætt að þróun, skyndilega samband við mig og sendi mér skjámynd sem sýndi skjá fullan af 401 villum. Hann sagði: „Bróðir, ég hef verið að reyna að kemba AI API Cloudflare í allan dag, en það virkar bara ekki.“
Ég kastaði augum á kóðann hans. Grunnslóðin var stillt á /ai/v1, en beiðnin var sniðin eins og opinbera REST API-ið, svo þetta tvennt passaði alls ekki saman.
Hann sagði að hann vildi bara nota SDK OpenAI til að kemba líkan á Workers AI, er einhver vandamál?
Þetta er stórt vandamál.
Gervigreindarþjónustur Cloudflare nota þrjár gjörólíkar grunnvefslóðir eftir aðstæðum. Hver hefur sitt eigið snið og viðeigandi aðstæður. Þó að skjöl séu til staðar er þau dreifð yfir mismunandi síður, sem gerir það erfitt að vita hvaða vefslóð á að vísa til í fyrstu tilraun. Að nota ranga vefslóð mun leiða til 401 eða 400 villu sem kemur í veg fyrir aðgang að þjónustunni.
Þegar ég rakst fyrst á þetta vandamál reyndi ég nokkrum sinnum áður en ég fann lausn á því. Ég varð orðlaus þegar ég horfði á skjáinn fullan af villuskilaboðum.
Í dag mun ég teikna þessar þrjár leiðir skýrt fyrir þig, svo þú gerir ekki fleiri mistök eftir að hafa lesið þetta.
Grunnslóð fyrir OpenAI samhæft viðmót
Byrjum á þeim sem er mest notaður.
Ef þú ert að nota OpenAI SDK, eða verkfæri sem styðja sérsniðin OpenAI snið eins og LangChain, Dify, NextChat eða One-API, þá er þetta rétta aðferðin.
https://api.cloudflare.com/client/v4/accounts/{你的account_id}/ai/v1
Þetta er eitthvað sem Cloudflare hannaði sérstaklega til að samræmast OpenAI viðmótssniði. Bætið við `/chat/completions` eftir endapunkt fullrar samræðu. Skiptið út upprunalegu OpenAI grunnslóðinni ykkar fyrir þetta og skiptið út API lyklinum fyrir Cloudflare táknið ykkar, og það ætti að keyra beint. Ég hef prófað líkön eins og `@cf/deepseek-ai/deepseek-r1-distill-qwen-32b` og `@cf/meta/llama-3.1-8b-instruct`, og þau virka öll fínt.
Hins vegar skal tekið fram að þetta styður aðeins textabundnar samræðulíkön.
Opinbera innbyggða REST API Cloudflare
Ef þú þarft að nota Stable Diffusion fyrir grafík, Whisper fyrir hljóðritun eða hvaða líkan sem er sem er ekki texti, veldu þá aðra leiðina, sem er opinbera innfædda REST API Cloudflare.
https://api.cloudflare.com/client/v4/accounts/{你的account_id}/ai/run
Hægt er að skrifa líkanheitið í slóðina, eins og /ai/run/@cf/bytedance/stable-diffusion-xl-lightning, eða setja það í `model` reitinn í beiðninni. Ég kýs að setja það í reitinn; slóðin er styttri og skýrari. Ég var líka ruglaður yfir þessari smáatriði í fyrstu. Sum líkön samþykkja báðar aðferðirnar, en önnur aðeins aðra. Gætið þess þegar þið skoðið skjölunina.
Grunnslóð AI Gateway
Það er þriðja leiðin: AI Gateway.
Þetta atburðarás er aðeins öðruvísi. Ef þú hefur sett upp AI-gátt í Cloudflare-bakendanum til að miðla milligöngu milliviðmótum (API) þriðja aðila, eins og að áframsenda OpenAI-beiðnir í gegnum Cloudflare-gáttina fyrir skyndiminni, eftirlit og hraðatakmörkun, þá væri grunn-slóðin...
https://gateway.ai.cloudflare.com/v1/{你的account_id}/{你的gateway_id}/openai
Með því að bæta við `/chat/completions` eftir endapunktinn fyrir lokið er tryggt að öll umferð fari í gegnum Cloudflare gáttina og að skráningarglugginn sýnir seinkun og niðurstöðu hverrar beiðni. Þessi eiginleiki er ótrúlega gagnlegur eftir því sem teymið stækkar með fleiri verkefnum, sem útrýmir þörfinni á að leita í gegnum gögn frá bakendum ýmissa birgja, eitt af öðru.
Hvernig á að velja: Þrjár slóðir útskýrðar í einni setningu.
Allt í lagi, þetta nær yfir þrjár leiðir. Í stuttu máli er það bara ein meginregla.
Leiðin sem þú velur fer eftir þeim verkfærum sem þú notar.
Til að nota OpenAI SDK til að kalla á samræðulíkan, farðu í `/ai/v1`. Til að kalla á mynd-/hljóðlíkan, farðu í `/ai/run`. Fyrir sameinaða stjórnun í gegnum gátt, farðu í `/gateway/`. Auðkenningaraðferðin er sú sama: settu `Authorization: Bearer` og síðan API Token þinn í hausinn. Búðu til Token í Cloudflare bakendanum og mundu að haka við `Workers AI: Edit` heimildina.
Hvar finnur maður account_id? Skráðu þig inn á stjórnborðið í Cloudflare, skrunaðu niður að API hlutanum í hægri hliðarstikunni eða skoðaðu veffangastikuna í vafranum þínum; þessi 32 stafa stafrófs- og tölustafastrengur er það.
Heiðarlega, eftir að ég hjálpaði vini mínum að klára þetta þennan dag, sagði hann eitthvað við mig sem ég held að sé alveg rétt: það var ekki það að ég vissi ekki hvernig, heldur að skjölunin hafði ekki útskýrt það skýrt fyrir mér.
Margar tæknilegar stillingar eru svona. Það er ekki að þær séu sérstaklega erfiðar, en það eru of margir aðgangspunktar, sem gerir það auðvelt að týnast í fyrstu tilraun. Ef þú hefur rekist á ýmsar óútskýranlegar villur við stillingu Cloudflare AI, þá er það líklega vegna rangrar grunnslóðar eða misformats. Hafðu þessi þrjú sett af slóðum við höndina; þú getur auðveldlega fundið þá réttu næst.
Vertu velkominn.
Þar sem þú hefur lesið þetta hingað til, ef þér fannst þetta gagnlegt, vinsamlegast líkaðu við og deildu því. Ef þú vilt fá uppfærslur fyrst geturðu líka fylgst með mér! ⭐
Takk fyrir að lesa greinina mína. Sjáumst næst.
Hope Chen Weiliang blogg ( https://www.chenweiliang.com/ Greinin „Hættu að tilkynna villur! Stilltu Cloudflare auðveldlega fyrir OpenAI-samhæfni við grunnslóðir og viðmót“, sem er deilt hér, gæti verið gagnleg fyrir þig.
Velkomið að deila tengli þessarar greinar:https://www.chenweiliang.com/cwl-34252.html