Acha kupata hitilafu! Sanidi kwa urahisi URL ya Msingi na API ya Cloudflare kwa ajili ya utangamano wa OpenAI.

cloudflare AI Kwa nini URL ya msingi hurejesha hitilafu ya 404 kila wakati?

Makala haya yanakufundisha kwa sekunde chache jinsi ya kupata na kusanidi haraka URL ya msingi ya OpenAI inayolingana na Cloudflare. Inajumuisha violezo kamili vya API rasmi ya REST, umbizo la AI Gateway, na wateja wengine (Dify/One-API), ikikusaidia kupata API za AI bila malipo zinazofanya kazi kwa mbofyo mmoja!

Wiki iliyopita, rafiki yangu ambaye hufanya maendeleo huru aliwasiliana nami ghafla na kunitumia picha ya skrini inayoonyesha skrini iliyojaa hitilafu 401. Alisema, "Ndugu, nimekuwa nikijaribu kurekebisha API ya AI ya Cloudflare siku nzima, lakini haitafanya kazi."

Niliangalia msimbo wake. URL ya Msingi iliwekwa kuwa /ai/v1, lakini mwili wa ombi uliundwa kama API rasmi ya REST, kwa hivyo hizo mbili hazikulingana kabisa.

Alisema alitaka tu kutumia SDK ya OpenAI ili kurekebisha modeli kwenye Workers AI, je, kuna tatizo lolote?

Hili ni tatizo kubwa.

Huduma za AI za Cloudflare hutumia URL tatu tofauti kabisa kulingana na hali. Kila moja ina umbizo lake na hali zinazofaa. Ingawa kuna nyaraka, zimetawanyika katika kurasa tofauti, na kufanya iwe vigumu kujua ni ipi ya kurejelea kwenye jaribio lako la kwanza. Kutumia URL isiyo sahihi kutasababisha hitilafu ya 401 au 400, na kukuzuia kufikia huduma hiyo.

Nilipokutana na tatizo hili kwa mara ya kwanza, nilijaribu mara kadhaa kabla ya kulitatua. Sikuweza kusema chochote nikiangalia skrini iliyojaa ujumbe wa hitilafu.

Leo nitakuchorea njia hizi tatu waziwazi, ili usifanye makosa zaidi baada ya kusoma haya.

URL ya Msingi wa Kiolesura Kinachooana na OpenAI

Tuanze na ile inayotumika sana.

Ikiwa unatumia OpenAI SDK, au zana zinazounga mkono miundo maalum ya OpenAI kama vile LangChain, Dify, NextChat, au One-API, basi hii ndiyo mbinu sahihi.

https://api.cloudflare.com/client/v4/accounts/{你的account_id}/ai/v1

Hiki ni kitu ambacho Cloudflare imeundwa mahsusi ili kuendana na umbizo la kiolesura cha OpenAI. Ongeza `/chat/completions` baada ya mwisho kamili wa mazungumzo. Badilisha URL yako ya awali ya OpenAI Base na hii, na ubadilishe Ufunguo wa API na tokeni yako ya Cloudflare, na inapaswa kuendeshwa moja kwa moja. Nimejaribu mifumo kama `@cf/deepseek-ai/deepseek-r1-distill-qwen-32b` na `@cf/meta/llama-3.1-8b-instruct`, na zote zinafanya kazi vizuri.

Hata hivyo, ikumbukwe kwamba hii inasaidia tu mifumo ya mazungumzo inayotegemea maandishi.

API rasmi ya asili ya REST ya Cloudflare

Ikiwa unahitaji kutumia Usambazaji Ulio imara kwa ajili ya kuchora michoro, Whisper kwa ajili ya unukuzi wa sauti, au mfumo wowote usio wa maandishi, fuata njia ya pili, ambayo ni API rasmi ya asili ya Cloudflare ya REST.

https://api.cloudflare.com/client/v4/accounts/{你的account_id}/ai/run

Jina la modeli linaweza kuandikwa katika njia, kama vile /ai/run/@cf/bytedance/stable-diffusion-xl-lightning, au linaweza kuwekwa katika sehemu ya `modeli` ya mwili wa ombi. Ninapendelea kuiweka katika sehemu hiyo; njia ni fupi na safi zaidi. Nilichanganyikiwa kuhusu maelezo haya mwanzoni pia. Baadhi ya modeli hukubali mbinu zote mbili, huku zingine zikikubali moja tu. Zingatia hili unapoangalia hati.

URL ya Msingi wa Lango la AI

Kuna njia ya tatu: Lango la AI.

Hali hii ni tofauti kidogo. Ikiwa umeweka Lango la AI katika sehemu ya nyuma ya Cloudflare kwa API mbadala za wahusika wengine, kama vile kusambaza maombi ya OpenAI kupitia lango la Cloudflare kwa ajili ya kuhifadhi, kufuatilia, na kupunguza kiwango, basi URL ya Msingi itakuwa...

https://gateway.ai.cloudflare.com/v1/{你的account_id}/{你的gateway_id}/openai

Kuongeza `/chat/completions` baada ya mwisho kamili huhakikisha trafiki yote inapitia lango la Cloudflare, na paneli ya kumbukumbu inaonyesha ucheleweshaji na matokeo ya kila ombi. Kipengele hiki ni muhimu sana kadri timu inavyokua na miradi zaidi, na kuondoa hitaji la kutafuta data kutoka kwa wachuuzi mbalimbali mmoja baada ya mwingine.

Jinsi ya kuchagua: Seti tatu za URL zimeelezwa katika sentensi moja.

Sawa, hilo linahusu njia hizo tatu. Kwa muhtasari, kuna kanuni moja tu.

Njia unayotumia inategemea vifaa unavyotumia.

Ili kutumia OpenAI SDK kuita modeli ya mazungumzo, nenda kwa `/ai/v1`. Ili kuita modeli ya picha/sauti, nenda kwa `/ai/run`. Kwa usimamizi uliounganishwa kupitia lango, nenda kwa `/gateway/`. Mbinu ya uthibitishaji ni sawa: weka `Authorization: Bearer` ikifuatiwa na API Token yako kwenye kichwa cha habari. Unda Token kwenye sehemu ya nyuma ya Cloudflare, na kumbuka kuangalia ruhusa ya `Workers AI: Edit`.

Wapi kupata account_id? Ingia kwenye paneli yako ya msimamizi ya Cloudflare, sogeza chini hadi sehemu ya API kwenye upau wa pembeni kulia, au angalia upau wa anwani wa kivinjari chako; hiyo ndiyo mfuatano wa herufi 32 wa herufi na nambari.

Kwa kweli, baada ya kumsaidia rafiki yangu kukamilisha siku hiyo, aliniambia jambo ambalo nadhani ni sahihi kabisa: haikuwa kwamba sikujua jinsi gani, ilikuwa kwamba nyaraka hazikuwa zimenielezea waziwazi.

Mipangilio mingi ya kiufundi iko hivi. Sio kwamba ni migumu sana, lakini kuna sehemu nyingi za kuingia, na hivyo kufanya iwe rahisi kupotea kwenye jaribio lako la kwanza. Ikiwa umekutana na hitilafu mbalimbali zisizoelezeka wakati wa kusanidi Cloudflare AI, kuna uwezekano mkubwa ni kutokana na URL isiyo sahihi ya Msingi au umbizo lisilo sahihi. Weka seti hizi tatu za URL karibu; unaweza kupata moja sahihi kwa urahisi wakati mwingine.

Unakaribishwa.

Kwa hivyo, kwa kuwa umesoma hadi sasa, ikiwa umeona kuwa na manufaa, tafadhali like na ushiriki. Ikiwa unataka kupokea masasisho kwanza, unaweza pia kunifuata! ⭐

Asante kwa kusoma makala yangu. Tutaonana wakati mwingine.