Нийтлэлийн лавлах
Cloudflare AI Яагаад үндсэн URL үргэлж 404 алдаа буцаадаг вэ?
Энэ нийтлэл нь танд Cloudflare-тэй нийцтэй OpenAI үндсэн URL-г хэрхэн хурдан олж авах, тохируулахыг хэдхэн секундын дотор заах болно. Энэ нь албан ёсны REST API, AI Gateway формат болон гуравдагч талын клиентүүдэд (Dify/One-API) зориулсан төгс загваруудыг багтаасан бөгөөд үнэгүй AI API-г нэг товшилтоор ажиллуулж эхлэхэд тусална!
Өнгөрсөн долоо хоногт бие даан хөгжүүлэлт хийдэг найз маань гэнэт надтай холбогдож, 401 алдаатай дэлгэцийн агшинг илгээсэн. Тэр "Ах аа, би Cloudflare-ийн AI API-г бүтэн өдөржингөө дибаг хийхийг оролдсон боловч энэ нь ажиллахгүй байна" гэж хэлсэн.
Би түүний кодыг харлаа. Үндсэн URL нь /ai/v1 гэж тохируулагдсан байсан ч хүсэлтийн бие нь албан ёсны REST API хэлбэрээр форматлагдсан байсан тул хоёр нь огт таарахгүй байв.
Тэр зүгээр л OpenAI-ийн SDK-г ашиглан Workers AI дээрх загварыг дибаг хийхийг хүссэн гэж хэлсэн, ямар нэгэн асуудал байна уу?
Энэ бол том асуудал.
Cloudflare-ийн хиймэл оюун ухааны үйлчилгээнүүд нь нөхцөл байдлаас шалтгаалан гурван өөр үндсэн URL ашигладаг. Тус бүр өөрийн гэсэн форматтай бөгөөд холбогдох нөхцөлтэй байдаг. Баримт бичиг байгаа ч гэсэн өөр өөр хуудсан дээр тархсан тул анхны оролдлогоор алийг нь ашиглахаа мэдэхэд хэцүү болгодог. Буруу URL ашиглах нь 401 эсвэл 400 алдаа гаргаж, үйлчилгээнд хандах боломжгүй болгоно.
Анх энэ асуудалтай тулгарахдаа би хэд хэдэн удаа оролдож үзээд алдааны мессежээр дүүрэн дэлгэцийг хараад хэлэх ч үггүй болсон.
Өнөөдөр би та нарт эдгээр гурван замыг тодорхой зурах болно, ингэснээр та үүнийг уншсаны дараа дахин алдаа гаргахгүй болно.
OpenAI-тай нийцтэй интерфэйсийн үндсэн URL
Хамгийн түгээмэл хэрэглэгддэгээс эхэлье.
Хэрэв та OpenAI SDK эсвэл LangChain, Dify, NextChat, эсвэл One-API зэрэг өөрчлөн тохируулсан OpenAI форматуудыг дэмждэг хэрэгслүүдийг ашиглаж байгаа бол энэ нь зөв арга юм.
https://api.cloudflare.com/client/v4/accounts/{你的account_id}/ai/v1
Энэ бол Cloudflare нь OpenAI интерфэйсийн форматтай уялдуулахаар тусгайлан бүтээсэн зүйл юм. Бүрэн харилцан ярианы төгсгөлийн цэгийн дараа `/chat/completions` гэж нэмнэ үү. Анхны OpenAI Base URL хаягаа үүгээр сольж, API түлхүүрээ Cloudflare токеноор солиход шууд ажиллах болно. Би `@cf/deepseek-ai/deepseek-r1-distill-qwen-32b` болон `@cf/meta/llama-3.1-8b-instruct` зэрэг загваруудыг туршиж үзсэн бөгөөд бүгд сайн ажилладаг.
Гэсэн хэдий ч энэ нь зөвхөн текст дээр суурилсан харилцан ярианы загваруудыг дэмждэг гэдгийг тэмдэглэх нь зүйтэй.
Cloudflare-ийн албан ёсны уугуул REST API
Хэрэв та график бүтээхэд Stable Diffusion, аудио транскрипцэд Whisper эсвэл текст бус загвар ашиглах шаардлагатай бол хоёр дахь замыг сонгоорой, энэ нь Cloudflare-ийн албан ёсны уугуул REST API юм.
https://api.cloudflare.com/client/v4/accounts/{你的account_id}/ai/run
Загварын нэрийг замд бичиж болно, жишээлбэл /ai/run/@cf/bytedance/stable-diffusion-xl-lightning, эсвэл хүсэлтийн биеийн `загвар` талбарт байрлуулж болно. Би үүнийг талбарт оруулахыг илүүд үздэг; зам нь богино бөгөөд цэвэрхэн. Би эхэндээ энэ нарийн ширийн зүйлд бас эргэлзэж байсан. Зарим загварууд хоёр аргыг хоёуланг нь хүлээн авдаг бол зарим нь зөвхөн нэгийг нь хүлээн авдаг. Баримт бичгийг шалгахдаа үүнийг анхаарч үзээрэй.
Хиймэл оюун ухааны гарцын үндсэн URL
Гурав дахь арга зам бий: хиймэл оюун ухааны гарц.
Энэ хувилбар арай өөр байна. Хэрэв та Cloudflare backend дээр прокси гуравдагч талын API-ууд руу хиймэл оюун ухааны гарц тохируулсан бол, тухайлбал кэш хийх, хянах, хурдыг хязгаарлах зорилгоор Cloudflare гарцаар дамжуулан OpenAI хүсэлтийг дамжуулах гэх мэтээр үндсэн URL нь... байх болно.
https://gateway.ai.cloudflare.com/v1/{你的account_id}/{你的gateway_id}/openai
Бүрэн төгсгөлийн цэгийн дараа `/chat/completions` нэмэх нь бүх урсгал Cloudflare гарцаар дамжин өнгөрөхийг баталгаажуулж, бүртгэлийн самбар нь хүсэлт бүрийн хоцрогдол болон үр дүнг харуулдаг. Энэ функц нь баг олон төслүүдтэй өсөхийн хэрээр маш их хэрэгтэй бөгөөд янз бүрийн үйлдвэрлэгчдийн арын хэсгээс өгөгдлийг нэг нэгээр нь хайх шаардлагагүй болгодог.
Хэрхэн сонгох вэ: Нэг өгүүлбэрт гурван багц URL-г тайлбарласан.
За, энэ нь гурван замыг хамарч байна. Товчхондоо, зөвхөн нэг зарчим бий.
Таны сонгосон зам таны ашиглаж буй хэрэгслээс хамаарна.
OpenAI SDK ашиглан харилцан ярианы загварыг дуудахын тулд `/ai/v1` руу очно уу. Зураг/аудио загварыг дуудахын тулд `/ai/run` руу очно уу. Gateway-ээр дамжуулан нэгдсэн менежментийн хувьд `/gateway/` руу очно уу. Баталгаажуулах арга нь адилхан: толгой хэсэгт `Authorization: Bearer` гэж бичээд дараа нь API Token-оо бичнэ үү. Cloudflare backend дээр Token үүсгээд `Workers AI: Edit` зөвшөөрлийг шалгахаа мартуузай.
account_id-г хаанаас олох вэ? Cloudflare админ самбартаа нэвтэрч, баруун талын самбарт байрлах API хэсэг рүү доош гүйлгэж харах эсвэл хөтчийнхөө хаягийн мөрийг шалгана уу; энэ бол 32 тэмдэгт бүхий үсэг-тоон мөр юм.
Үнэнийг хэлэхэд, би тэр өдөр найздаа үүнийг хийхэд нь тусалсны дараа тэр надад маш зөв гэж бодож байгаа зүйл хэлсэн: би яаж гэдгийг нь мэдэхгүй байсан юм биш, харин баримт бичигт надад тодорхой тайлбарлаагүй байсан юм.
Олон техникийн тохиргоо иймэрхүү байдаг. Тэд тийм ч хэцүү биш ч гэсэн хэт олон оролтын цэгүүд байдаг тул анхны оролдлогоороо төөрөх нь амархан байдаг. Хэрэв та Cloudflare хиймэл оюун ухааныг тохируулахдаа янз бүрийн тайлбарлахын аргагүй алдаатай тулгарсан бол энэ нь буруу үндсэн URL эсвэл буруу форматтай холбоотой байх магадлалтай. Эдгээр гурван багц URL-г бэлэн байлгаарай; та дараагийн удаа зөвийг нь амархан олох боломжтой.
Та тавтай морил.
Тиймээс та энэ хүртэл уншсан тул хэрэв танд тустай байсан бол лайк дарж, хуваалцаарай. Хэрэв та хамгийн түрүүнд шинэчлэлтүүдийг хүлээн авахыг хүсвэл намайг дагаж болно! ⭐
Миний нийтлэлийг уншсанд баярлалаа. Дараагийн удаа уулзъя.
Hope Chen Weiliang блог ( https://www.chenweiliang.com/ Энд хуваалцсан "Алдааг мэдээлэхээ боль! Cloudflare-г үндсэн URL болон интерфэйсүүдтэй OpenAI нийцтэй байдалд хялбархан тохируул" нийтлэл танд тустай байж магадгүй юм.
Энэ нийтлэлийн холбоосыг хуваалцахад тавтай морилно уу:https://www.chenweiliang.com/cwl-34252.html