Престанете да добивате грешки! Лесно конфигурирајте ја основната URL адреса и API на Cloudflare за компатибилност со OpenAI.

Зошто мојот основен URL на Cloudflare AI секогаш враќа грешка 404?

Оваа статија ве учи за неколку секунди како брзо да добиете и конфигурирате основна URL адреса на OpenAI компатибилна со Cloudflare. Вклучува совршени шаблони за официјален REST API, формат на AI Gateway и клиенти од трети страни (Dify/One-API), помагајќи ви да поставите бесплатни AI API-ја со еден клик!

Минатата недела, еден пријател кој се занимава со независен развој одеднаш ме контактираше и ми испрати снимка од екранот на која се гледа екран полн со грешки 401. Тој рече: „Брате, цел ден се обидувам да го дебагирам AI API-то на Cloudflare, но едноставно не работи.“

Погледнав во неговиот код. Основната URL адреса беше поставена на /ai/v1, но телото на барањето беше форматирано како официјалното REST API, па затоа двата воопшто не се совпаѓаа.

Тој рече дека само сакал да го користи SDK на OpenAI за дебагирање на модел на Workers AI, дали има некаков проблем?

Ова е голем проблем.

Услугите за вештачка интелигенција на Cloudflare користат три сосема различни основни URL адреси во зависност од сценариото. Секоја има свој формат и применливи сценарија. Иако постои документација, таа е расфрлана на различни страници, што го отежнува препознавањето на која да се повикате при првиот обид. Користењето на погрешна URL адреса ќе резултира со грешка 401 или 400, што ќе ве спречи да пристапите до услугата.

Кога првпат се соочив со овој проблем, се обидов неколку пати пред да го решам. Бев без зборови гледајќи го екранот полн со пораки за грешка.

Денес јасно ќе ви ги нацртам овие три патишта, за да не правите повеќе грешки откако ќе го прочитате ова.

URL-адреса на базата за интерфејс компатибилен со OpenAI

Да почнеме со најчесто користениот.

Ако го користите OpenAI SDK или алатки што поддржуваат прилагодени OpenAI формати како што се LangChain, Dify, NextChat или One-API, тогаш ова е правилниот пристап.

https://api.cloudflare.com/client/v4/accounts/{你的account_id}/ai/v1

Ова е нешто што Cloudflare го дизајнираше специјално за да се усогласи со форматот на интерфејсот OpenAI. Додадете `/chat/completions` по крајната точка на целиот дијалог. Заменете ја вашата оригинална URL адреса на OpenAI Base со ова и заменете го API клучот со вашиот Cloudflare токен, и треба да работи директно. Пробав модели како `@cf/deepseek-ai/deepseek-r1-distill-qwen-32b` и `@cf/meta/llama-3.1-8b-instruct`, и сите работат добро.

Сепак, треба да се напомене дека ова поддржува само модели на дијалог базирани на текст.

Официјалното нативно REST API на Cloudflare

Ако треба да користите Stable Diffusion за графикони, Whisper за аудио транскрипција или кој било друг нетекстуален модел, изберете го вториот пат, а тоа е официјалниот нативен REST API на Cloudflare.

https://api.cloudflare.com/client/v4/accounts/{你的account_id}/ai/run

Името на моделот може да се напише во патеката, како на пример /ai/run/@cf/bytedance/stable-diffusion-xl-lightning, или може да се постави во полето `model` во телото на барањето. Јас претпочитам да го ставам во полето; патеката е пократка и почиста. И јас бев збунет околу овој детаљ на почетокот. Некои модели ги прифаќаат двата методи, додека други прифаќаат само еден. Обрнете внимание на ова кога ја проверувате документацијата.

URL-адреса на база на AI Gateway

Постои и трет начин: AI Gateway.

Ова сценарио е малку поинакво. Ако сте поставиле AI Gateway во backend-от на Cloudflare за проксирање на API-ја од трети страни, како што е препраќање на барања од OpenAI преку Cloudflare gateway за кеширање, следење и ограничување на брзината, тогаш основниот URL би бил...

https://gateway.ai.cloudflare.com/v1/{你的account_id}/{你的gateway_id}/openai

Додавањето на `/chat/completions` по комплетната крајна точка гарантира дека целиот сообраќај поминува низ Cloudflare gateway, а панелот за евиденција ја прикажува латенцијата и резултатот од секое барање. Оваа функција е неверојатно корисна како што тимот расте со повеќе проекти, елиминирајќи ја потребата од пребарување низ податоци од бекенд-овите на различни добавувачи еден по еден.

Како да изберете: Три групи URL-адреси објаснети во една реченица.

Во ред, тоа ги опфаќа трите патеки. Накратко, постои само еден принцип.

Патот што ќе го изберете зависи од алатките што ги користите.

За да го користите OpenAI SDK за повикување на модел на дијалог, одете на `/ai/v1`. За да повикате модел на слика/аудио, одете на `/ai/run`. За унифицирано управување преку портал, одете на `/gateway/`. Методот за автентикација е ист: ставете `Authorization: Bearer` проследено со вашиот API токен во заглавието. Креирајте го токенот во backend-от на Cloudflare и не заборавајте да ја проверите дозволата `Workers AI: Edit`.

Каде да го најдам account_id? Најавете се на административниот панел на вашиот Cloudflare, скролувајте надолу до делот API во десната странична лента или проверете ја лентата за адреси на вашиот прелистувач; тој алфанумерички стринг од 32 знаци е тоа.

Искрено, откако му помогнав на мојот пријател да го заврши тоа тој ден, тој ми рече нешто што мислам дека е сосема точно: не беше тоа што не знаев како, туку што документацијата не ми го објасни јасно.

Многу технички конфигурации се вакви. Не е дека се особено тешки, но има премногу влезни точки, што го олеснува губењето од првиот обид. Ако сте наишле на разни необјасниви грешки при конфигурирање на Cloudflare AI, најверојатно се должи на неточна основна URL адреса или погрешно форматиран формат. Држете ги овие три групи URL адреси при рака; лесно можете да ја пронајдете точната следниот пат.

Нема на што.

Значи, бидејќи прочитавте до тука, ако ви беше од помош, лајкнете го и споделете го. Ако сакате први да добивате новости, можете да ме следите и мене! ⭐

Ви благодарам што ја прочитавте мојата статија. Се гледаме следниот пат.