Каталог артыкулаў
Cloudflare AI Чаму базавы URL заўсёды вяртае памылку 404?
Гэты артыкул навучыць вас за лічаныя секунды хутка атрымаць і наладзіць базавы URL-адрас OpenAI, сумяшчальны з Cloudflare. Ён уключае ідэальныя шаблоны для афіцыйнага REST API, фармату AI Gateway і старонніх кліентаў (Dify/One-API), дапамагаючы вам атрымаць бясплатныя API штучнага інтэлекту адным пстрычкай мышы!
На мінулым тыдні са мной нечакана звязаўся сябар, які займаецца самастойнай распрацоўкай, і даслаў скрыншот, на якім быў экран з памылкамі 401. Ён сказаў: «Брат, я цэлы дзень спрабаваў адладзіць AI API Cloudflare, але гэта проста не працуе».
Я зірнуў на яго код. Базавы URL быў усталяваны на /ai/v1, але цела запыту было адфарматавана як афіцыйны REST API, таму яны зусім не супадалі.
Ён сказаў, што проста хоча выкарыстаць SDK OpenAI для адладкі мадэлі на працоўным штучным інтэлекце, ці ёсць якія-небудзь праблемы?
Гэта вялікая праблема.
Сэрвісы штучнага інтэлекту Cloudflare выкарыстоўваюць тры цалкам розныя базавыя URL-адрасы ў залежнасці ад сцэнарыя. Кожны з іх мае свой уласны фармат і адпаведныя сцэнарыі. Нягледзячы на наяўнасць дакументацыі, яна раскідана па розных старонках, таму цяжка зразумець, на які з іх звярнуцца з першай спробы. Выкарыстанне няправільнага URL-адраса прывядзе да памылкі 401 або 400, што не дазволіць вам атрымаць доступ да сэрвісу.
Калі я ўпершыню сутыкнуўся з гэтай праблемай, я некалькі разоў спрабаваў разабрацца з ёй. Я страціў дар мовы, гледзячы на экран, поўны паведамленняў пра памылкі.
Сёння я выразна намаляваю для вас гэтыя тры дарогі, каб вы больш не рабілі памылак пасля прачытання гэтага.
Базавы URL-адрас інтэрфейсу, сумяшчальнага з OpenAI
Пачнем з найбольш часта выкарыстоўванага.
Калі вы выкарыстоўваеце OpenAI SDK або інструменты, якія падтрымліваюць карыстальніцкія фарматы OpenAI, такія як LangChain, Dify, NextChat або One-API, то гэта правільны падыход.
https://api.cloudflare.com/client/v4/accounts/{你的account_id}/ai/v1
Гэта тое, што Cloudflare спецыяльна распрацавала для адпаведнасці фармату інтэрфейсу OpenAI. Дадайце `/chat/completions` пасля поўнай кропкі дыялогу. Заменіце свой зыходны базавы URL OpenAI гэтым і заменіце ключ API сваім токеном Cloudflare, і гэта павінна працаваць непасрэдна. Я спрабаваў такія мадэлі, як `@cf/deepseek-ai/deepseek-r1-distill-qwen-32b` і `@cf/meta/llama-3.1-8b-instruct`, і ўсе яны працуюць добра.
Аднак варта адзначыць, што гэта падтрымлівае толькі тэкставыя дыялогавыя мадэлі.
Афіцыйны REST API ад Cloudflare
Калі вам трэба выкарыстоўваць Stable Diffusion для пабудовы графікаў, Whisper для транскрыпцыі аўдыё або любую нетэкставую мадэль, скарыстайцеся другім шляхам — афіцыйным REST API Cloudflare.
https://api.cloudflare.com/client/v4/accounts/{你的account_id}/ai/run
Назва мадэлі можа быць запісана ў шляху, напрыклад, /ai/run/@cf/bytandance/stable-diffusion-xl-lightning, або яе можна змясціць у полі `model` у целе запыту. Я аддаю перавагу змяшчаць яе ў полі; шлях карацейшы і больш зразумелы. Спачатку мяне таксама бянтэжыла гэтая дэталь. Некаторыя мадэлі прымаюць абодва метады, а іншыя — толькі адзін. Звярніце на гэта ўвагу пры праверцы дакументацыі.
Базавы URL-адрас шлюза штучнага інтэлекту
Ёсць і трэці спосаб: AI Gateway.
Гэты сцэнар крыху адрозніваецца. Калі вы наладзілі шлюз штучнага інтэлекту (AI Gateway) у бэкендзе Cloudflare для праксіравання старонніх API, такіх як перасылка запытаў OpenAI праз шлюз Cloudflare для кэшавання, маніторынгу і абмежавання хуткасці, то базавы URL-адрас будзе...
https://gateway.ai.cloudflare.com/v1/{你的account_id}/{你的gateway_id}/openai
Даданне `/chat/completions` пасля поўнай канцавой кропкі гарантуе, што ўвесь трафік будзе праходзіць праз шлюз Cloudflare, а панэль журнала будзе адлюстроўваць затрымку і вынік кожнага запыту. Гэтая функцыя неверагодна карысная, калі каманда расце з большай колькасцю праектаў, што ліквідуе неабходнасць пошуку дадзеных з серверных частак розных пастаўшчыкоў па чарзе.
Як выбраць: тры наборы URL-адрасоў, растлумачаныя адным сказам.
Добра, гэта ахоплівае тры шляхі. Карацей кажучы, ёсць толькі адзін прынцып.
Шлях, які вы абярэце, залежыць ад інструментаў, якія вы выкарыстоўваеце.
Каб выкарыстаць OpenAI SDK для выкліку мадэлі дыялогу, перайдзіце па спасылцы `/ai/v1`. Каб выклікаць мадэль выявы/аўдыё, перайдзіце па спасылцы `/ai/run`. Для ўніфікаванага кіравання праз шлюз перайдзіце па спасылцы `/gateway/`. Метад аўтэнтыфікацыі той жа: увядзіце `Authorization: Bearer`, а затым свой токен API у загалоўку. Стварыце токен у бэкендзе Cloudflare і не забудзьцеся праверыць дазвол `Workers AI: Edit`.
Дзе знайсці account_id? Увайдзіце ў панэль адміністратара Cloudflare, пракруціце ўніз да раздзела API у правай бакавой панэлі або праверце адрасны радок браўзера; гэта 32-сімвальны літарна-лічбавы радок.
Шчыра кажучы, пасля таго, як я дапамог свайму сябру зрабіць гэта ў той дзень, ён сказаў мне нешта, што, на маю думку, цалкам правільна: справа не ў тым, што я не ведаў як, а ў тым, што ў дакументацыі мне гэта не было зразумела растлумачана.
Шмат якія тэхнічныя канфігурацыі падобныя на гэтыя. Не тое каб яны былі асабліва складанымі, але ў іх занадта шмат кропак уваходу, таму лёгка заблытацца з першай спробы. Калі вы сутыкнуліся з рознымі невытлумачальнымі памылкамі пры канфігурацыі Cloudflare AI, хутчэй за ўсё, гэта звязана з няправільным базавым URL-адрасам або няправільным фарматам. Трымайце гэтыя тры наборы URL-адрасоў пад рукой; вы лёгка знойдзеце правільны ў наступны раз.
Калі ласка.
Такім чынам, калі вы дачыталі да гэтага месца, калі гэта было карысна, пастаўце лайк і падзяліцеся гэтым. Калі вы хочаце атрымліваць абнаўленні першымі, вы таксама можаце падпісацца на мяне! ⭐
Дзякуй, што прачыталі мой артыкул. Да сустрэчы ў наступны раз.
Блог Hope Chen Weiliang ( https://www.chenweiliang.com/ Артыкул «Спыніце паведамленні пра памылкі! Лёгка наладзьце Cloudflare для сумяшчальнасці з OpenAI з дапамогай базавых URL-адрасоў і інтэрфейсаў», апублікаваны тут, можа быць вам карысным.
Запрашаем падзяліцца спасылкай на гэты артыкул:https://www.chenweiliang.com/cwl-34252.html