लेख निर्देशिका
मेरो Cloudflare AI आधार URL ले किन सधैं ४०४ त्रुटि फर्काउँछ?
यस लेखले तपाईंलाई क्लाउडफ्लेयर-कम्प्याटिबल ओपनएआई आधार URL कसरी छिटो प्राप्त गर्ने र कन्फिगर गर्ने भनेर केही सेकेन्डमै सिकाउँछ। यसमा आधिकारिक REST API, AI गेटवे ढाँचा, र तेस्रो-पक्ष क्लाइन्टहरू (Dify/One-API) को लागि उत्तम टेम्प्लेटहरू समावेश छन्, जसले तपाईंलाई एक क्लिकमा नि:शुल्क AI API हरू चलाउन मद्दत गर्दछ!
गत हप्ता, स्वतन्त्र विकास गर्ने एक साथीले अचानक मलाई सम्पर्क गरे र ४०१ त्रुटिहरूले भरिएको स्क्रिनसट पठाए। उनले भने, "भाइ, म दिनभरि क्लाउडफ्लेयरको एआई एपीआई डिबग गर्ने प्रयास गरिरहेको थिएँ, तर यसले काम गरेन।"
मैले उसको कोड हेरेँ। आधार URL /ai/v1 मा सेट गरिएको थियो, तर अनुरोधको मुख्य भाग आधिकारिक REST API को रूपमा ढाँचा गरिएको थियो, त्यसैले दुई पटक्कै मिलेनन्।
उनले भने कि उनी Workers AI मा मोडेल डिबग गर्न OpenAI को SDK प्रयोग गर्न चाहन्थे, के कुनै समस्या छ?
यो एउटा ठूलो समस्या हो।
क्लाउडफ्लेयरका एआई सेवाहरूले परिदृश्यको आधारमा तीन पूर्णतया फरक आधार URL हरू प्रयोग गर्छन्। प्रत्येकको आफ्नै ढाँचा र लागू हुने परिदृश्यहरू छन्। यद्यपि कागजातहरू छन्, यो फरक पृष्ठहरूमा छरिएका छन्, जसले गर्दा तपाईंको पहिलो प्रयासमा कुनलाई सन्दर्भ गर्ने भनेर जान्न गाह्रो हुन्छ। गलत URL प्रयोग गर्नाले 401 वा 400 त्रुटि हुनेछ, जसले गर्दा तपाईंलाई सेवा पहुँच गर्नबाट रोकिनेछ।
जब मैले पहिलो पटक यो समस्याको सामना गरें, मैले यसलाई पत्ता लगाउनु अघि धेरै पटक प्रयास गरें। त्रुटि सन्देशहरूले भरिएको स्क्रिन हेरेर म अवाक भएँ।
आज म तपाईंको लागि यी तीनवटा बाटोहरू स्पष्ट रूपमा कोर्नेछु, ताकि यो पढेपछि तपाईंले अब कुनै गल्ती गर्नुहुन्न।
OpenAI कम्प्याटिबल इन्टरफेस बेस URL
सबैभन्दा धेरै प्रयोग हुनेबाट सुरु गरौं।
यदि तपाईं OpenAI SDK, वा LangChain, Dify, NextChat, वा One-API जस्ता अनुकूलन OpenAI ढाँचाहरूलाई समर्थन गर्ने उपकरणहरू प्रयोग गर्दै हुनुहुन्छ भने, यो सही दृष्टिकोण हो।
https://api.cloudflare.com/client/v4/accounts/{你的account_id}/ai/v1
यो क्लाउडफ्लेयरले विशेष रूपमा ओपनएआई इन्टरफेस ढाँचासँग मिलाउन डिजाइन गरिएको कुरा हो। पूर्ण संवाद अन्त्य बिन्दु पछि `/chat/completions` थप्नुहोस्। आफ्नो मूल ओपनएआई आधार URL लाई यसको साथ बदल्नुहोस्, र API कुञ्जीलाई तपाईंको क्लाउडफ्लेयर टोकनले बदल्नुहोस्, र यो सिधै चल्नेछ। मैले `@cf/deepseek-ai/deepseek-r1-distill-qwen-32b` र `@cf/meta/llama-3.1-8b-instruct` जस्ता मोडेलहरू प्रयास गरेको छु, र तिनीहरू सबै राम्रोसँग काम गर्छन्।
यद्यपि, यो ध्यान दिनुपर्छ कि यसले पाठ-आधारित संवाद मोडेलहरूलाई मात्र समर्थन गर्दछ।
क्लाउडफ्लेयरको आधिकारिक नेटिभ REST API
यदि तपाईंलाई ग्राफिङको लागि स्टेबल डिफ्युजन, अडियो ट्रान्सक्रिप्शनको लागि व्हिस्पर, वा कुनै गैर-पाठ मोडेल प्रयोग गर्न आवश्यक छ भने, दोस्रो मार्ग लिनुहोस्, जुन क्लाउडफ्लेयरको आधिकारिक नेटिभ REST API हो।
https://api.cloudflare.com/client/v4/accounts/{你的account_id}/ai/run
मोडेलको नाम /ai/run/@cf/bytedance/stable-diffusion-xl-lightning जस्ता मार्गमा लेख्न सकिन्छ, वा यसलाई अनुरोध बडीको `model` क्षेत्रमा राख्न सकिन्छ। म यसलाई क्षेत्रमा राख्न रुचाउँछु; मार्ग छोटो र सफा छ। सुरुमा म पनि यो विवरणको बारेमा अलमल्लमा परेको थिएँ। केही मोडेलहरूले दुवै विधिहरू स्वीकार गर्छन्, जबकि अरूले एउटा मात्र स्वीकार गर्छन्। कागजात जाँच गर्दा यसमा ध्यान दिनुहोस्।
एआई गेटवे आधार URL
तेस्रो तरिका पनि छ: एआई गेटवे।
यो परिदृश्य अलि फरक छ। यदि तपाईंले क्लाउडफ्लेयर ब्याकएन्डमा प्रोक्सी तेस्रो-पक्ष API हरूमा AI गेटवे सेटअप गर्नुभएको छ, जस्तै क्यासिङ, अनुगमन, र दर सीमाको लागि क्लाउडफ्लेयर गेटवे मार्फत OpenAI अनुरोधहरू फर्वार्ड गर्ने, तब आधार URL... हुनेछ।
https://gateway.ai.cloudflare.com/v1/{你的account_id}/{你的gateway_id}/openai
पूर्ण अन्त्य बिन्दु पछि `/chat/completions` थप्दा सबै ट्राफिक क्लाउडफ्लेयर गेटवे मार्फत जान्छ भन्ने कुरा सुनिश्चित हुन्छ, र लग प्यानलले प्रत्येक अनुरोधको विलम्बता र परिणाम देखाउँछ। यो सुविधा अविश्वसनीय रूपमा उपयोगी छ किनकि टोलीले थप परियोजनाहरू बढाउँछ, विभिन्न विक्रेताहरूको ब्याकएन्डहरूबाट एक-एक गरेर डेटा खोज्नु पर्ने आवश्यकतालाई हटाउँछ।
कसरी छनौट गर्ने: एक वाक्यमा व्याख्या गरिएका तीन सेट URL हरू।
ठिक छ, त्यसले तीनवटा बाटोहरू समेट्छ। संक्षेपमा, त्यहाँ एउटा मात्र सिद्धान्त छ।
तपाईंले लिने बाटो तपाईंले प्रयोग गर्ने उपकरणहरूमा निर्भर गर्दछ।
संवाद मोडेल कल गर्न OpenAI SDK प्रयोग गर्न, `/ai/v1` मा जानुहोस्। छवि/अडियो मोडेल कल गर्न, `/ai/run` मा जानुहोस्। गेटवे मार्फत एकीकृत व्यवस्थापनको लागि, `/gateway/` मा जानुहोस्। प्रमाणीकरण विधि उस्तै छ: हेडरमा `Authorization: Bearer` र त्यसपछि तपाईंको API टोकन राख्नुहोस्। Cloudflare ब्याकएन्डमा टोकन सिर्जना गर्नुहोस्, र `Workers AI: Edit` अनुमति जाँच गर्न नबिर्सनुहोस्।
account_id कहाँ फेला पार्ने? आफ्नो Cloudflare एडमिन प्यानलमा लग इन गर्नुहोस्, दायाँ साइडबारमा रहेको API खण्डमा तल स्क्रोल गर्नुहोस्, वा आफ्नो ब्राउजरको ठेगाना पट्टी जाँच गर्नुहोस्; त्यो ३२-वर्णको अल्फान्यूमेरिक स्ट्रिङ यही हो।
इमानदारीपूर्वक भन्नुपर्दा, मैले त्यो दिन मेरो साथीलाई काम सकाउन मद्दत गरेपछि, उसले मलाई केही भन्यो जुन मलाई एकदमै सही लाग्छ: मलाई कसरी गर्ने भनेर थाहा थिएन भन्ने होइन, कागजातहरूले मलाई स्पष्ट रूपमा व्याख्या नगरेको कारणले गर्दा।
धेरै प्राविधिक कन्फिगरेसनहरू यस्तै हुन्छन्। यो होइन कि तिनीहरू विशेष गरी गाह्रो छन्, तर त्यहाँ धेरै प्रविष्टि बिन्दुहरू छन्, जसले गर्दा तपाईंको पहिलो प्रयासमा हराउन सजिलो हुन्छ। यदि तपाईंले Cloudflare AI कन्फिगर गर्दा विभिन्न अकल्पनीय त्रुटिहरू सामना गर्नुभएको छ भने, यो सम्भवतः गलत आधार URL वा गलत ढाँचाको कारणले हो। URL का यी तीन सेटहरू हातमा राख्नुहोस्; तपाईंले अर्को पटक सजिलैसँग सही फेला पार्न सक्नुहुन्छ।
不用谢।
त्यसैले, तपाईंले अहिलेसम्म पढिसक्नुभएको छ, यदि तपाईंलाई यो उपयोगी लाग्यो भने, कृपया यसलाई लाइक र सेयर गर्नुहोस्। यदि तपाईं पहिले अपडेटहरू प्राप्त गर्न चाहनुहुन्छ भने, तपाईं मलाई पनि फलो गर्न सक्नुहुन्छ! ⭐
मेरो लेख पढ्नुभएकोमा धन्यवाद। अर्को पटक भेटौँला।
आशा छ, चेन वेइलियाङको ब्लग ( https://www.chenweiliang.com/ ) मा साझा गरिएको "त्रुटिहरू रिपोर्ट गर्न रोक्नुहोस्! ओपनएआई अनुकूलताको लागि क्लाउडफ्लेयरलाई सजिलै कन्फिगर गर्नुहोस्: आधार URL र इन्टरफेस" लेख तपाईंको लागि उपयोगी हुनेछ।
यस लेखको लिङ्क साझा गर्न नहिचकिचाउनुहोस्: https://www.chenweiliang.com/cwl-34252.html