ত্রুটি আসা বন্ধ করুন! OpenAI সামঞ্জস্যের জন্য Cloudflare-এর Base URL এবং API সহজেই কনফিগার করুন।

আমার ক্লাউডফ্লেয়ার এআই বেস ইউআরএলটি কেন সবসময় ৪০৪ এরর দেখাচ্ছে?

এই নিবন্ধটি আপনাকে কয়েক সেকেন্ডের মধ্যে শিখিয়ে দেবে কীভাবে দ্রুত একটি ক্লাউডফ্লেয়ার-উপযোগী ওপেনএআই বেস ইউআরএল সংগ্রহ এবং কনফিগার করতে হয়। এতে অফিসিয়াল REST API, AI Gateway ফরম্যাট এবং থার্ড-পার্টি ক্লায়েন্টদের (Dify/One-API) জন্য নিখুঁত টেমপ্লেট অন্তর্ভুক্ত রয়েছে, যা আপনাকে এক ক্লিকেই বিনামূল্যে AI API চালু করতে সাহায্য করবে!

গত সপ্তাহে, স্বাধীনভাবে ডেভেলপমেন্টের কাজ করে এমন এক বন্ধু হঠাৎ আমার সাথে যোগাযোগ করে এবং আমাকে একটি স্ক্রিনশট পাঠায়, যেখানে স্ক্রিনটি ৪০১ এররে ভরা ছিল। সে বলল, "ভাই, আমি সারাদিন ধরে ক্লাউডফ্লেয়ারের এআই এপিআই ডিবাগ করার চেষ্টা করছি, কিন্তু এটা কিছুতেই কাজ করছে না।"

আমি তার কোডের দিকে এক ঝলক তাকালাম। বেস ইউআরএল (Base URL) /ai/v1-এ সেট করা ছিল, কিন্তু রিকোয়েস্ট বডিটি অফিশিয়াল রেস্ট এপিআই (official REST API)-এর মতো করে ফরম্যাট করা ছিল, তাই দুটোর মধ্যে কোনো মিলই ছিল না।

তিনি বলেছেন যে তিনি শুধু Workers AI-এর একটি মডেল ডিবাগ করার জন্য OpenAI-এর SDK ব্যবহার করতে চান, এতে কি কোনো সমস্যা আছে?

এটা একটা বড় সমস্যা।

ক্লাউডফ্লেয়ারের এআই পরিষেবাগুলো পরিস্থিতিভেদে তিনটি সম্পূর্ণ ভিন্ন বেস ইউআরএল ব্যবহার করে। প্রতিটির নিজস্ব ফরম্যাট এবং প্রযোজ্য পরিস্থিতি রয়েছে। যদিও ডকুমেন্টেশন রয়েছে, সেগুলো বিভিন্ন পৃষ্ঠায় ছড়িয়ে ছিটিয়ে আছে, ফলে প্রথমবার চেষ্টা করার সময় কোনটি দেখতে হবে তা বোঝা কঠিন হয়ে পড়ে। ভুল ইউআরএল ব্যবহার করলে ৪০১ বা ৪০০ এরর দেখা দেবে, যা আপনাকে পরিষেবাটি অ্যাক্সেস করতে বাধা দেবে।

যখন আমি প্রথম এই সমস্যাটির সম্মুখীন হই, তখন এর সমাধান বের করার আগে আমি বেশ কয়েকবার চেষ্টা করেছিলাম। ত্রুটির বার্তায় ভরা স্ক্রিনটির দিকে তাকিয়ে আমি বাকরুদ্ধ হয়ে গিয়েছিলাম।

আজ আমি তোমাদের জন্য এই তিনটি রাস্তা স্পষ্টভাবে এঁকে দেব, যাতে এটা পড়ার পর তোমরা আর কোনো ভুল না করো।

ত্রুটি আসা বন্ধ করুন! OpenAI সামঞ্জস্যের জন্য Cloudflare-এর Base URL এবং API সহজেই কনফিগার করুন।

ওপেনএআই সামঞ্জস্যপূর্ণ ইন্টারফেস বেস ইউআরএল

সবচেয়ে বেশি ব্যবহৃতটা দিয়ে শুরু করা যাক।

আপনি যদি OpenAI SDK, অথবা LangChain, Dify, NextChat, বা One-API-এর মতো কাস্টম OpenAI ফরম্যাট সমর্থনকারী টুল ব্যবহার করেন, তাহলে এটিই সঠিক পদ্ধতি।

https://api.cloudflare.com/client/v4/accounts/{你的account_id}/ai/v1

এটি এমন একটি জিনিস যা ক্লাউডফ্লেয়ার বিশেষভাবে ওপেনএআই ইন্টারফেস ফরম্যাটের সাথে সামঞ্জস্য রেখে ডিজাইন করেছে। সম্পূর্ণ ডায়ালগ এন্ডপয়েন্টের পরে `/chat/completions` যোগ করুন। আপনার আসল ওপেনএআই বেস ইউআরএলটি এটি দিয়ে প্রতিস্থাপন করুন, এবং এপিআই কী-টি আপনার ক্লাউডফ্লেয়ার টোকেন দিয়ে প্রতিস্থাপন করুন, তাহলে এটি সরাসরি চালু হয়ে যাবে। আমি `@cf/deepseek-ai/deepseek-r1-distill-qwen-32b` এবং `@cf/meta/llama-3.1-8b-instruct`-এর মতো মডেলগুলো চেষ্টা করে দেখেছি, এবং সবগুলোই ঠিকঠাক কাজ করে।

তবে, উল্লেখ্য যে এটি শুধুমাত্র পাঠ্য-ভিত্তিক সংলাপ মডেল সমর্থন করে।

ক্লাউডফ্লেয়ারের অফিসিয়াল নেটিভ REST API

গ্রাফ তৈরির জন্য স্টেবল ডিফিউশন, অডিও ট্রান্সক্রিপশনের জন্য হুইস্পার, বা অন্য কোনো নন-টেক্সট মডেল ব্যবহার করার প্রয়োজন হলে, দ্বিতীয় পদ্ধতিটি অনুসরণ করুন, যা হলো ক্লাউডফ্লেয়ারের অফিশিয়াল নেটিভ REST API।

https://api.cloudflare.com/client/v4/accounts/{你的account_id}/ai/run

মডেলের নামটি পাথে লেখা যেতে পারে, যেমন /ai/run/@cf/bytedance/stable-diffusion-xl-lightning, অথবা এটি রিকোয়েস্ট বডির `model` ফিল্ডে রাখা যেতে পারে। আমি এটি ফিল্ডে রাখতেই বেশি পছন্দ করি; এতে পাথটি ছোট এবং পরিচ্ছন্ন হয়। আমিও প্রথমে এই বিষয়টি নিয়ে বিভ্রান্ত ছিলাম। কিছু মডেল উভয় পদ্ধতিই গ্রহণ করে, আবার কিছু মডেল কেবল একটি পদ্ধতি গ্রহণ করে। ডকুমেন্টেশন দেখার সময় এই বিষয়টি খেয়াল রাখবেন।

এআই গেটওয়ে বেস ইউআরএল

তৃতীয় একটি উপায় আছে: এআই গেটওয়ে।

এই পরিস্থিতিটি কিছুটা ভিন্ন। যদি আপনি তৃতীয় পক্ষের এপিআই প্রক্সি করার জন্য ক্লাউডফ্লেয়ার ব্যাকএন্ডে একটি এআই গেটওয়ে সেট আপ করে থাকেন, যেমন ক্যাশিং, মনিটরিং এবং রেট লিমিটিং-এর জন্য ক্লাউডফ্লেয়ার গেটওয়ের মাধ্যমে ওপেনএআই (OpenAI) অনুরোধগুলি ফরোয়ার্ড করেন, তাহলে বেস ইউআরএল (Base URL) হবে...

https://gateway.ai.cloudflare.com/v1/{你的account_id}/{你的gateway_id}/openai

`complete` এন্ডপয়েন্টের পরে `/chat/completions` যোগ করলে সমস্ত ট্র্যাফিক ক্লাউডফ্লেয়ার গেটওয়ের মাধ্যমে যায় এবং লগ প্যানেলে প্রতিটি অনুরোধের লেটেন্সি ও ফলাফল দেখা যায়। টিমের কাজের পরিধি বাড়ার সাথে সাথে এই ফিচারটি অত্যন্ত কার্যকর হয়ে ওঠে, কারণ এর ফলে বিভিন্ন ভেন্ডরের ব্যাকএন্ড থেকে এক এক করে ডেটা খোঁজার প্রয়োজন হয় না।

কীভাবে বাছাই করবেন: তিন ধরনের ইউআরএল-এর ব্যাখ্যা এক বাক্যে।

আচ্ছা, এতে তিনটি পথের কথা বলা হলো। সংক্ষেপে বলতে গেলে, মূলনীতি একটাই।

আপনার পথ নির্ভর করে আপনার ব্যবহৃত সরঞ্জামের ওপর।

OpenAI SDK ব্যবহার করে একটি ডায়ালগ মডেল কল করতে, `/ai/v1`-এ যান। একটি ইমেজ/অডিও মডেল কল করতে, `/ai/run`-এ যান। একটি গেটওয়ের মাধ্যমে সমন্বিত ব্যবস্থাপনার জন্য, `/gateway/`-এ যান। অথেনটিকেশন পদ্ধতি একই: হেডারে `Authorization: Bearer` লিখে তার পরে আপনার API টোকেনটি দিন। Cloudflare ব্যাকএন্ডে টোকেনটি তৈরি করুন, এবং `Workers AI: Edit` পারমিশনটি চেক করতে মনে রাখবেন।

account_id কোথায় পাবেন? আপনার Cloudflare অ্যাডমিন প্যানেলে লগ ইন করুন, ডানদিকের সাইডবারে API সেকশন পর্যন্ত স্ক্রল করুন, অথবা আপনার ব্রাউজারের অ্যাড্রেস বার দেখুন; ওই ৩২-ক্যারেক্টারের আলফানিউমেরিক স্ট্রিংটিই হলো সেটি।

সত্যি বলতে, সেদিন আমার বন্ধুকে কাজটা করতে সাহায্য করার পর সে আমাকে এমন একটা কথা বলেছিল যা আমার মতে একদম ঠিক: ব্যাপারটা এমন ছিল না যে আমি জানতাম না কীভাবে করতে হয়, বরং ডকুমেন্টেশনে বিষয়টা আমাকে পরিষ্কারভাবে ব্যাখ্যা করা হয়নি।

অনেক টেকনিক্যাল কনফিগারেশনই এরকম হয়। এমন নয় যে এগুলো বিশেষভাবে কঠিন, কিন্তু এতে প্রবেশের অনেকগুলো পথ থাকে, যার ফলে প্রথমবার চেষ্টা করার সময় পথ হারিয়ে ফেলা সহজ। ক্লাউডফ্লেয়ার এআই (Cloudflare AI) কনফিগার করার সময় যদি আপনি বিভিন্ন অব্যাখ্যেয় ত্রুটির সম্মুখীন হন, তবে এর কারণ সম্ভবত একটি ভুল বেস ইউআরএল (Base URL) বা একটি ত্রুটিপূর্ণ ফরম্যাট। এই তিনটি ইউআরএল সেট হাতের কাছে রাখুন; পরেরবার আপনি সহজেই সঠিকটি খুঁজে নিতে পারবেন।

আপনাকে স্বাগতম।

সুতরাং, যেহেতু আপনি এতদূর পড়েছেন, যদি এটি আপনার জন্য সহায়ক হয়ে থাকে, তবে অনুগ্রহ করে লাইক ও শেয়ার করুন। আর সবার আগে আপডেট পেতে চাইলে আমাকে ফলোও করতে পারেন! ⭐

আমার লেখাটি পড়ার জন্য ধন্যবাদ। আবার দেখা হবে।

আশা করি, চেন ওয়েইলিয়াং-এর ব্লগে ( https://www.chenweiliang.com/ ) শেয়ার করা "Stop Reporting Errors! Easily Configure Cloudflare for OpenAI Compatibility: Base URL and Interface" আর্টিকেলটি আপনার জন্য সহায়ক হবে।

এই নিবন্ধটির লিঙ্কটি নির্দ্বিধায় শেয়ার করুন: https://www.chenweiliang.com/cwl-34252.html

আরও লুকানো কৌশল 🔑 জানতে, আমাদের টেলিগ্রাম চ্যানেলে যোগদান করতে স্বাগতম!

ভালো লাগলে শেয়ার এবং লাইক করুন! আপনার শেয়ার এবং লাইক আমাদের অব্যাহত অনুপ্রেরণা!

 

发表 评论

您的邮箱地址不会被公开。必填项已用*标注

উপরে যান