क्लाउडफ्लेअर वर्कर्स एआय फ्री एपीआय कॉल प्रक्रिया: एकाच टप्प्यात नोंदणी, कॉन्फिगरेशन आणि डिप्लॉयमेंट

मी काही दिवसांपूर्वी एका वैयक्तिक प्रकल्पावर काम करत होतो, आणि मला एक... बनवायचे होते.AIअसिस्टंटला मोठ्या मॉडेल्सना कॉल करण्याची गरज आहे. जेव्हा मी किंमतीबद्दल विचारले, तेव्हा कळले की, अरे बापरे, GPT-4o च्या प्रत्येक कॉलसाठी काही सेंट्स लागतात. जर आमचा प्रोजेक्ट प्रत्यक्षात चालला, तर केवळ API शुल्काचाच आकडा दरमहा हजारो डॉलर्सपर्यंत जाईल.

यापेक्षा काही स्वस्त मार्ग आहे का, असा आम्हाला प्रश्न पडला.

मग आमच्यासमोर क्लाउडफ्लेअर वर्कर्स एआय आले. क्लाउडफ्लेअर आधीपासूनच एआय इन्फरन्समध्ये सहभागी आहे हे आम्हाला माहीत होते, पण मोठ्या कंपन्या त्यांच्या उत्पादनांसाठी पैसे आकारतील असे समजून आम्ही ते गांभीर्याने घेतले नव्हते. पण आश्चर्याची गोष्ट म्हणजे, ते दररोज १०,००० न्यूरॉन्स मोफत देत आहेत.

१०,००० न्यूरॉन्स म्हणजे काय? याचा अर्थ अंदाजे दररोज काही शेकडो संवाद किंवा काही शेकडो प्रतिमा निर्मिती सत्रे. एका व्यक्तीला हाताळण्यासाठी हे पुरेसे आहे.

मी खूप उत्साहित झालो आणि लगेच त्यावर संशोधन करायला सुरुवात केली.

क्लाउडफ्लेअर वर्कर्स एआय म्हणजे काय?

क्लाउडफ्लेअर वर्कर्स एआय, बरं, मला वाटतं की ते...पोझिशनिंगही खूपच रंजक गोष्ट आहे. हा केवळ एक साधा मॉडेल प्रोव्हायडर नाही; तर क्लाउडफ्लेअरच्या जागतिक एज नेटवर्कवर चालणारा एक एआय इन्फरन्स प्लॅटफॉर्म आहे. ३०० हून अधिक शहरांमध्ये एज नोड्स असल्यामुळे, तो वापरकर्त्यांच्या अगदी जवळ आहे.

विचार करा: जेव्हा तुम्ही OpenAI चा API वापरता, तेव्हा विनंती प्रथम अमेरिकेत जाते, त्यावर प्रक्रिया होते आणि मग ती परत येते, ज्यासाठी तीनशे ते चारशे मिलिसेकंद लागतात. याउलट, Cloudflare हा एक CDN प्रदाता आहे, ज्याचे नोड्स जगभर पसरलेले आहेत. तुम्ही कुठेही असाल, ते मॉडेल सर्वात जवळच्या नोडवर चालवते.

सर्वसाधारण प्रतिसाद वेळ १०० मिलिसेकंदांपेक्षा कमी आहे. हा फरक वापरकर्त्याला जाणवतो.

याची सर्वात खास गोष्ट म्हणजे याचा कोल्ड स्टार्ट मिलिसेकंद-स्तरीय आहे आणि ते आपोआप वेग वाढवते व कमी करते. रहदारीत अचानक वाढ झाली तरी, हे अडखळत नाही; याउलट काही प्लॅटफॉर्म्स पहाटे ३ वाजता कोणीही वापरत नसताना प्रचंड वेगवान असतात, पण दिवसाच्या गर्दीच्या वेळी पूर्णपणे क्रॅश होतात.

सर्व परिस्थितींचा समावेश असलेले ५०+ मॉडेल्स.

तसेच अनेक मॉडेल्सना सपोर्ट आहे; जून २०२६ पर्यंत, ही संख्या ५० पेक्षा जास्त झाली आहे.

मजकूर-आधारित संवादासाठी, लामा ३, लामा ४, मिस्ट्रल, जीएलएम, क्वेन, जेमा आणि डीपसीक-आर१ हे सर्व उपलब्ध आहेत. प्रतिमा निर्मितीसाठी, स्टेबल डिफ्यूजन, फ्लक्स आणि पिक्सव्हर्स आहेत. भाषणासाठी, स्पीच-टू-टेक्स्टकरिता व्हिस्पर, टेक्स्ट-टू-स्पीचकरिता टीटीएस आणि व्हिडिओ निर्मितीसुद्धा उपलब्ध आहे.

शिवाय, त्याचा API अतिशय सुस्पष्टपणे डिझाइन केलेला आहे. कोणतेही मॉडेल वापरले तरी, ते एकसंध इंटरफेस वापरते; तुम्हाला फक्त मॉडेलचे नाव बदलावे लागते.

env.AI.run(“मॉडेलचे नाव”, {…})

फक्त एका ओळीच्या कोडने मॉडेल बदलणे खूप सोयीचे आहे.

अत्यंत स्वस्त किंमत, भरघोस मोफत क्रेडिट मर्यादा

मी किंमती देखील तपासल्या आहेत. मोफत दैनिक मर्यादा १०,००० न्यूरॉन्स आहे, जी वैयक्तिक प्रयोगांसाठी पुरेशी आहे. जर तुम्हाला पैसे द्यायचे असतील, तर ते प्रति १००० न्यूरॉन्स $०.०११ आहे, जे OpenAI पेक्षा ६०% ते ९०% स्वस्त आहे. शिवाय, याचे बिल टोकन्सऐवजी न्यूरॉन्सनुसार आकारले जाते, ज्यामुळे लहान संभाषणांसाठी ते अधिक किफायतशीर ठरते.

खरं सांगायचं तर, मला ही बिलिंग पद्धत बरीच न्याय्य वाटते. तुम्ही करत असलेले संभाषण साधे आहे की खूप मोठे आहे यावर तुम्ही खर्च करत असलेल्या न्यूरॉन्सची संख्या अवलंबून असते, पण हा फरक टोकन-आधारित बिलिंगइतका अवाढव्य नसतो.

या टप्प्यावर तुम्हाला प्रश्न पडला असेल की, याचा वापर नेमका कसा करायचा?

मी स्वतः या प्रक्रियेतून गेलो आहे, त्याबद्दल मी तुम्हाला सांगतो.

नोंदणी करा आणि API टोकन तयार करा

पहिली पायरी म्हणजे क्लाउडफ्लेअर खात्याची नोंदणी करणे. जर तुमचे खाते आधीच असेल, तर फक्त लॉग इन करा. नसल्यास, नोंदणी करणे सोपे आहे; फक्त तुमचा ईमेल पत्ता भरा आणि पासवर्ड सेट करा.

लॉग इन केल्यानंतर, डाव्या मेन्यूमधील AI वर क्लिक करा, त्यानंतर Workers AI वर क्लिक करा.

आतमध्ये गेल्यावर, तुम्हाला API टोकन तयार करण्याचे एक बटण दिसेल. टोकन तयार करण्यासाठी त्यावर क्लिक करा.

येथे एक गोष्ट लक्षात घ्या: तयार केलेले टोकन खाते तयार करताना फक्त एकदाच पाहता येते, म्हणून ते नक्की जतन करून ठेवा. ते पेज तुम्हाला एक अकाउंट आयडी देखील देईल; तुम्हाला नंतर या दोन्हींची आवश्यकता असेल.

सेव्ह केल्यानंतर, तुम्हाला पानाच्या तळाशी वापराचे एक उदाहरण दिसेल, जे 'curl' कमांड आहे. फक्त त्याजागी तुमचा अकाउंट आयडी आणि APIKEY टाका. कमांड खालीलप्रमाणे आहे:

curl \
  https://api.cloudflare.com/client/v4/accounts/账户ID/ai/run/@cf/模型ID \
  -H "Authorization: Bearer 刚才生成的APIKEY" \
  -d '{"messages":[{"role":"system","content":"You are a friendly assistant that helps write stories"},{"role":"user","content":"Write a short story about a llama that goes on a journey to find an orange cloud"}]}'

उपलब्ध मॉडेल्सची यादी पहा

मग प्रश्न असा उद्भवतो की, तुम्हाला मॉडेल आयडी कुठे मिळेल?

वर्कर्स एआय पेजच्या उजव्या बाजूला एक डॉक्युमेंट बटन आहे.

'मॉडेल्स' या श्रेणीवर क्लिक करा; तिथे तुम्हाला सर्व मॉडेल्सची यादी मिळेल.

तुम्हाला जे वापरायचे आहे ते निवडा आणि त्यावर क्लिक करून तुम्ही मॉडेल आयडी पाहू शकता.

किमी २.६ मॉडेलला कॉल करण्याची चाचणी

我选择用kimi2.6来测试一下。把模型ID复制出来，替换到curl命令里，从@cf/开始替换。

विनंती पाठवण्यात आली आणि निकाल त्वरित परत मिळाला.

प्रतिसादाचा वेग खरोखरच खूप जलद आहे, माझ्या अपेक्षेपेक्षाही अधिक सुरळीत आहे.

खरं सांगायचं तर, मला फक्त हे बघायचं होतं की हे मोफत क्रेडिट काय करू शकतं, आणि असं दिसून आलं की ते खूपच शक्तिशाली आहे. रोजच्या चॅटिंग, कंटेंट निर्मिती, भाषांतर आणि कोडिंगसाठी ते अगदी पुरेसं आहे.

आणि विचार करा: ही प्रणाली एज नोड्सवर चालते. तुम्ही देशभरात किंवा जगभरात वापरकर्ते असलेले एआय ॲप्लिकेशन तैनात करता, आणि प्रादेशिक तैनाती समस्यांची चिंता न करता प्रतिसादाचा वेग सातत्यपूर्ण राहतो. ही गोष्ट वैयक्तिक डेव्हलपर्स आणि लहान टीम्ससाठी अत्यंत आकर्षक आहे.

पूर्वी, जर तुम्हाला एखादे मॉडेल चालवायचे असेल, तर एकतर तुम्हाला GPU विकत घेऊन स्वतःच तयार करावा लागत असे, जे प्रचंड महाग होते, किंवा क्लाउड प्रोव्हायडरकडून GPU इन्स्टन्स वापरावा लागत असे, जे कॉन्फिगर करायला किचकट होते. याउलट, क्लाउडफ्लेअरने हे सर्व तुमच्यासाठी सोपे करून दिले आहे. तुम्हाला फक्त त्याला कॉल करण्यासाठी कोड लिहायचा आहे, आणि ते तुमच्यासाठी बाकीच्या सर्व किचकट गोष्टी सांभाळून घेते.

मला वाटते की हा विचार योग्य आहे. एआय क्षमता अधिकाधिक पाणी आणि वीज यांसारख्या पायाभूत सुविधांसारख्या बनतील; वीज कशी निर्माण होते हे जाणून घेण्याची गरज नाही, तुम्ही फक्त प्लग लावून ती वापरू शकता. क्लाउडफ्लेअर वर्कर्स एआय ही 'प्लग अँड प्ले' संकल्पना आणखी एका टोकाच्या पातळीवर घेऊन जाते.

अर्थात, याचे काही तोटेही आहेत. मोफत कोटा फक्त १०,००० न्यूरॉन्सचा आहे, त्यामुळे जास्त रहदारी असलेल्या प्रोडक्शन वातावरणात ते तैनात करायचे असल्यास तुम्हाला पैसे द्यावे लागतील. तसेच, ५० पेक्षा जास्त मॉडेल्स असले तरी, OpenAI च्या व्यापक इकोसिस्टमच्या तुलनेत, काही विशिष्ट किंवा नवीन मॉडेल्सना सपोर्ट दिला जात नाही.

पण वैयक्तिक प्रकल्पांसाठी, छोट्या साधनांसाठी किंवा केवळ उत्सुकतेपोटी केलेल्या प्रयोगांसाठी, मला वाटते की ते पुरेसे आहे.

हा माझा प्रामाणिक अनुभव आहे. तुम्ही इथपर्यंत वाचले आहे, आणि जर तुम्हाला हे उपयुक्त वाटले असेल, तर कृपया लाईक आणि शेअर करा. जर तुम्हाला सर्वात आधी अपडेट्स मिळवायचे असतील, तर तुम्ही मला फॉलो सुद्धा करू शकता! ⭐

माझा लेख वाचल्याबद्दल धन्यवाद. पुढच्या वेळी भेटूया.