क्लाउडफ्लेयर वर्कर्स एआई नि:शुल्क एपीआई कल प्रक्रिया: एक चरणमा दर्ता, कन्फिगरेसन, र तैनाती

म अर्को दिन एउटा व्यक्तिगत परियोजनामा ​​काम गरिरहेको थिएँ, र म एउटा... बनाउन चाहन्थेँ।AIसहायकले ठूला मोडेलहरू कल गर्नुपर्छ। जब मैले मूल्यको बारेमा सोधें, वाह, GPT-4o मा प्रत्येक कलको लागत केही सेन्ट छ। यदि हाम्रो परियोजना वास्तवमा सञ्चालन हुने हो भने, API शुल्क मात्र प्रति महिना धेरै हजार हुनेछ।

हामीले सोच्यौं कि कुनै सस्तो तरिका छ कि?

त्यसपछि हामीले क्लाउडफ्लेयर वर्कर्स एआई भेट्यौं। हामीलाई पहिले नै थाहा थियो कि क्लाउडफ्लेयर एआई अनुमानमा संलग्न छ, तर हामीले यसलाई गम्भीरतापूर्वक लिएनौं, ठूला कम्पनीहरूले आफ्ना उत्पादनहरूको लागि शुल्क लिने अनुमान गर्दै। बाहिर निस्कियो, वाह, तिनीहरूले हरेक दिन १०,००० न्यूरोनहरू नि:शुल्क दिइरहेका छन्।

१०,००० न्युरोन भनेको के हो? यो प्रति दिन लगभग केही सय संवाद वा केही सय छवि उत्पादन सत्रहरू हो। यो एक व्यक्तिसँग खेल्नको लागि पर्याप्त भन्दा बढी हो।

म साँच्चै उत्साहित भएँ र तुरुन्तै यसको अनुसन्धान गर्न थालें।

क्लाउडफ्लेयर वर्कर्स एआई भनेको के हो?

क्लाउडफ्लेयर वर्कर्स एआई, मलाई लाग्छ यो...पोजिशनिंगत्यो एकदमै रोचक छ। यो केवल एउटा साधारण मोडेल प्रदायक मात्र होइन; यो क्लाउडफ्लेयरको विश्वव्यापी एज नेटवर्कमा चल्ने एआई इन्फरेन्स प्लेटफर्म हो। ३०० भन्दा बढी शहरहरूमा एज नोडहरू भएकोले, यो प्रयोगकर्ताहरूको लागि अविश्वसनीय रूपमा नजिक छ।

यसको बारेमा सोच्नुहोस्: जब तपाईं OpenAI को API प्रयोग गर्नुहुन्छ, अनुरोध पहिले अमेरिका जान्छ, प्रशोधन गरिन्छ, र त्यसपछि फिर्ता आउँछ, तीन देखि चार सय मिलिसेकेन्ड लाग्छ। अर्कोतर्फ, क्लाउडफ्लेयर संसारभरि नोडहरू भएको CDN प्रदायक हो। तपाईं जहाँ भए पनि, यसले नजिकको नोडमा मोडेल चलाउँछ।

सामान्य प्रतिक्रिया समय १०० मिलिसेकेन्ड भन्दा कम हुन्छ। यो भिन्नता प्रयोगकर्ताले सजिलै देख्न सक्छन्।

यसको बारेमा साँच्चै राम्रो कुरा के हो भने यसको कोल्ड स्टार्ट मिलिसेकेन्ड-स्तरको छ, र यो स्वचालित रूपमा माथि र तल स्केल हुन्छ। ट्राफिकमा अचानक वृद्धि भए पनि, यो ढिलो हुँदैन, केही प्लेटफर्महरू जस्तो कि बिहान ३ बजे कसैले प्रयोग नगर्दा अविश्वसनीय रूपमा छिटो हुन्छ, तर त्यसपछि दिनको समयमा पिक आवरमा पूर्ण रूपमा क्र्यास हुन्छ।

५०+ मोडेलहरू, सबै परिदृश्यहरू समेट्ने

त्यहाँ धेरै समर्थित मोडेलहरू पनि छन्; जुन २०२६ सम्म, पहिले नै ५० भन्दा बढी छन्।

पाठ-आधारित संवादको लागि, लामा ३, लामा ४, मिस्ट्रल, GLM, क्वेन, जेम्मा, र दीपसीक-आर१ सबै उपलब्ध छन्। छवि उत्पादनको लागि, स्टेबल डिफ्युजन, FLUX, र पिक्सभर्स छन्। भाषणको लागि, भाषण-देखि-पाठको लागि व्हिस्पर, पाठ-देखि-वाक्यको लागि TTS, र भिडियो उत्पादन पनि छ।

यसबाहेक, यसको API धेरै सफा हुने गरी डिजाइन गरिएको छ। प्रयोग गरिएको मोडेलको पर्वाह नगरी, यसले एकीकृत इन्टरफेस प्रयोग गर्दछ; तपाईंले मोडेलको नाम मात्र परिवर्तन गर्न आवश्यक छ।

env.AI.run(“मोडेल नाम”, {…})

केवल एक लाइन कोडको साथ मोडेल परिवर्तन गर्नु धेरै सुविधाजनक छ।

अत्यन्तै सस्तो मूल्य, उदार नि:शुल्क क्रेडिट सीमा

मैले मूल्य निर्धारण पनि गरें। नि:शुल्क दैनिक भत्ता १०,००० न्यूरोन हो, जुन व्यक्तिगत प्रयोगको लागि पर्याप्त भन्दा बढी हो। यदि तपाईं तिर्न चाहनुहुन्छ भने, यो प्रति १००० न्यूरोनको लागि $०.०११ छ, जुन OpenAI भन्दा ६०% देखि ९०% सस्तो छ। साथै, यो न्यूरोनद्वारा बिल गरिन्छ, टोकनद्वारा होइन, जसले गर्दा यसलाई साना कुराकानीहरूको लागि बढी लागत-प्रभावी बनाउँछ।

इमानदारीपूर्वक भन्नुपर्दा, मलाई लाग्छ कि यो बिलिङ विधि एकदमै उचित छ। तपाईंले खर्च गर्ने न्यूरोनको संख्या तपाईं साधारण कुराकानी गरिरहनुभएको छ वा धेरै लामो, त्यसमा निर्भर गर्दछ, तर भिन्नता टोकन-आधारित बिलिङको जस्तो अपमानजनक छैन।

यस बिन्दुमा, तपाईं सोचिरहनुभएको हुन सक्छ, तपाईं यसलाई कसरी प्रयोग गर्नुहुन्छ?

म आफैं यो प्रक्रियाबाट गुज्रिएको थिएँ, म तपाईंलाई यसको बारेमा बताउँछु।

दर्ता गर्नुहोस् र API टोकनहरू सिर्जना गर्नुहोस्

पहिलो चरण भनेको क्लाउडफ्लेयर खाता दर्ता गर्नु हो। यदि तपाईंसँग पहिले नै खाता छ भने, लग इन गर्नुहोस्। यदि छैन भने, दर्ता गर्न सजिलो छ; केवल इमेल ठेगाना भर्नुहोस् र पासवर्ड सेट गर्नुहोस्।

लगइन गरेपछि, बायाँ मेनुमा रहेको AI मा क्लिक गर्नुहोस्, त्यसपछि Workers AI मा क्लिक गर्नुहोस्।

भित्र पसेपछि, तपाईंले API टोकन सिर्जना गर्ने बटन देख्नुहुनेछ। टोकन उत्पन्न गर्न त्यसमा क्लिक गर्नुहोस्।

यहाँ ध्यान दिनुपर्ने एउटा विवरण छ: उत्पन्न गरिएको टोकन सिर्जना गर्दा एक पटक मात्र देख्न सकिन्छ, त्यसैले यसलाई सुरक्षित गर्न निश्चित गर्नुहोस्। पृष्ठले तपाईंलाई खाता ID पनि दिनेछ; तपाईंलाई पछि यी दुवैको आवश्यकता पर्नेछ।

बचत गरेपछि, तपाईंले पृष्ठको तल प्रयोगको उदाहरण देख्नुहुनेछ, जुन कर्ल कमाण्ड हो। यसलाई आफ्नो खाता ID र APIKEY ले बदल्नुहोस्। कमाण्ड यस्तो देखिन्छ:

curl \
  https://api.cloudflare.com/client/v4/accounts/账户ID/ai/run/@cf/模型ID \
  -H "Authorization: Bearer 刚才生成的APIKEY" \
  -d '{"messages":[{"role":"system","content":"You are a friendly assistant that helps write stories"},{"role":"user","content":"Write a short story about a llama that goes on a journey to find an orange cloud"}]}'

उपलब्ध मोडेलहरूको सूची हेर्नुहोस्

त्यसपछि प्रश्न उठ्छ: तपाईंले मोडेल आईडी कहाँ फेला पार्नुहुन्छ?

Workers AI पृष्ठको दायाँ छेउमा एउटा कागजात बटन छ।

"मोडेलहरू" श्रेणीमा क्लिक गर्नुहोस्; त्यहाँ तपाईंले सबै मोडेलहरूको सूची पाउनुहुनेछ।

तपाईंले प्रयोग गर्न चाहनुभएको एउटा छान्नुहोस्, र तपाईंले यसमा क्लिक गरेर मोडेल आईडी हेर्न सक्नुहुन्छ।

किमी २.६ मोडेलको परीक्षण कलिङ

我选择用kimi2.6来测试一下。把模型ID复制出来，替换到curl命令里，从@cf/开始替换。

अनुरोध पठाइयो, र परिणाम चाँडै फिर्ता गरियो।

प्रतिक्रिया गति साँच्चै धेरै छिटो छ, मैले अपेक्षा गरेको भन्दा सहज।

इमान्दारीपूर्वक भन्नुपर्दा, म यो नि:शुल्क क्रेडिटले के गर्न सक्छ भनेर हेर्न चाहन्थें, र यो धेरै शक्तिशाली रहेछ भन्ने थाहा भयो। यो दैनिक च्याटिङ, सामग्री उत्पादन, अनुवाद र कोडिङको लागि पूर्ण रूपमा पर्याप्त छ।

अनि यसको बारेमा सोच्नुहोस्: यो कुरा एज नोडहरूमा चल्छ। तपाईंले देशभर वा विश्वभरका प्रयोगकर्ताहरूसँग एआई एप्लिकेसन तैनाथ गर्नुहुन्छ, र क्षेत्रीय तैनाती समस्याहरूको बारेमा चिन्ता नगरीकन प्रतिक्रिया गति स्थिर रहन्छ। यो व्यक्तिगत विकासकर्ताहरू र साना टोलीहरूका लागि अविश्वसनीय रूपमा आकर्षक छ।

पहिले, यदि तपाईं मोडेल चलाउन चाहनुहुन्छ भने, तपाईंले या त GPU किन्नुपर्थ्यो र आफ्नै बनाउनुपर्थ्यो, जुन अविश्वसनीय रूपमा महँगो थियो, वा क्लाउड प्रदायकबाट GPU इन्स्टन्स प्रयोग गर्नुपर्थ्यो, जुन कन्फिगर गर्न जटिल थियो। अर्कोतर्फ, Cloudflare ले तपाईंको लागि सबै कुरा समेटेको छ। तपाईंले यसलाई कल गर्न कोड मात्र लेख्नुहुन्छ, र यसले तपाईंको लागि सबै अव्यवस्थित चीजहरू ह्यान्डल गर्दछ।

मलाई लाग्छ यो सोच सही छ। एआई क्षमताहरू पानी र बिजुली जस्ता पूर्वाधारहरू जस्तै बढ्दै जानेछन्; तपाईंलाई बिजुली कसरी उत्पादन हुन्छ भनेर जान्न आवश्यक छैन, तपाईं यसलाई प्लग इन गरेर प्रयोग गर्न सक्नुहुन्छ। क्लाउडफ्लेयर वर्कर्स एआईले यो "प्लग एण्ड प्ले" अवधारणालाई अझ चरम स्तरमा लैजान्छ।

अवश्य पनि, यसमा केही कमजोरीहरू छैनन्। नि:शुल्क कोटा केवल १०,००० न्यूरोनहरू मात्र छन्, त्यसैले यदि तपाईं यसलाई उच्च ट्राफिक भएको उत्पादन वातावरणमा तैनाथ गर्न चाहनुहुन्छ भने तपाईंले अझै पनि तिर्नुपर्नेछ। साथै, ओपनएआईको व्यापक इकोसिस्टमको तुलनामा ५० भन्दा बढी मोडेलहरू भए पनि, केही आला वा नयाँ मोडेलहरू समर्थित छैनन्।

तर व्यक्तिगत परियोजनाहरू, साना उपकरणहरू, वा केवल जिज्ञासा-संचालित प्रयोगहरूको लागि, मलाई लाग्छ कि यो पर्याप्त भन्दा बढी छ।

यो मेरो इमान्दार अनुभव हो। तपाईंले अहिलेसम्म पढिसक्नुभएको हुनाले, यदि तपाईंलाई यो उपयोगी लाग्यो भने, कृपया यसलाई लाइक र सेयर गर्नुहोस्। यदि तपाईं पहिले अपडेटहरू प्राप्त गर्न चाहनुहुन्छ भने, तपाईं मलाई पनि फलो गर्न सक्नुहुन्छ! ⭐

मेरो लेख पढ्नुभएकोमा धन्यवाद। अर्को पटक भेटौँला।