క్లౌడ్‌ఫ్లేర్ వర్కర్స్ AI ఉచిత API కాల్ ప్రక్రియ: ఒకే దశలో నమోదు, కాన్ఫిగరేషన్ మరియు డిప్లాయ్‌మెంట్

నేను మొన్న ఒక వ్యక్తిగత ప్రాజెక్ట్‌పై పని చేస్తుండగా, ఒక... నిర్మించాలని అనుకున్నాను.AIఅసిస్టెంట్ పెద్ద మోడల్స్‌ను కాల్ చేయాల్సి ఉంటుంది. నేను ధర గురించి అడిగినప్పుడు, ఆశ్చర్యంగా, GPT-4oకు చేసే ప్రతి కాల్‌కు కొన్ని సెంట్లు మాత్రమే ఖర్చవుతుంది. ఒకవేళ మా ప్రాజెక్ట్ నిజంగా నడిస్తే, కేవలం API ఫీజులకే నెలకు కొన్ని వేల డాలర్లు ఖర్చవుతాయి.

ఇంతకంటే చౌకైన మార్గం ఏదైనా ఉందేమో అని మేము ఆలోచించాము.

ఆ తర్వాత మాకు క్లౌడ్‌ఫ్లేర్ వర్కర్స్ AI గురించి తెలిసింది. క్లౌడ్‌ఫ్లేర్ ఇంతకుముందే AI ఇన్ఫరెన్స్‌లో పాలుపంచుకుంటోందని మాకు తెలుసు, కానీ పెద్ద కంపెనీలు తమ ఉత్పత్తులకు డబ్బు వసూలు చేస్తాయని భావించి మేము దానిని అంత సీరియస్‌గా తీసుకోలేదు. తీరా చూస్తే, వావ్, వారు ప్రతిరోజూ 10000 న్యూరాన్‌లను ఉచితంగా ఇస్తున్నారు.

10000 న్యూరాన్లు అంటే ఏమిటి? అంటే సుమారుగా రోజుకు కొన్ని వందల సంభాషణలు లేదా కొన్ని వందల చిత్రాలను రూపొందించే సెషన్‌లు. ఒక వ్యక్తి ప్రయోగాలు చేయడానికి ఇది చాలా ఎక్కువ.

నేను చాలా ఉత్సాహపడి వెంటనే దాని గురించి పరిశోధన చేయడం మొదలుపెట్టాను.

క్లౌడ్‌ఫ్లేర్ వర్కర్స్ AI అంటే ఏమిటి?

క్లౌడ్‌ఫ్లేర్ వర్కర్స్ AI, అయితే, నా ఉద్దేశ్యం అది...స్థానంఅది చాలా ఆసక్తికరంగా ఉంది. ఇది కేవలం ఒక సాధారణ మోడల్ ప్రొవైడర్ కాదు; ఇది క్లౌడ్‌ఫ్లేర్ యొక్క గ్లోబల్ ఎడ్జ్ నెట్‌వర్క్‌పై నడుస్తున్న ఒక AI ఇన్ఫరెన్స్ ప్లాట్‌ఫామ్. 300కు పైగా నగరాల్లో ఎడ్జ్ నోడ్‌లు ఉండటంతో, ఇది వినియోగదారులకు చాలా దగ్గరగా ఉంటుంది.

ఒకసారి ఆలోచించండి: మీరు OpenAI యొక్క APIని ఉపయోగించినప్పుడు, అభ్యర్థన మొదట USకు వెళ్లి, ప్రాసెస్ చేయబడి, ఆపై తిరిగి వస్తుంది, దీనికి మూడు నుండి నాలుగు వందల మిల్లీసెకన్లు పడుతుంది. మరోవైపు, Cloudflare అనేది ప్రపంచవ్యాప్తంగా నోడ్‌లను కలిగిన ఒక CDN ప్రొవైడర్. మీరు ఎక్కడ ఉన్నా, అది మీకు అత్యంత సమీపంలో ఉన్న నోడ్‌పై మోడల్‌ను నడుపుతుంది.

సాధారణ ప్రతిస్పందన సమయం 100 మిల్లీసెకన్ల కంటే తక్కువగా ఉంటుంది. ఈ వ్యత్యాసం వినియోగదారునికి స్పష్టంగా తెలుస్తుంది.

దీనిలోని గొప్ప విషయం ఏమిటంటే, దీని కోల్డ్ స్టార్ట్ మిల్లీసెకన్ల స్థాయిలో ఉంటుంది మరియు ఇది దానంతట అదే వేగాన్ని పెంచుకుంటూ, తగ్గించుకుంటూ ఉంటుంది. తెల్లవారుజామున 3 గంటలకు ఎవరూ ఉపయోగించనప్పుడు చాలా వేగంగా ఉండి, పగటిపూట రద్దీ సమయాల్లో పూర్తిగా క్రాష్ అయ్యే కొన్ని ప్లాట్‌ఫారమ్‌లలా కాకుండా, ట్రాఫిక్ అకస్మాత్తుగా పెరిగినా ఇది నెమ్మదించదు.

50కి పైగా నమూనాలు, అన్ని సందర్భాలను కవర్ చేస్తాయి

మద్దతు ఉన్న నమూనాలు కూడా చాలా ఉన్నాయి; జూన్ 2026 నాటికి, ఇప్పటికే 50కి పైగా ఉన్నాయి.

టెక్స్ట్ ఆధారిత సంభాషణ కోసం, లామా 3, లామా 4, మిస్ట్రాల్, GLM, క్వెన్, జెమ్మా మరియు డీప్‌సీక్-r1 అన్నీ అందుబాటులో ఉన్నాయి. ఇమేజ్ జనరేషన్ కోసం, స్టేబుల్ డిఫ్యూజన్, FLUX మరియు పిక్స్‌వర్స్ ఉన్నాయి. స్పీచ్ కోసం, స్పీచ్-టు-టెక్స్ట్ కొరకు విస్పర్, టెక్స్ట్-టు-స్పీచ్ కొరకు TTS, మరియు వీడియో జనరేషన్ కూడా ఉన్నాయి.

అంతేకాకుండా, దీని API చాలా స్పష్టంగా ఉండేలా రూపొందించబడింది. ఏ మోడల్‌ను ఉపయోగించినా, ఇది ఏకీకృత ఇంటర్‌ఫేస్‌ను ఉపయోగిస్తుంది; మీరు కేవలం మోడల్ పేరును మార్చితే సరిపోతుంది.

env.AI.run(“మోడల్ పేరు”, {…})

కేవలం ఒక్క లైన్ కోడ్‌తో మోడల్‌ను మార్చడం చాలా సౌకర్యవంతంగా ఉంటుంది.

చాలా తక్కువ ధర, ఉదారమైన ఉచిత క్రెడిట్ పరిమితి

నేను ధరలను కూడా పరిశీలించాను. ఉచిత రోజువారీ కేటాయింపు 10000 న్యూరాన్లు, ఇది వ్యక్తిగత ప్రయోగాలకు సరిపోతుంది. మీరు చెల్లించాలనుకుంటే, ప్రతి 1000 న్యూరాన్లకు $0.011 చెల్లించాలి, ఇది OpenAI కంటే 60% నుండి 90% వరకు చౌక. అంతేకాకుండా, దీనికి టోకెన్ల ద్వారా కాకుండా న్యూరాన్ల ద్వారా బిల్లు వేస్తారు, అందువల్ల చిన్న సంభాషణలకు ఇది మరింత ఖర్చు-సమర్థవంతంగా ఉంటుంది.

నిజం చెప్పాలంటే, ఈ బిల్లింగ్ పద్ధతి చాలా న్యాయమైనదని నేను భావిస్తున్నాను. మీరు చేసే సంభాషణ తేలికగా ఉందా లేదా చాలా సేపు ఉందా అనే దానిపై ఆధారపడి మీరు ఖర్చు చేసే న్యూరాన్‌ల సంఖ్య మారుతుంది, కానీ టోకెన్ ఆధారిత బిల్లింగ్‌లో ఉన్నంత దారుణంగా ఈ వ్యత్యాసం ఉండదు.

ఈ దశలో, అసలు దీన్ని ఎలా ఉపయోగించాలి అని మీరు ఆలోచిస్తూ ఉండవచ్చు.

నేను స్వయంగా ఆ ప్రక్రియను అనుభవించాను, దాని గురించి మీకు చెబుతాను.

API టోకెన్‌లను నమోదు చేసి సృష్టించండి

మొదటి దశ క్లౌడ్‌ఫ్లేర్ ఖాతాను నమోదు చేసుకోవడం. మీకు ఇప్పటికే ఖాతా ఉంటే, లాగిన్ అవ్వండి. లేకపోతే, నమోదు చేసుకోవడం సులభం; కేవలం ఇమెయిల్ చిరునామాను నింపి, పాస్‌వర్డ్‌ను సెట్ చేయండి.

లాగిన్ అయిన తర్వాత, ఎడమ వైపు మెనూలో AI పై క్లిక్ చేసి, ఆ తర్వాత వర్కర్స్ AI పై క్లిక్ చేయండి.

లోపలికి వెళ్ళాక, API టోకెన్‌ను సృష్టించడానికి ఒక బటన్ కనిపిస్తుంది. టోకెన్‌ను రూపొందించడానికి దానిపై క్లిక్ చేయండి.

ఇక్కడ గమనించవలసిన ఒక విషయం: సృష్టించబడిన టోకెన్‌ను సృష్టించేటప్పుడు ఒక్కసారి మాత్రమే చూడగలరు, కాబట్టి దాన్ని తప్పకుండా సేవ్ చేసుకోండి. ఆ పేజీ మీకు ఒక అకౌంట్ ఐడిని కూడా ఇస్తుంది; ఈ రెండూ మీకు తర్వాత అవసరం అవుతాయి.

సేవ్ చేసిన తర్వాత, పేజీ దిగువన మీకు ఒక వినియోగ ఉదాహరణ కనిపిస్తుంది, అదే కర్ల్ కమాండ్. దాని స్థానంలో మీ అకౌంట్ ఐడి మరియు ఏపీఐకీని పెట్టండి. ఆ కమాండ్ ఈ విధంగా ఉంటుంది:

curl \
  https://api.cloudflare.com/client/v4/accounts/账户ID/ai/run/@cf/模型ID \
  -H "Authorization: Bearer 刚才生成的APIKEY" \
  -d '{"messages":[{"role":"system","content":"You are a friendly assistant that helps write stories"},{"role":"user","content":"Write a short story about a llama that goes on a journey to find an orange cloud"}]}'

అందుబాటులో ఉన్న మోడళ్ల జాబితాను చూడండి

అప్పుడు ఈ ప్రశ్న తలెత్తుతుంది: మీరు మోడల్ ఐడిని ఎక్కడ కనుగొంటారు?

వర్కర్స్ AI పేజీకి కుడి వైపున ఒక డాక్యుమెంట్ బటన్ ఉంది.

'మోడల్స్' వర్గంపై క్లిక్ చేయండి; అక్కడ మీకు అన్ని మోడల్స్ జాబితా కనిపిస్తుంది.

మీరు ఉపయోగించాలనుకుంటున్న దానిని ఎంచుకోండి, దానిపై క్లిక్ చేయడం ద్వారా మీరు మోడల్ ఐడిని చూడవచ్చు.

కిమి 2.6 మోడల్‌ను కాల్ చేయడాన్ని పరీక్షించండి

我选择用kimi2.6来测试一下。把模型ID复制出来，替换到curl命令里，从@cf/开始替换。

అభ్యర్థన పంపబడింది మరియు ఫలితం త్వరగా వచ్చింది.

ప్రతిస్పందన వేగం నిజంగా చాలా వేగంగా ఉంది, నేను ఊహించిన దానికంటే సున్నితంగా ఉంది.

నిజం చెప్పాలంటే, ఈ ఉచిత క్రెడిట్ ఏమి చేయగలదో చూడాలనుకున్నాను, మరియు ఇది చాలా శక్తివంతమైనదని తేలింది. ఇది రోజువారీ చాటింగ్, కంటెంట్ సృష్టి, అనువాదం మరియు కోడింగ్ కోసం పూర్తిగా సరిపోతుంది.

దీని గురించి ఆలోచించండి: ఇది ఎడ్జ్ నోడ్స్‌పై నడుస్తుంది. మీరు దేశవ్యాప్తంగా లేదా ప్రపంచవ్యాప్తంగా ఉన్న వినియోగదారులతో ఒక AI అప్లికేషన్‌ను డిప్లాయ్ చేసినప్పటికీ, ప్రాంతీయ డిప్లాయ్‌మెంట్ సమస్యల గురించి ఆందోళన చెందాల్సిన అవసరం లేకుండా ప్రతిస్పందన వేగం స్థిరంగా ఉంటుంది. ఇది వ్యక్తిగత డెవలపర్‌లకు మరియు చిన్న బృందాలకు చాలా ఆకర్షణీయంగా ఉంటుంది.

గతంలో, మీరు ఒక మోడల్‌ను రన్ చేయాలనుకుంటే, మీరు చాలా ఖరీదైన GPUని కొని మీ స్వంతంగా నిర్మించుకోవాల్సి వచ్చేది, లేదా క్లౌడ్ ప్రొవైడర్ నుండి GPU ఇన్‌స్టాన్స్‌ను ఉపయోగించాల్సి వచ్చేది, దీనిని కాన్ఫిగర్ చేయడం సంక్లిష్టంగా ఉండేది. మరోవైపు, క్లౌడ్‌ఫ్లేర్ ఇదంతా మీ కోసం సులభతరం చేసింది. మీరు దానిని కాల్ చేయడానికి కోడ్ రాస్తే చాలు, మిగతా చిక్కుముడి పనులన్నీ అదే చూసుకుంటుంది.

ఈ ఆలోచనా విధానం సరైనదని నేను భావిస్తున్నాను. AI సామర్థ్యాలు రానురాను నీరు, విద్యుత్ వంటి మౌలిక సదుపాయాల వలె మారతాయి; విద్యుత్ ఎలా ఉత్పత్తి అవుతుందో మీరు తెలుసుకోవాల్సిన అవసరం లేదు, దాన్ని కేవలం ప్లగ్ చేసి ఉపయోగించుకోవచ్చు. క్లౌడ్‌ఫ్లేర్ వర్కర్స్ AI ఈ "ప్లగ్ అండ్ ప్లే" భావనను మరింత ఉన్నత స్థాయికి తీసుకువెళుతుంది.

అయితే, దీనికి కొన్ని లోపాలు కూడా ఉన్నాయి. ఉచిత కోటా కేవలం 10000 న్యూరాన్‌లు మాత్రమే, కాబట్టి మీరు అధిక ట్రాఫిక్ ఉన్న ప్రొడక్షన్ ఎన్విరాన్‌మెంట్‌లో దీన్ని డిప్లాయ్ చేయాలనుకుంటే డబ్బు చెల్లించాల్సి ఉంటుంది. అలాగే, 50కి పైగా మోడల్స్ ఉన్నప్పటికీ, OpenAI యొక్క సమగ్ర ఎకోసిస్టమ్‌తో పోలిస్తే, కొన్ని ప్రత్యేకమైన లేదా కొత్త మోడల్స్‌కు మద్దతు లేదు.

కానీ వ్యక్తిగత ప్రాజెక్టులు, చిన్న సాధనాలు, లేదా కేవలం ఉత్సుకతతో చేసే ప్రయోగాల కోసం, ఇది సరిపోతుందని నేను అనుకుంటున్నాను.

ఇది నా నిజాయితీ అనుభవం. మీరు ఇంతవరకు చదివారు కాబట్టి, ఇది మీకు ఉపయోగకరంగా అనిపిస్తే, దయచేసి లైక్ చేసి షేర్ చేయండి. మీరు అప్‌డేట్‌లను ముందుగా పొందాలనుకుంటే, నన్ను ఫాలో కూడా అవ్వొచ్చు! ⭐

నా వ్యాసం చదివినందుకు ధన్యవాదాలు. మళ్ళీ కలుద్దాం.