Proċess ta' Sejħa tal-API Ħielsa tal-AI għall-Ħaddiema ta' Cloudflare: Reġistrazzjoni, Konfigurazzjoni, u Skjerament f'Pass Wieħed

Ftit jiem ilu kont qed naħdem fuq proġett personali, nipprova nibni assistent tal-AI , li kien jirrikjedi li nċempel mudelli kbar. Meta staqsejt dwar il-prezz, wow, telefonata waħda lil GPT-4o tiswa ftit ċenteżmi. Kieku l-proġett tagħna kellu fil-fatt jaħdem, il-miżati tal-API waħedhom jammontaw għal diversi eluf ta' wan fix-xahar.

Staqsejna ruħna jekk kienx hemm xi mod irħas.

Imbagħad sibna Cloudflare Workers AI. Konna nafu li Cloudflare kienet involuta fl-inferenza tal-AI qabel, imma ma ħadniehiex bis-serjetà, billi assumejna li kumpaniji kbar kienu se jitolbu ħlas għall-prodotti tagħhom. Jirriżulta, wow, qed jagħtu 10000 Newron b'xejn kuljum.

Xi tfisser 10000 Newron? Huma bejn wieħed u ieħor ftit mijiet ta’ djalogi jew ftit mijiet ta’ sessjonijiet ta’ ġenerazzjoni ta’ immaġni kuljum. Dak hu iktar minn biżżejjed biex persuna waħda tilgħab bih.

Ħassejt ħafna eċitament u immedjatament bdejt nirriċerkah.

X'inhi l-Cloudflare Workers AI?

Cloudflare Workers AI, naħseb li l-pożizzjonament tagħha huwa pjuttost interessanti. Mhijiex biss fornitur sempliċi ta' mudelli; hija pjattaforma ta' inferenza tal-AI li taħdem fuq in-netwerk globali tat-tarf ta' Cloudflare. B'nodi tat-tarf f'aktar minn 300 belt, hija inkredibilment qrib l-utenti.

Aħseb ftit: meta tuża l-API ta' OpenAI, it-talba l-ewwel tmur l-Istati Uniti, tiġi pproċessata, u mbagħad terġa' lura, u tieħu minn tlieta sa erba' mitt millisekonda. Cloudflare, min-naħa l-oħra, huwa fornitur ta' CDN b'nodi madwar id-dinja kollha. Irrispettivament minn fejn tkun, imexxi l-mudell fuq l-eqreb nodu.

Il-ħin tipiku ta' rispons huwa inqas minn 100 millisekonda. Din id-differenza hija notevoli għall-utent.

Dak li hu tassew sabiħ dwaru huwa li l-bidu kiesaħ tiegħu huwa fil-livell ta' millisekonda, u awtomatikament jiżdied u jonqos. Anke b'żieda f'daqqa fit-traffiku, mhux se jdum, b'differenza minn xi pjattaformi li huma oerhört veloċi meta ħadd ma jkun qed jużahom fit-3 ta' filgħodu, iżda mbagħad jiġġarraf kompletament matul il-ħinijiet l-aktar impenjattivi matul il-jum.

Aktar minn 50 mudell, li jkopru x-xenarji kollha

Hemm ukoll ħafna mudelli appoġġjati; minn Ġunju 2026, diġà hemm aktar minn 50.

Għal djalogu bbażat fuq test, Llama 3, Llama 4, Mistral, GLM, Qwen, Gemma, u Deepseek-r1 huma kollha disponibbli. Għall-ġenerazzjoni tal-immaġni, hemm Stable Diffusion, FLUX, u Pixverse. Għad-diskors, hemm Whisper għal diskors għal test, TTS għal test għal diskors, u anke ġenerazzjoni ta' vidjows.

Barra minn hekk, l-API tagħha hija mfassla biex tkun nadifa ħafna. Irrispettivament mill-mudell użat, tuża interface unifikata; inti sempliċiment għandek bżonn tibdel l-isem tal-mudell.

env.AI.run("isem tal-mudell", {…})

Il-bdil tal-mudell b'linja waħda ta' kodiċi huwa tant konvenjenti.

Prezz irħis ħafna, limitu ta' kreditu bla ħlas ġeneruż

Jien għamilt ukoll il-prezzijiet. L-allowance ta' kuljum bla ħlas hija ta' 10000 Neuron, li hija aktar minn biżżejjed għal esperimentazzjoni personali. Jekk trid tħallas, hija $0.011 għal kull 1000 Neuron, li hija 60% sa 90% irħas minn OpenAI. Barra minn hekk, hija ċċarġjata min-Neuron, mhux mit-tokens, u dan jagħmilha aktar kosteffettiva għal konversazzjonijiet iżgħar.

Onestament, naħseb li dan il-metodu ta' ħlas huwa pjuttost ġust. L-għadd ta' Newroni li tonfoq ivarja skont jekk hux qed ikollok konverżazzjoni sempliċi jew waħda twila ħafna, iżda d-differenza mhijiex daqshekk kbira daqs bil-ħlas ibbażat fuq tokens.

F'dan il-punt, forsi qed tistaqsi, kif tużah eżattament?

Jiena stess għaddejt mill-proċess, ħa ngħidilkom dwaru.

Irreġistra u oħloq tokens tal-API

L-ewwel pass huwa li tirreġistra kont ta' Cloudflare. Jekk diġà għandek kont, sempliċement idħol. Jekk le, ir-reġistrazzjoni hija faċli; sempliċement imla indirizz elettroniku u ssettja password.

Wara li tidħol, ikklikkja fuq AI fil-menù tax-xellug, imbagħad ikklikkja fuq Workers AI.

Ladarba tkun ġewwa, se tara buttuna biex toħloq token tal-API. Ikklikkja fuqha biex tiġġenera token.

Hawn dettall li għandek tinnota: it-token iġġenerat jista' jidher darba biss waqt il-ħolqien, għalhekk kun żgur li ssalvah. Il-paġna tagħtik ukoll ID tal-kont; ser ikollok bżonn dawn it-tnejn aktar tard.

Wara li ssalva, se tara eżempju ta' użu fil-qiegħ tal-paġna, li huwa l-kmand curl. Sempliċement ibdlu bl-ID tal-kont tiegħek u l-APIKEY. Il-kmand jidher hekk:

curl \
  https://api.cloudflare.com/client/v4/accounts/账户ID/ai/run/@cf/模型ID \
  -H "Authorization: Bearer 刚才生成的APIKEY" \
  -d '{"messages":[{"role":"system","content":"You are a friendly assistant that helps write stories"},{"role":"user","content":"Write a short story about a llama that goes on a journey to find an orange cloud"}]}'

Ara l-lista ta' mudelli disponibbli

Imbagħad tqum il-mistoqsija: fejn issib l-ID tal-mudell?

Hemm buttuna tad-dokument fuq in-naħa tal-lemin tal-paġna tal-AI tal-Ħaddiema.

Ikklikkja fuq il-kategorija "Mudelli"; hemmhekk issib lista tal-mudelli kollha.

Agħżel dik li trid tuża, u tista' tara l-ID tal-mudell billi tikklikkja fuqha.

Test li jsejjaħ il-mudell Kimi 2.6

Se nuża Kimi 2.6 għat-testijiet. Ikkopja l-ID tal-mudell u ibdlu fil-kmand curl, billi tibda b'@cf/.

It-talba ntbagħtet, u r-riżultat intbagħat malajr.

Il-veloċità tar-rispons hija tabilħaqq veloċi ħafna, aktar bla xkiel milli stennejt.

Biex inkun onest, ridt biss nara x'jista' jagħmel dan il-kreditu b'xejn, u rriżulta li huwa pjuttost qawwi. Huwa perfettament adegwat għaċ-chat ta' kuljum, il-ġenerazzjoni ta' kontenut, it-traduzzjoni, u l-kodifikazzjoni.

U aħseb ftit: din il-ħaġa taħdem fuq nodi tat-tarf. Inti tuża applikazzjoni tal-AI ma' utenti madwar il-pajjiż kollu jew saħansitra d-dinja, u l-veloċità tar-rispons tibqa' konsistenti, mingħajr ma jkollok għalfejn tinkwieta dwar kwistjonijiet ta' skjerament reġjonali. Dan huwa inkredibilment attraenti għal żviluppaturi individwali u timijiet żgħar.

Preċedentement, jekk ridt tħaddem mudell, kellek jew tixtri GPU u tibni tiegħek, li kien jiswa ħafna flus, jew tuża istanza tal-GPU minn fornitur tal-cloud, li kien ikkumplikat biex tikkonfigura. Cloudflare, min-naħa l-oħra, għandu kollox lest għalik. Inti sempliċement tikteb kodiċi biex issejjaħlu, u hu jieħu ħsieb l-affarijiet kollha diffiċli għalik.

Naħseb li din il-linja ta' ħsieb hija korretta. Il-kapaċitajiet tal-IA se jsiru dejjem aktar bħal infrastruttura bħall-ilma u l-elettriku; m'għandekx bżonn tkun taf kif jiġi ġġenerat l-elettriku, tista' sempliċement tgħaqqdu u tużah. Cloudflare Workers AI tieħu dan il-kunċett ta' "plug and play" għal livell saħansitra aktar estrem.

Naturalment, mhuwiex mingħajr żvantaġġi. Il-kwota bla ħlas hija biss ta' 10000 Newron, għalhekk xorta jkollok tħallas jekk trid tużaha f'ambjent ta' produzzjoni b'traffiku għoli. Barra minn hekk, filwaqt li hemm aktar minn 50 mudell, meta mqabbla mal-ekosistema komprensiva ta' OpenAI, xi mudelli niċċa jew aktar ġodda mhumiex appoġġjati.

Imma għal proġetti personali, għodda żgħar, jew sempliċement esperimenti mmexxija mill-kurżità, naħseb li huwa aktar minn biżżejjed.

Għal aktar kontenut sħiħ, kif ukoll metodi bażiċi ta' konfigurazzjoni tal-URL u l-API għal Cloudflare, sempliċement ingħaqad mal-kanal tat-Telegram u ċċekkja l-post imwaħħal għal "Toolkit" ▼

Dawn huma l-esperjenzi attwali tiegħi. Ladarba qrajt s'hawn, jekk sibtha utli, jekk jogħġbok agħti like u aqsamha. Jekk trid tirċievi aġġornamenti l-ewwel, tista' wkoll issegwini ⭐~

Grazzi talli qrajt l-artiklu tiegħi. Narak id-darba li jmiss.