LLM este următorul JPEG
Permiteți-mi să vă spun o poveste.
În anii 1990, dacă doreai să trimiți o fotografie cuiva, trebuia să te gândești la multe lucruri: formatul fișierului, algoritmul de compresie, profunzimea culorilor. Fiecare software avea propriul său format. Apoi a apărut JPEG.
Deodată, nimănui nu-i mai păsa de formatul imaginii. JPEG a devenit infrastructură. Nu spuneai „Am făcut o imagine cu JPEG”, spuneai doar „Am trimis o imagine”.
LLM urmează același drum.
Când tehnologia devine aer
"LLM-urile sunt mărfuri. Apple este bucuros să cumpere token-uri de la companiile LLM, dar Apple este o companie care vinde produse diferențiate." — @deuteronormative
Această afirmație este directă. Dacă ești Apple, nu-ți vei genera propria energie electrică, ci vei cumpăra de la rețeaua electrică. Nu-ți vei face propriile anvelope, ci vei cumpăra de la Michelin. Acum, nu-ți vei antrena nici tu propriul LLM, ci vei cumpăra token-uri din cloud.
Aceasta nu înseamnă că LLM-urile nu sunt importante. Electricitatea este importantă. Anvelopele sunt importante. Dar ele sunt infrastructură, nu factori de diferențiere.
Câștigătorul războiului costurilor
Qwen 3.5, lansat recent de Alibaba:
- 397 de miliarde de parametri, 17 miliarde de activări
- Cu 60% mai ieftin decât Qwen 3
- De 8 ori mai rapid
- Prețul token-ului este de 1/18 din cel al Gemini 3 Pro
Aceasta nu este o descoperire tehnologică, ci un război al prețurilor. Așa au scăzut și televizoarele LCD în preț în trecut. Prima companie care a scăzut sub 1000 de dolari nu a fost cea cu cea mai bună tehnologie, dar a fost câștigătoarea.
Sfaturi pragmatice
Ce înseamnă asta dacă ești dezvoltator?
-
Nu-ți antrena propriul model. Cu excepția cazului în care ești OpenAI, Anthropic sau Alibaba, antrenarea unui model înseamnă risipă de bani. Folosește API-uri.
-
Concentrează-te pe preț, nu pe parametri. 397 de miliarde de parametri sună cool, dar utilizatorilor tăi nu le pasă. Lor le pasă de viteza de răspuns și de costuri.
-
Pregătește-te pentru migrare. LLM-urile sunt mărfuri, ceea ce înseamnă că sunt înlocuibile. Astăzi folosești GPT, mâine folosești Claude, poimâine folosești Qwen. Arhitectura ta ar trebui să suporte această comutare.
Un paradox interesant
Cei care înțeleg cel mai bine LLM-urile vorbesc cel mai puțin despre ele.
"Andrej Karpathy a scris un mini GPT în 240 de linii de Python pur. Fără TensorFlow. Fără PyTorch. Doar matematică. Arată că LLM-urile nu sunt magie - sunt doar predicția următorului token."
Când înțelegi că „predicția următorului token” este tot ce este această tehnologie, mult hype dispare. Aceasta nu este o depreciere. Un cuptor cu microunde încălzește doar moleculele de apă, dar a schimbat bucătăria.
Următorul pas
LLM-urile vor deveni ceva asemănător cu JPEG: omniprezente, nimeni nu vorbește despre ele, dar indispensabile.
Până atunci, oamenii inteligenți vor alege furnizorul cel mai ieftin în războiul prețurilor. Pentru că atunci când tehnologia devine o marfă, singurul lucru care contează este costul.
