LLM je nový JPEG
Nechajte ma porozprávať príbeh.
V 90. rokoch, ak ste chceli poslať niekomu fotografiu, museli ste zvážiť veľa vecí: formát súboru, kompresný algoritmus, farebnú hĺbku. Každý softvér mal svoj vlastný formát. Potom prišiel JPEG.
Zrazu sa už nikto nestaral o formáty obrázkov. JPEG sa stal infraštruktúrou. Nepoviete „Vytvoril som obrázok pomocou JPEG“, poviete len „Poslal som obrázok“.
LLM ide rovnakou cestou.
Keď sa technológia stane vzduchom
"LLM sú komodita. Apple si rád kúpi tokeny od spoločnosti LLM, ale Apple je spoločnosť, ktorá predáva diferencované produkty." — @deuteronormative
Táto veta hovorí za všetko. Ak ste Apple, nebudete si sami vyrábať elektrinu, kupujete ju z elektrickej siete. Nebudete si sami vyrábať pneumatiky, kupujete ich od Michelinu. Teraz si nebudete sami trénovať LLM, kupujete si tokeny z cloudu.
To neznamená, že LLM nie sú dôležité. Elektrina je dôležitá. Pneumatiky sú dôležité. Ale sú to infraštruktúry, nie diferenciačné faktory.
Víťaz nákladovej vojny
Alibaba práve vydala Qwen 3.5:
- 397 miliárd parametrov, 17 miliárd aktivovaných
- O 60 % lacnejší ako Qwen 3
- 8-krát rýchlejší
- Cena tokenu je 1/18 ceny Gemini 3 Pro
Toto nie je technologický prelom, toto je cenová vojna. Takto klesali ceny aj LCD televízorov. Prvá spoločnosť, ktorá klesla pod 1000 dolárov, nebola technologicky najlepšia, ale bola víťazom.
Praktické rady
Čo to znamená, ak ste vývojár?
-
Netrénujte si modely sami. Pokiaľ nie ste OpenAI, Anthropic alebo Alibaba, trénovanie modelov je plytvanie peniazmi. Používajte API.
-
Sústreďte sa na cenu, nie na parametre. 397 miliárd parametrov znie cool, ale vašich používateľov to nezaujíma. Zaujíma ich rýchlosť odozvy a cena.
-
Buďte pripravení na migráciu. LLM sú komodita, čo znamená, že sú zameniteľné. Dnes používate GPT, zajtra Claude, pozajtra Qwen. Vaša architektúra by mala podporovať takéto prepínanie.
Zaujímavý paradox
Ľudia, ktorí najviac rozumejú LLM, o nich najmenej hovoria.
"Andrej Karpathy napísal mini GPT v 240 riadkoch čistého Pythonu. Žiadny TensorFlow. Žiadny PyTorch. Iba matematika. Ukazuje to, že LLM nie sú mágia – sú to len predikcie ďalšieho tokenu."
Keď pochopíte, že „predikcia ďalšieho tokenu“ je všetko, čo táto technológia je, veľa humbuku zmizne. Nie je to znevažovanie. Mikrovlnka ohrieva molekuly vody, ale zmenila kuchyňu.
Ďalší krok
LLM sa stanú niečím ako JPEG: všadeprítomné, nikto o nich nehovorí, ale sú nepostrádateľné.
Do tej doby si múdri ľudia vyberú najlacnejšieho dodávateľa v cenovej vojne. Pretože keď sa technológia stane komoditou, jediné, na čom záleží, sú náklady.
