LLM je nový JPEG
Dovolte mi vyprávět příběh.
V 90. letech, pokud jste chtěli poslat někomu fotku, museli jste zvažovat spoustu věcí: formát souboru, kompresní algoritmus, barevnou hloubku. Každý software měl svůj vlastní formát. Pak se objevil JPEG.
Najednou se nikdo nestaral o formáty obrázků. JPEG se stal infrastrukturou. Neřeknete „Udělal jsem obrázek v JPEG“, řeknete jen „Poslal jsem obrázek“.
LLM jde stejnou cestou.
Když se technologie stane vzduchem
"LLM jsou komodita. Apple si rád koupí tokeny od LLM společností, ale Apple je společnost, která prodává diferencované produkty." — @deuteronormative
Tato věta to říká jasně. Pokud jste Apple, nebudete si sami vyrábět elektřinu, kupujete ji z elektrické sítě. Nebudete si sami vyrábět pneumatiky, kupujete je od Michelinu. Nyní si také nebudete sami trénovat LLM, kupujete si tokeny z cloudu.
To neznamená, že LLM nejsou důležité. Elektřina je důležitá. Pneumatiky jsou důležité. Ale jsou to infrastruktury, nikoli diferenciační faktory.
Vítěz nákladové války
Alibaba právě vydala Qwen 3.5:
- 397 miliard parametrů, 17 miliard aktivovaných
- O 60 % levnější než Qwen 3
- 8x rychlejší
- Cena tokenu je 1/18 ceny Gemini 3 Pro
Není to technologický průlom, je to cenová válka. Stejně tak se kdysi snižovaly ceny LCD televizí. První společnost, která prolomila hranici 1000 dolarů, nebyla technologicky nejlepší, ale byla vítězem.
Pragmatické rady
Co to znamená, pokud jste vývojář?
-
Netrénujte si model sami. Pokud nejste OpenAI, Anthropic nebo Alibaba, trénování modelu je spalování peněz. Používejte API.
-
Zaměřte se na cenu, nikoli na parametry. 397 miliard parametrů zní skvěle, ale vaše uživatele to nezajímá. Zajímá je rychlost odezvy a cena.
-
Buďte připraveni na migraci. LLM je komodita, což znamená, že je nahraditelná. Dnes používáte GPT, zítra Claude, pozítří Qwen. Vaše architektura by měla podporovat takové přepínání.
Zajímavý paradox
Ti, kteří LLM rozumí nejlépe, o nich mluví nejméně.
"Andrej Karpathy napsal mini GPT ve 240 řádcích čistého Pythonu. Žádný TensorFlow. Žádný PyTorch. Jen matematika. Ukazuje to, že LLM nejsou magie – jsou to jen predikce dalšího tokenu."
Když pochopíte, že „predikce dalšího tokenu“ je vše, co tato technologie obnáší, spousta humbuku zmizí. To není znevažování. Mikrovlnná trouba ohřívá molekuly vody, ale změnila kuchyni.
Další krok
LLM se stanou něčím jako JPEG: všudypřítomné, nikdo o nich nemluví, ale jsou nepostradatelné.
Do té doby si chytří lidé vyberou nejlevnějšího dodavatele v cenové válce. Protože když se technologie stane komoditou, jediné, na čem záleží, jsou náklady.
