LLM је следећи JPEG
Дозволите ми да вам испричам причу.
1990-их, ако сте желели да пошаљете фотографију некоме, морали сте да размислите о много тога: формату датотеке, алгоритму компресије, дубини боје. Сваки софтвер је имао свој формат. Онда се појавио JPEG.
Одједном, никога више није било брига за формат слике. JPEG је постао инфраструктура. Не бисте рекли „Направио сам слику помоћу JPEG-а“, само бисте рекли „Послао сам слику“.
LLM иде истим путем.
Када технологија постане ваздух
"LLM је роба. Apple ће радо купити токене од LLM компаније, али Apple је компанија која продаје диференциране производе." — @deuteronormative
Ова реченица је директна. Ако сте Apple, нећете сами производити струју, већ ћете је куповати из електричне мреже. Нећете сами правити гуме, већ ћете их куповати од Michelin-а. Сада, нећете ни сами тренирати LLM, већ ћете куповати токене из облака.
То не значи да LLM није важан. Струја је важна. Гуме су важне. Али оне су инфраструктура, а не фактор диференцијације.
Победник у рату цена
Alibaba је управо објавила Qwen 3.5:
- 397 милијарди параметара, 17 милијарди активираних
- 60% јефтинији од Qwen 3
- 8 пута бржи
- Цена токена је 1/18 цене Gemini 3 Pro
Ово није технолошки пробој, ово је рат цена. Тако су и LCD телевизори снижавали цене. Прва компанија која је пала испод 1000 долара није била технолошки најбоља, али је била победник.
Прагматични савети
Шта то значи ако сте програмер?
-
Не тренирајте сами модел. Осим ако нисте OpenAI, Anthropic или Alibaba, тренирање модела је бацање новца. Користите API.
-
Фокусирајте се на цену, а не на параметре. 397 милијарди параметара звучи кул, али ваше кориснике то не занима. Њих занима брзина одговора и цена.
-
Будите спремни за миграцију. LLM је роба, што значи да је заменљив. Данас користите GPT, сутра Claude, прекосутра Qwen. Ваша архитектура би требало да подржава такву промену.
Занимљив парадокс
Људи који најбоље разумеју LLM ретко причају о LLM.
"Andrej Karpathy је написао мини GPT у 240 линија чистог Python-а. Без TensorFlow-а. Без PyTorch-а. Само математика. То показује да LLM није магија - они су само предвиђање следећег токена."
Када схватите да је „предвидевање следећег токена“ све што ова технологија јесте, много хипа нестаје. Ово није омаловажавање. Микроталасна пећ је само загревање молекула воде, али је променила кухињу.
Следећи корак
LLM ће постати нешто попут JPEG-а: свеприсутан, нико не прича о њему, али је незаменљив.
До тада, паметни људи ће изабрати најјефтинијег добављача у рату цена. Јер када технологија постане роба, једино што је важно је цена.
