LLM, Yeni JPEG
Size bir hikaye anlatayım.
1990'larda, birine bir fotoğraf göndermek istediğinizde, birçok şeyi düşünmeniz gerekiyordu: dosya formatı, sıkıştırma algoritması, renk derinliği. Her yazılımın kendi formatı vardı. Sonra JPEG ortaya çıktı.
Birdenbire, kimse resim formatını umursamadı. JPEG altyapı haline geldi. "JPEG ile bir resim yaptım" demezsiniz, sadece "Bir resim gönderdim" dersiniz.
LLM de aynı yolda ilerliyor.
Teknoloji Hava Olduğunda
"LLM bir emtia. Apple, LLM şirketlerinden token satın almaktan memnun, ancak Apple farklılaştırılmış ürünler satan bir şirket." — @deuteronormative
Bu cümle açıkça söylüyor. Eğer Apple iseniz, kendi elektriğinizi üretmezsiniz, elektrik şebekesinden elektrik satın alırsınız. Kendi lastiklerinizi üretmezsiniz, Michelin'den lastik satın alırsınız. Artık kendi LLM'nizi de eğitmezsiniz, buluttan token satın alırsınız.
Bu, LLM'nin önemsiz olduğu anlamına gelmiyor. Elektrik önemli. Lastikler önemli. Ancak bunlar altyapıdır, farklılaştırıcı faktörler değildir.
Maliyet Savaşının Kazananı
Alibaba'nın yeni yayınladığı Qwen 3.5:
- 397 milyar parametre, 17 milyar aktif
- Qwen 3'ten %60 daha ucuz
- 8 kat daha hızlı
- Token fiyatı Gemini 3 Pro'nun 1/18'i
Bu bir teknolojik atılım değil, bir fiyat savaşı. LCD TV'ler de o zamanlar böyle ucuzlamıştı. 1000 doların altına düşen ilk şirket, en iyi teknolojiye sahip olan değildi, ama kazanan oydu.
Pratik Tavsiyeler
Eğer bir geliştiriciyseniz, bu ne anlama geliyor?
-
Kendi modelinizi eğitmeyin. OpenAI, Anthropic veya Alibaba değilseniz, model eğitmek para yakmaktır. API kullanın.
-
Parametrelerden ziyade fiyata odaklanın. 397 milyar parametre kulağa hoş geliyor, ancak kullanıcılarınız bunu umursamıyor. Onlar yanıt hızı ve maliyeti umursuyor.
-
Geçişe hazır olun. LLM bir emtia, yani değiştirilebilir demektir. Bugün GPT kullanın, yarın Claude, ertesi gün Qwen. Mimariniz bu tür bir geçişi desteklemeli.
İlginç Paradoks
LLM'yi en iyi anlayanlar, LLM hakkında pek konuşmuyor.
"Andrej Karpathy, 240 satır saf Python ile mini bir GPT yazdı. TensorFlow yok. PyTorch yok. Sadece matematik. Bu, LLM'nin sihir olmadığını gösteriyor - onlar sadece bir sonraki token tahmini."
"Bir sonraki token tahmini"nin bu teknolojinin tamamı olduğunu anladığınızda, birçok abartı ortadan kalkar. Bu küçümseme değil. Mikrodalga fırın da sadece su moleküllerini ısıtır, ancak mutfağı değiştirir.
Sonraki Adım
LLM, JPEG gibi bir şeye dönüşecek: her yerde, kimse tartışmıyor, ancak vazgeçilmez.
O zamana kadar, akıllı insanlar fiyat savaşında en ucuz tedarikçiyi seçecek. Çünkü teknoloji metalaştığında, önemli olan tek şey maliyettir.
