Hedef Kitle: Cursor, Windsurf, trae gibi yapay zeka programlama araçlarını kullanan geliştiriciler ve yapay zeka maliyetleri konusunda farkındalığı olmayan teknik yöneticiler.

Temel Görüş: Token sadece basit bir faturalandırma birimi değil, aynı zamanda bir "dikkat kaynağı" ve "işlem gücü para birimi"dir. Agent modunun kötüye kullanılması ve bağlam yönetiminin ihmal edilmesi, aslında taktiksel gayretle (yapay zekanın boş yere uğraşmasına izin vermek) stratejik tembelliği (kendin düşünmemek) örtbas etmektir.

"Yapay Zeka Harcamalarınız" Maaşınızdan Bile Yüksek Olabilir

Geçtiğimiz günlerde Token faturamı kontrol ettim. O sayıyı gördüğümde biraz şaşırdım: 10 Milyon Token. Dikkat, bu bir aylık kullanım değil, bir gün.

Bunun çok saçma olduğunu düşündüm. Daha sonra Token hesaplamasıyla ilgili kısa bir video yayınladım.

Sonuç olarak, yorumlar bölümü bana "gökyüzünün ötesinde bir gökyüzü" olduğunu gösterdi.

Aşağıdaki resim, bir kullanıcının "老K的日常" bir günde iki yüz milyon Token tüketim kaydının ekran görüntüsüdür:

Başlangıçta bunun münferit bir örnek olabileceğini düşündüm, ancak birçok kullanıcının günde 100 milyon tükettiğini söylemesiyle bunun çok yaygın bir fenomen olduğunu anladım.

Bir yüz milyon Token ne anlama geliyor? "Bazı ana akım ticari modellerin" yaygın faturalandırma seviyesine göre (giriş/çıkış ayrı ayrı faturalandırılır, kabaca 10 ABD Doları / Milyon Token olarak tahmin edilir), bu gün 1000 dolar yakıyor. Günde 7000 RMB yakıyor. Birçok acemi programcının bir aylık maaşı, yapay zekanın o gün "düşünmesi" için yeterli olmayabilir.

(Not: Farklı modellerin/tedarikçilerin fiyatları büyük ölçüde değişir ve giriş ve çıkış birim fiyatları da genellikle farklıdır. Buradaki amaç, ondalık basamağa kadar kesin hesaplama yapmak değil, önce "büyüklük hissini" oluşturmaktır.)

Kendiniz yeniden hesaplamak isterseniz, genellikle şu formül kullanılır (önbelleğe alma/indirimler gibi özel kuralları göz ardı ederek): Maliyet ≈ (Giriş Token / 1.000.000) × Birim Fiyat_in + (Çıkış Token / 1.000.000) × Birim Fiyat_out

Bu çok sezgiye aykırı. Yapay zekanın ucuz olduğunu düşünüyoruz, OpenAI bile fiyatları düşürmek istiyor. Ancak gerçek mühendislikte Token tüketimi neden katlanarak patlıyor?

Bugün, bu "Token kara deliğinin" arkasındaki mantığı derinlemesine analiz edeceğiz ve nasıl durduracağımızı göstereceğiz.

I. Token Neden "Katlanarak Patlıyor"?

Birçok kardeş Token'ın büyüklüğü hakkında hiçbir fikre sahip değil. Şöyle düşünüyorlar: "Ah, sadece birkaç satır kod göndermek, ne kadar olabilir ki?"

1. Anlaşılır Bir Hesap Yapalım

Önce mühendislikte yeterli bir nicel algı oluşturalım. Önce kesin konuşalım: Token kelime sayısı değil, karakter sayısı da değil. Modelin metni böldükten sonraki "kodlama parçası"dır. Farklı modeller farklı tokenizer'lar kullanır, bu nedenle yalnızca aralık verilebilir, "herkes için geçerli" bir sabit verilemez.

Aşağıdaki sayıları "tahmin cetveli" olarak kullanın (amaç, büyüklüğü belirlemek, maliyeti tahmin etmek ve zararı durdurma kararları almak):

• 1 Çince Karakter: Genellikle 1–2 Token (yüksek frekanslı karakterler 1'e daha yakın, nadir karakterler/kombinasyonlar 2–3'e daha yakın)

• 1 İngilizce Kelime: Genellikle 1.2–1.5 Token civarında (kabaca tahmin için 1.3 de kullanılabilir)

• 1 Satır Kod ≈ 10–50 Token (girinti, yorum, tür bildirimi içerir)

• Basit iş mantığı ≈ 12–20 Token

• Tür açıklaması, arayüz, JSDoc, 4 boşluk girinti ile ≈ 20–35 Token

• Çok sayıda import / dekoratör / yorum ile ≈ 30–50+ Token

• 1 Kaynak Dosya (400–600 satır, modern TS/Java projesi) ≈ 4.000–24.000 Token çok yaygın (ortanca ≈ 12.000–18.000)

• 1 Orta Ölçekli Proje (100–200 kaynak dosya, yalnızca src/ dahil, node_modules/ / oluşturulan kod hariç)

• Çekirdek kaynak kodunu "baştan sona okumak" genellikle milyon Token ile başlar

• Testleri, yapılandırmayı, komut dosyalarını, bağımlılık bildirimlerini, günlükleri de eklerseniz, on milyonlarca Token da nadir değildir

Günümüzün ön uç projeleri TypeScript'tir ve karmaşık Arayüz tanımlarıyla doludur; veya Java, onlarca satırlık Import ile doludur. Bu "şablon kodları" aslında Token katilleridir. Orta ölçekli bir projede 100 dosya varsa, yapay zekanın "kodu okumasına" izin vermek bile 1 Milyon Token'ı doğrudan yok edebilir.

2. Token'ın "Kartopu" Etkisi

Token tüketiminde en korkunç şey tek bir konuşma değil, çok turlu konuşmalarda bağlamın birikmesidir.

LLM'nin mekanizması durumsuzdur. Yapay zekanın bir önceki cümlenizde ne söylediğinizi hatırlamasını sağlamak için, sistem genellikle "sistem istemi + geçmiş konuşmalar + referans verdiğiniz dosyalar/kod parçacıkları + araç çağırma çıktıları (örneğin arama sonuçları, hata günlükleri)"ni birlikte paketleyip modele gönderir. Sadece bir soru sorduğunuzu sanıyorsunuz, ancak aslında "tüm bağlam paketi" için tekrar tekrar ödeme yapıyorsunuz.

• 1. Tur: 10.000 Token gönderilir, yapay zeka 1.000 yanıt verir.

• 2. Tur: (10.000 + 1.000 + yeni soru) gönderilir, yapay zeka yanıt verir...

• 10. Tur: Bağlamınız 200.000 Token'a kadar şişmiş olabilir.

Bu noktada, sadece "bir değişken adını değiştirmeme yardım et" diye sorsanız bile, 200.000 Token'lık bir ücret tüketirsiniz. Faturanızın neden çılgınca arttığını anlamanızın nedeni budur.

Daha da kötüsü: Agent modu "dosyaları aktif olarak okur". "Kullanıcı modülünü optimize etmeme yardım et" dediğinizde, önce ilgili dizinleri tarayabilir, ardından bağımlılıklara, ardından yapılandırmaya, ardından testlere gidebilir... Tembellik etmiyor, "varsayılan stratejiye göre görevini yerine getiriyor" ve varsayılan strateji genellikle şudur: daha çok oku, daha çok dene, daha çok yinele.

II. İki Tür "Tembellik" Mühendislik Yeteneğinizi Yok Ediyor

Yorumlar bölümündeki "yüz milyonluk adamları" inceledikten sonra, Token'ın patlamasının kökeninin sadece yapay zekanın tüketim mekanizması sorunu olmadığını, aynı zamanda insanların tembelliği ile de yakından ilişkili olduğunu fark ettim.

Aşağıda iki tipik "düşünce tembelliği" bulunmaktadır.

Tembellik Bir: Elini Taşın Altına Koymayan Yönetici Tipi

Sizde de bu zihniyet var mı?

• "Bu eski proje çok karmaşık, mantığı okumaya üşeniyorum, doğrudan yapay zekaya atayım."

• "Cursor'da Agent modu çıktı, harika, hataları kendi kendine düzeltsin."

Bu nedenle, tüm src klasörünü Agent'a atarsınız ve belirsiz bir talimat verirsiniz: "Kullanıcı modülünü optimize etmeme yardım et." Agent çalışmaya başlar:

• 50 dosyayı okur (500.000 tüketir).

• utils'e referans verdiğini fark eder ve araç sınıflarını okumaya gider (200.000 tüketir).

• Değiştirmeyi dener, hata verir, hata günlüklerini okur (100.000 tüketir).

• Düzeltmeyi dener, tekrar hata verir...

Çılgınca deniyor, çılgınca Token tüketiyor. Peki ya siz? Telefonunuzda geziniyorsunuz ve ne kadar verimli olduğunuzu düşünüyorsunuz. Gerçek şu ki: parayla "sahte verimlilik" satın alıyorsunuz ve daha sonra bakımını yapamayacağınız bir yığın kod üretiyorsunuz.

Daha profesyonelce söylemek gerekirse, burada iki kat kayıp var:

• Maliyet Katmanı: Giriş Token'ı büyür, yineleme sayısı artar, maliyet doğrusal olarak eklenir

• Mühendislik Katmanı: Bağlamı ve karar verme yetkisini kaybedersiniz ve sonunda sadece "çalışsın yeter" kontrol edilemeyen bir sistem kalır

Tembellik İki: Her Şeyi Karıştırma Tipi

Hata ile karşılaştığınızda, yapay zekaya nasıl atıyorsunuz? Doğrudan Ctrl+A ile tüm hata konsolunu kopyalıyor musunuz veya doğrudan @Codebase ile yapay zekanın kendisinin bulmasını mı sağlıyorsunuz?

Buna "her şeyi karıştırma" denir. Sorunun özünü bulmaya üşeniyorsunuz, önemli kod parçacıklarını filtrelemeye üşeniyorsunuz. %99'u geçersiz bilgi (gürültü) ve %1'i geçerli bilgi (sinyal) olan her şeyi yapay zekaya atıyorsunuz.

Yapay zeka bir amplifikatör gibidir.

• Ona net mantık (sinyal) verirseniz, zekanızı yükseltir, Token az kullanılır, etkisi iyidir.

• Ona karmaşa ve belirsizlik verirseniz, karmaşayı yükseltir, Token çılgınca artar, çöp üretir.

III. Çözüm: Yapay Zekayı Nasıl Verimli Kullanırız, Token Tüketimini Nasıl Azaltırız

Cüzdanınızı korumak için, daha da önemlisi mühendislik kontrolünüzü korumak için, yapay zeka ile işbirliği modelimizi değiştirmeliyiz.

1. Minimum Bağlam İlkesi

Bu, yapay zeka programlamanın ilk ilkesidir. Yapay zekaya her zaman yalnızca mevcut sorunu çözmek için gereken minimum kod kümesini verin.

Cursor'da şu operatörleri iyi kullanın:

• @File: Tüm klasör yerine yalnızca ilgili dosyaları referans alın.

• Ctrl+L Kodu Seçin: Tüm dosya yerine yalnızca imlecin seçtiği 50 satır kodu Chat'e gönderin.

• @Docs: Üçüncü taraf kitaplıklar için, tahmin etmesine izin vermek yerine belgeleri referans alın.

Bu, sık kullandığım, yapılandırılmış, yeniden kullanılabilir SOP'dur (bunu yaparsanız, Token'ın gözle görülür şekilde düştüğünü göreceksiniz):

Bu, yapay zeka ile işbirliği yaparken verimli ve hassas olmaya dikkat etmeniz gerektiği anlamına gelir. Spesifik uygulamalar şunlardır:

• Önce hedefi netleştirin: Yapay zekaya mevcut sorunu ve istenen sonucu kısaca ve öz olarak söyleyin, tahmin etmesine izin vermeyin.

• Sorun yeniden üretimini basitleştirin: Sorunu yeniden üretmek için en basit yöntemi kullanabiliyorsanız, karmaşık bir yöntem kullanmayın, en az ve önemli kodu yapıştırın, bir yığın alakasız içerik yığmayın.

• Minimum gerekli bilgiyi sağlayın: Yalnızca ilgili 1-3 dosya, önemli işlevler ve hata yığınının ilk birkaç satırını verin, tam bilgi vermeyin.

• Değişiklik noktalarını geri vermesini isteyin: Yapay zekanın size yalnızca nerede değişiklik yapıldığını, neden değişiklik yapıldığını söylemesini sağlayın, tüm kodu uzun uzadıya yeniden yazmasına izin vermeyin.

• Son olarak kendiniz kontrol edin: Değişikliğin başka yerleri etkilemediğinden emin olmak için en basit doğrulamayı yapın.

Kısacası, yapay zekanın iş yapması için en az ve en önemli bilgiyi kullanın ve nihai kontrolü ve yargıyı saklayın.

2. Aynı zamanda en önemlisi: Önce Düşünün, Sonra İsteyin, Önce Planlayın, Sonra Harekete Geçin

Giriş tuşuna basmadan önce, kendinizi 10 saniye durmaya zorlayın ve kendinize üç soru sorun:

• Hangi sorunu çözüyorum? (Sınırları tanımlayın)

• Bu sorun hangi temel modülleri içeriyor? (Bağlamı filtreleyin)

• Kendim yazsaydım, nasıl yazardım? (Fikir sağlayın)

Siz 1'siniz, yapay zeka arkadaki 0'dır. 1 ayakta duramazsa, arkadaki 0 ne kadar çok olursa olsun, sadece anlamsız bir tüketimdir.

Birkaç Samimi Söz

"Günde yüz milyon Token" hikayesi, belki herkesin başına gelmez. Ancak Token israfı davranışı, yapay zeka programlamayı kullanan neredeyse her programcının başına gelmiştir.

Yapay zeka programlamayı daha kolay hale getirse de, hala eşikler var. Gerçekten kullanmayı bilenler kanat takmış gibi olacaklar.

Eskiden, yazdığınız kötü kod sadece meslektaşlarınızı "iğrendirirdi". Şimdi, çaldığınız tembellik doğrudan faturadaki bir sayıya dönüşecek ve artan maliyetlerle kendinizi cezalandıracaksınız.Öyleyse, "elini eteğini çekmiş yönetici" olmayın. Derinlemesine düşünen, kesin ifade eden, önce planlayan sonra harekete geçen bir AI mimarı olun. Bu, bu çağdaki en büyük yeri doldurulamazlığımızdır.