Markhópur: Þróunaraðilar sem nota AI forritunarverkfæri (eins og Cursor, Windsurf, trae...) og tæknistjórnendur sem skortir skilning á AI kostnaði.

Kjarnaskoðun: Token er ekki bara einföld gjaldmiðlaeining, heldur "athygli auðlind" og "reiknikraftur gjaldmiðill". Misnotkun á Agent ham, vanræksla á samhengisstjórnun, er í raun að nota taktíska dugnað (láta AI fikta í blindni) til að hylja strategíska leti (hugsa ekki sjálfur).

"AI útgjöldin" þín gætu verið hærri en launin þín

Fyrir nokkrum dögum athugaði ég Token reikninginn minn. Ég var svolítið hissa þegar ég sá töluna: 10 milljónir Token. Athugið, þetta er ekki mánaðarleg notkun, heldur einn dagur.

Ég hélt að þetta væri fáránlegt. Seinna birti ég stutt myndband um Token útreikninga.

Niðurstöðurnar í athugasemdahlutanum sýndu mér hvað "himinninn er takmarkalaus" þýðir.

Hér að neðan er skjáskot af 200 milljón Token eyðslu á einum degi frá netverjanum "Daglegt líf gamla K":

Í fyrstu hélt ég að þetta væri einstakt tilfelli, en þegar margir netverjar sögðust eyða 100 milljónum á dag, áttaði ég mig á því að þetta er mjög algengt fyrirbæri.

Hvað þýðir 100 milljónir Token? Ef við reiknum út frá algengu gjaldskrárstigi "sumra almennra viðskiptalíkana" (innsláttur/úttak er gjaldfært sérstaklega, gróflega áætlað á $10 á milljón Token), þá brennir þetta $1000 á dag. Að brenna 7000 Yuan á dag. Laun margra byrjenda forritara í einum mánuði gætu ekki dugað fyrir "hugsun" AI á þessum degi.

(Athugasemd: Verðmunur á mismunandi gerðum/birgjum er mikill og einingarverð innsláttar og úttaks er oft mismunandi. Markmiðið hér er ekki að reikna nákvæmlega út í tvo aukastafi, heldur fyrst að koma á "stærðargráðu".)

Ef þú vilt endurreikna sjálfur er þetta almennt formúlan (hunsaðu skyndiminni/afslætti og aðrar sérstakar reglur): Kostnaður ≈ (InntaksToken / 1.000.000) × Einingaverð_inn + (ÚttaksToken / 1.000.000) × Einingaverð_út

Þetta er of andstætt innsæinu. Við höldum alltaf að AI sé ódýrt, OpenAI er jafnvel að lækka verð. En hvers vegna er Token eyðsla í raunverulegri verkfræði sprengifim?

Í dag mun ég taka þig í gegnum rökfræðina á bak við þetta "Token svarthol" í smáatriðum og hvernig við getum stöðvað tapið.

I. Hvers vegna springur Token "sprengifimt"?

Margir bræður hafa enga hugmynd um stærð Token. Þeir halda: "Æ, er það ekki bara að senda nokkra kóðabúta? Hversu mikið getur það verið?"

1. Reiknaðu skýran reikning

Við skulum fyrst koma á magnsnæmu sem er nógu góð fyrir verkfræði. Við skulum segja það beint: Token er ekki orðafjöldi, né er það stafafjöldi. Það er "kóðabútur" eftir að líkanið hefur skipt textanum. Mismunandi líkön nota mismunandi tokenizer, svo við getum aðeins gefið bil, ekki fasta sem "gildir alls staðar".

Þessar tölur hér að neðan, þú getur litið á þær sem "áætlaða mælikvarða" (markmiðið er að dæma stærðargráðu, áætla kostnað og taka ákvarðanir um að stöðva tap):

• 1 kínverskt tákn: Algengt á bilinu 1–2 Token (hátíðni tákn eru nær 1, sjaldgæf tákn/samsetningar eru líklegri til að vera 2–3)

• 1 enskt orð: Algengt um 1,2–1,5 Token (gróflega áætlað er einnig hægt að nota 1,3)

• 1 lína af kóða ≈ 10–50 Token (þ.mt inndráttur, athugasemdir, tegundaryfirlýsingar)

• Einföld viðskiptaleg rökfræði ≈ 12–20 Token

• Með tegundaskýringum, interface, JSDoc, 4 bil inndráttur ≈ 20–35 Token

• Með miklu magni af import / skreytingum / athugasemdum ≈ 30–50+ Token

• 1 frumskrá (400–600 línur, nútíma TS/Java verkefni) ≈ 4.000–24.000 Token er mjög algengt (miðgildi ≈ 12.000–18.000)

• 1 meðalstórt verkefni (100–200 frumskrár, aðeins talið src/, án node_modules/ / myndaðs kóða)

• Að "lesa í gegnum" kjarnakóðann er oft byrjunin á milljón Token

• Ef þú setur prófanir, stillingar, forskriftir, háðsyfirlýsingar og annálar saman, þá er það ekki óalgengt að fara yfir tugi milljóna Token

Nútíma framendaverkefni eru TypeScript, full af flóknum Interface skilgreiningum; eða Java, með tugum lína af Import í hvert skipti. Þessi "sniðmátakóði" er í raun Token morðingi. Ef meðalstórt verkefni hefur 100 skrár, þá gæti það kostað 1 milljón Token bara til að láta AI "lesa kóðann".

2. "Snjóbolta" áhrif Token

Það sem er skelfilegast við Token eyðslu er ekki stakt samtal, heldur uppsöfnun samhengis í mörgum samtölum.

LLM vélbúnaðurinn er ástandlaus. Til að láta AI muna hvað þú sagðir í síðustu setningu mun kerfið venjulega pakka saman "kerfisleiðbeiningum + fyrri samtölum + skráar-/kóðabútum sem þú vitnar í + úttak verkfærakalls (eins og leitarniðurstöður, villuskráningar)" og senda það til líkansins. Þú heldur að þú hafir aðeins spurt eina spurningu, en í raun ertu að borga ítrekað fyrir "heildarsamhengispakkann".

• Umferð 1: Sendu 10.000 Token, AI svarar 1.000.

• Umferð 2: Sendu (10.000 + 1.000 + ný spurning), AI svarar...

• Umferð 10: Samhengið þitt gæti hafa stækkað í 200.000 Token.

Á þessum tíma, jafnvel þótt þú spyrjir bara "hjálpaðu mér að breyta breytunafni", þá kostar það 200.000 Token. Þetta er ástæðan fyrir því að þér finnst þú ekki hafa gert neitt, en reikningurinn er að skjótast upp.

Það sem er enn verra er: Agent hamurinn mun "lesa skrár af eigin frumkvæði". Þú segir "hjálpaðu mér að fínstilla notendaeininguna", það gæti fyrst skannað viðeigandi möppur, síðan elt háðsyfirlýsingar, síðan elt stillingar, síðan elt prófanir... Það er ekki að vera latur, það er að "sinna skyldum sínum samkvæmt sjálfgefnu stefnunni", og sjálfgefna stefnan er oft: lesa meira, prófa meira, endurtaka meira.

II. Tvær tegundir af "leti" eru að eyðileggja verkfræðilega getu þína

Eftir að hafa farið yfir athugasemdirnar frá "100 milljón bræðrunum" komst ég að því að rót Token sprengingarinnar er ekki bara vandamál AI eyðslukerfisins, heldur einnig nátengd leti fólks.

Hér að neðan eru tvær dæmigerðar tegundir af "hugsunarleti".

Leti eitt: Afhendingarstjóri

Ertu líka með þetta hugarfar:

• "Þetta gamla verkefni er of sóðalegt, ég nenni ekki að skoða rökfræðina, leyfðu AI að sjá um það."

• "Cursor kom út með Agent ham, frábært, láttu það laga villurnar sjálft."

Svo þú hendir allri src möppunni til Agent og gefur óljósa skipun: "Hjálpaðu mér að fínstilla notendaeininguna." Agent byrjar að vinna:

• Það les 50 skrár (eyðir 500.000).

• Það kemst að því að það vísar í utils, og fer að lesa tólaklasa (eyðir 200.000).

• Það reynir að breyta, fær villu, les villuskráningar (eyðir 100.000).

• Það reynir að laga, fær villu aftur...

Það er að reyna og mistakast í brjálæði, eyða Token í brjálæði. Og þú? Þú ert að fletta í símanum þínum og heldur að þú sért mjög afkastamikill. Sannleikurinn er sá að þú ert að skipta peningum fyrir "falska skilvirkni" og framleiða haug af kóða sem þú getur ekki viðhaldið seinna.

Nánar tiltekið eru tvö lög af tapi hér:

• Kostnaðarlag: InntaksToken verður stærri, endurtekningarfjöldi eykst og kostnaðurinn leggst línulega saman

• Verkfræðilegt lag: Þú missir samhengi og ákvarðanatökuvald og að lokum er ekkert annað eftir en "það getur keyrt" óviðráðanlegt kerfi

Leti tvö: Allt í einu

Hvernig hendir þú villu til AI? Afritarðu beint Ctrl+A alla villuskjáinn, eða @Codebase til að láta AI finna hana sjálft?

Þetta er kallað "allt í einu". Þú nennir ekki að finna kjarna vandans, nennir ekki að sía út mikilvæga kóðabúta. Þú setur 99% af ógildum upplýsingum (hávaða) og 1% af gildum upplýsingum (merki) í AI í einu.

AI er eins og magnari.

• Þú gefur honum skýra rökfræði (merki), það eykur visku þína, Token er notað minna og áhrifin eru góð.

• Þú gefur honum rugl og óskýrleika, það eykur ruglið þitt, Token hækkar í brjálæði og framleiðir rusl.

III. Lausn: Hvernig á að nota AI á skilvirkan hátt og draga úr Token eyðslu

Til að vernda veskið þitt er mikilvægara að vernda verkfræðilega stjórn þína, við verðum að breyta samstarfsmynstrinu okkar við AI.

1. Meginreglan um lágmarks samhengi

Þetta er fyrsta meginreglan um AI forritun. Gefðu AI alltaf aðeins minnsta kóðasafnið sem samsvarar núverandi vandamáli.

Í Cursor, notaðu þessa rekstraraðila vel:

• @File: Vitnaðu aðeins í viðeigandi skrár, ekki heila möppu.

• Ctrl+L** Veldu kóða**: Sendu aðeins 50 línur af kóða sem bendillinn hefur valið í spjallið, ekki alla skrána.

• @Docs: Fyrir bókasöfn þriðja aðila, vitnaðu í skjöl í stað þess að láta það giska.

Þetta er uppbyggð, endurnýtanleg SOP sem ég nota oft (ef þú gerir þetta mun Token falla sýnilega):

Þessi setning þýðir: Þegar unnið er með AI, ætti að huga að skilvirkni og nákvæmni. Sérstakar aðferðir eru sem hér segir:

• Skilgreindu fyrst markmiðið: Segðu AI stuttlega frá núverandi vandamáli og væntanlegum árangri, ekki láta það giska sjálft.

• Einfaldaðu endurgerð vandans: Ef þú getur notað einföldustu aðferðina til að endurgera vandann, notaðu þá ekki flókna aðferð, límdu minnsta og mikilvægasta kóðann, ekki stafla upp miklu magni af óviðkomandi efni.

• Gefðu lágmarks nauðsynlegar upplýsingar: Gefðu aðeins 1-3 viðeigandi skrár, lykilvirkni og fyrstu línurnar af villustöflunni, ekki allar upplýsingarnar.

• Krefjast þess að skila breytingapunktum: Láttu AI aðeins segja þér hvar á að breyta, hvers vegna á að breyta, ekki láta það endurskrifa allt í stórum dráttum.

• Að lokum, athugaðu sjálfur: Gerðu stystu staðfestinguna til að tryggja að breytingin hafi ekki áhrif á aðra staði.

Í stuttu máli, notaðu minnstu og mikilvægustu upplýsingarnar til að láta AI vinna og haltu endanlegri stjórn og dómgreind.

2. Einnig það mikilvægasta: Hugsaðu fyrst, hvetjaðu síðan, skipuleggðu fyrst, gerðu síðan

Áður en þú ýtir á enter, neyddu sjálfan þig til að stoppa í 10 sekúndur og spyrðu sjálfan þig þrjár spurningar:

• Hvaða vandamál er ég að leysa? (Skilgreindu mörk)

• Hvaða kjarnaeiningar tengjast þessu vandamáli? (Síaðu samhengi)

• Ef ég myndi skrifa það sjálfur, hvernig myndi ég skrifa það? (Gefðu hugmyndir)

Þú ert 1, AI er 0 á eftir. Ef 1 getur ekki staðið, þá er sama hversu margar 0 eru á eftir, það er bara tilgangslaus eyðsla.

Nokkrar hjartans orð

Sagan af "100 milljón Token á dag" gæti ekki gerst fyrir alla. En næstum hver forritari sem notar AI forritun hefur upplifað hegðunina við að sóa Token.

Þó að AI geri forritun auðveldari, þá eru enn þröskuldar. Sá sem veit hvernig á að nota það mun vera eins og fiskur í vatni.

Áður fyrr myndi slæmur kóði sem þú skrifaðir aðeins "vekja viðbjóð" hjá samstarfsmönnum. Núna mun letin sem þú stelur breytast beint í tölur á reikningnum og refsa þér með hækkandi kostnaði. Svo, vertu ekki „afgreiðslumaður“. Vertu djúpt hugsi, nákvæmlega tjáandi, skipuleggjandi áður en gripið er til aðgerða AI arkitekt. Þetta er líka okkar stærsta ómissandi hlutverk á þessum tímum.