Мақсатты оқырмандар: AI бағдарламалау құралдарын (мысалы, Cursor, Windsurf, trae...) пайдаланып жүрген әзірлеушілер, сондай-ақ AI құны туралы түсінігі жоқ техникалық менеджерлер.

Негізгі көзқарас: Token жай ғана есеп айырысу бірлігі емес, «назар аудару ресурсы» және «есептеу валютасы». Agent режимін теріс пайдалану, контексті басқаруды елемеу, іс жүзінде тактикалық еңбекқорлықты (AI-ге босқа әуреленуге мүмкіндік беру) стратегиялық жалқаулықты (өзіңіз ойланбау) жасыру үшін қолданылады.

Сіздің «AI шығындарыңыз» жалақыдан да жоғары болуы мүмкін

Бірнеше күн бұрын мен Token шоттарымды тексердім. Бұл санды көргенде мен таң қалдым: 10 миллион Token. Ескеріңіз, бұл бір айлық көлем емес, бір күн.

Мен мұның тым ақылға сыймайтын нәрсе деп ойладым. Кейін мен Token есептеуіне қатысты қысқа бейне жарияладым.

Нәтижесінде, пікірлер бөлімінде мен «аспанның да аспаны бар» дегеннің не екенін көрдім.

Төмендегі сурет - «老K的日常» атты пайдаланушының бір күндік екі жүз миллион Token тұтыну жазбасының скриншоты:

Басында мен бұл оқшауланған жағдай болуы мүмкін деп ойладым, бірақ көптеген пайдаланушылар өздерінің күніне 100 миллион тұтынатынын айтқан кезде, мен бұл өте кең таралған құбылыс екенін түсіндім.

Бір жүз миллион Token дегеніміз не? Егер «кейбір негізгі коммерциялық модельдердің» жалпы есептеу деңгейі бойынша (кіріс/шығыс бөлек есептеледі, шамамен 10 АҚШ доллары / миллион Token деңгейінде бағаланады) есептесек, онда бұл күні 1000 доллар жағылады. Күніне 7000 юань жағылады. Көптеген жас бағдарламашылардың бір айлық жалақысы AI-дің осы бір күндік «ойлануына» жетпеуі мүмкін.

(Ескертпе: Әртүрлі модельдердің/жеткізушілердің бағалары айтарлықтай өзгереді, сонымен қатар кіріс және шығыс бағалары да әртүрлі болады. Мұндағы мақсат - ондық бөлшекке дейін дәл есептеу емес, алдымен «деңгейлік сезімді» қалыптастыру.)

Егер сіз өзіңіз қайта есептегіңіз келсе, әдетте мына формула қолданылады (кэш/жеңілдіктер және т.б. арнайы ережелерді елемеңіз): Құны ≈ (Кіріс Token / 1,000,000) × Баға_in + (Шығыс Token / 1,000,000) × Баға_out

Бұл өте интуитивті емес. Біз AI арзан деп ойлаймыз, тіпті OpenAI бағаны төмендетпекші. Бірақ неліктен нақты жобаларда Token тұтынысы экспоненциалды түрде жарылады?

Бүгін біз осы «Token қара тесігінің» артындағы логиканы терең талдап, оны қалай тоқтату керектігін көрсетеміз.

I. Неліктен Token «экспоненциалды түрде жарылады»?

Көптеген бауырлар Token көлемі туралы мүлдем түсінігі жоқ. Олар ойлайды: «Ойбай, бұл бірнеше код жолы ғана емес пе? Қанша болады дейсің?»

1. Анық есеп жүргізу

Алдымен жобада пайдалануға жарамды сандық қабылдауды қалыптастырайық. Алдымен нақтылап алайық: Token - бұл сөз саны да, таңбалар саны да емес. Бұл модель мәтінді бөлшектегеннен кейінгі «кодталған фрагмент», әртүрлі модельдер әртүрлі tokenizer қолданады, сондықтан тек аралықты беруге болады, «барлық жерде қолдануға болатын» тұрақтыны беруге болмайды.

Төмендегі сандарды «бағалау шкаласы» ретінде қарастырыңыз (мақсаты - көлемді анықтау, құнды бағалау, шығынды тоқтату туралы шешім қабылдау):

• 1 қытай иероглифі: әдетте 1–2 Token (жиі кездесетін иероглифтер 1-ге жақын, сирек кездесетін иероглифтер/комбинациялар 2–3-ке оңай жетеді)

• 1 ағылшын сөзі: әдетте 1.2–1.5 Token шамасында (шамамен бағалау үшін 1.3-ті де қолдануға болады)

• 1 код жолы ≈ 10–50 Token (шегіністерді, түсініктемелерді, типтік декларацияларды қоса)

• Қарапайым бизнес логикасы ≈ 12–20 Token

• Типтік аннотациялармен, interface, JSDoc, 4 бос орын шегінісімен ≈ 20–35 Token

• Көптеген import / декораторлар / түсініктемелермен ≈ 30–50+ Token

• 1 бастапқы файл (400–600 жол, заманауи TS/Java жобасы) ≈ 4,000–24,000 Token өте жиі кездеседі (медиана ≈ 12,000–18,000)

• 1 орташа жоба (100–200 бастапқы файл, тек src/ есептеледі, node_modules/ / жасалған кодты қамтымайды)

• Негізгі бастапқы кодты «толық оқып шығу» көбінесе миллион Token-нен басталады

• Егер сіз сынақтарды, конфигурацияларды, сценарийлерді, тәуелділік декларацияларын, журналдарды бірге салсаңыз, онда ондаған миллион Token таңқаларлық емес

Қазіргі frontend жобалары TypeScript-те, күрделі Interface анықтамаларына толы; немесе Java, бірнеше ондаған жол Import-пен. Бұл «үлгілік кодтар» іс жүзінде Token өлтірушілер болып табылады. Орташа жобада 100 файл болса, AI-ге «кодты оқып шығуға» рұқсат беру 1 миллион Token-ді жойып жіберуі мүмкін.

2. Token-нің «қар үйіндісі» әсері

Token тұтынысының ең қорқыныштысы бір реттік диалог емес, көп раундты диалогтардағы контекстің жинақталуы.

LLM механизмі күйсіз болып табылады. AI сіздің алдыңғы сөзіңізді есте сақтауы үшін жүйе әдетте «жүйелік нұсқаулықты + тарихи диалогты + сіз сілтеме жасаған файлдарды/код фрагменттерін + құрал шақыру нәтижелерін (мысалы, іздеу нәтижелерін, қателік журналдарын)» бірге пакеттеп модельге жібереді. Сіз бір сұрақ қойдым деп ойлайсыз, бірақ іс жүзінде сіз «бүкіл контекст пакеті» үшін қайта-қайта төлейсіз.

• 1-раунд: 10 мың Token жіберіледі, AI 1 мың жауап береді.

• 2-раунд: (10 мың + 1 мың + жаңа сұрақ) жіберіледі, AI жауап береді...

• 10-раунд: Сіздің Context 200 мың Token-ге дейін ұлғайған болуы мүмкін.

Бұл кезде сіз тіпті «маған айнымалы атауын өзгертуге көмектес» деген сұрақ қойсаңыз да, 200 мың Token ақысын төлейсіз. Сондықтан сіз ештеңе істемегеніңізді сезесіз, бірақ шот өсіп жатыр.

Одан да жаманы: Agent режимі «файлдарды белсенді түрде оқиды». Сіз «маған пайдаланушы модулін оңтайландыруға көмектес» десеңіз, ол алдымен тиісті каталогты сканерлеп, содан кейін тәуелділікке, содан кейін конфигурацияға, содан кейін сынаққа өтеді... Ол жалқаулық жасап жатқан жоқ, ол «әдепкі стратегия бойынша жауапкершілікпен» әрекет етіп жатыр, ал әдепкі стратегия көбінесе: көбірек оқу, көбірек сынау, көбірек қайталау.

II. Екі түрлі «жалқаулық» сіздің жобалау қабілетіңізді бұзуда

Пікірлер бөліміндегі «жүз миллиондықтарды» қайта қарағаннан кейін мен Token-нің күрт өсуінің түпкі себебі AI-дің тұтыну механизмі мәселесі ғана емес, сонымен қатар адамның жалқаулығына да байланысты екенін байқадым.

Төменде екі типтік «ойлау жалқаулығы» бар.

Жалқаулық бірінші: Қол сілтеуші тип

Сізде де осындай ой бар ма:

• «Бұл ескі жоба тым ретсіз, мен логиканы қарауға ерінемін, оны тікелей AI-ге берейін.»

• «Cursor Agent режимін шығарды, өте жақсы, оған қатені өзі жөндеуге рұқсат етейін.»

Содан кейін сіз бүкіл src қалтасын Agent-ке тастап, бұлыңғыр нұсқау бердіңіз: «Маған пайдаланушы модулін оңтайландыруға көмектес.» Agent жұмыс істей бастады:

• Ол 50 файлды оқыды (500 мың тұтынды).

• Ол utils-ке сілтеме жасалғанын анықтады, содан кейін құралдар класын оқуға барды (200 мың тұтынды).

• Ол өзгертуге тырысты, қате пайда болды, қателік журналын оқыды (100 мың тұтынды).

• Ол түзетуге тырысты, тағы да қате пайда болды...

Ол ақылсыздықпен қателіктер жіберіп, Token-ді ақылсыздықпен тұтынуда. Ал сіз не істеп жатырсыз? Сіз телефонды қарап отырсыз, өзіңізді өте тиімді сезінесіз. Шындық: сіз ақшаға сатып алған «жалған тиімділік» кейіннен сіз күте алмайтын кодтарды шығарды.

Кәсіби тілмен айтқанда, мұнда екі деңгейде шығын бар:

• Құн деңгейі: Кіріс Token үлкенірек, қайталау саны көбірек, шығындар сызықтық түрде қосылады

• Жобалау деңгейі: Сіз контекст пен шешім қабылдау құқығынан айырыласыз, соңында тек «жұмыс істесе болды» деген бақылаусыз жүйе қалады

Жалқаулық екінші: Лас сумен бірге құмды да төгу типі

Қате пайда болған кезде, сіз оны AI-ге қалай бересіз? Сіз тікелей Ctrl+A арқылы бүкіл қателік консолін көшіресіз бе, әлде AI-ге өзі іздеуге мүмкіндік беру үшін тікелей @Codebase қолданасыз ба?

Бұл «лас сумен бірге құмды да төгу» деп аталады. Сіз мәселенің негізін анықтауға ерінесіз, негізгі код фрагменттерін сұрыптауға ерінесіз. Сіз 99% жарамсыз ақпаратты (шу) және 1% жарамды ақпаратты (сигнал) AI-ге бірден бересіз.

AI үлкейткіш сияқты.

• Сіз оған анық логика (сигнал) берсеңіз, ол сіздің даналығыңызды үлкейтеді, Token аз жұмсалады, нәтижесі жақсы болады.

• Сіз оған хаос пен бұлыңғырлық берсеңіз, ол сіздің хаосыңызды үлкейтеді, Token шарықтайды, қоқыс шығарады.

III. Шешім: AI-ді қалай тиімді пайдалануға және Token тұтынысын азайтуға болады

Әмияныңызды сақтағыңыз келсе, ең бастысы - жобалауды бақылау құқығын сақтау, біз AI-мен ынтымақтастық режимін өзгертуіміз керек.

1. Ең аз контекст принципі

Бұл AI бағдарламалауының бірінші принципі. AI-ге әрқашан ағымдағы мәселені шешуге сәйкес келетін ең аз код жиынтығын ғана беріңіз.

Cursor-да мына операторларды жақсы пайдаланыңыз:

• @File: бүкіл қалтаны емес, тек қатысты файлдарды сілтеме жасаңыз.

• Ctrl+L кодты таңдау: бүкіл файлды емес, тек курсор таңдаған 50 жолды Chat-ке жіберіңіз.

• @Docs: үшінші тарап кітапханалары үшін оны болжауға мүмкіндік бермей, құжаттамаға сілтеме жасаңыз.

Бұл мен жиі қолданатын, құрылымдалған, қайта пайдалануға болатын SOP (сіз солай жасасаңыз, Token көзбен көрінетіндей төмендейді):

Бұл сөздің мағынасы: AI-мен ынтымақтастық кезінде тиімділік пен дәлдікке назар аудару керек. Нақты әрекеттер келесідей:

• Алдымен мақсатты нақтылаңыз: AI-ге ағымдағы мәселені және қалаған нәтижені қысқаша айтыңыз, оған өзі болжауға мүмкіндік бермеңіз.

• Мәселенің қайталануын оңайлатыңыз: мәселені қайталаудың ең қарапайым әдісін қолданыңыз, ең аз және маңызды кодты жабыстырыңыз, қатысы жоқ мазмұнды үйіп тастамаңыз.

• Ең аз қажетті ақпаратты беріңіз: тек қатысты 1-3 файлды, негізгі функцияларды және қателік стекінің алғашқы бірнеше жолын беріңіз, толық ақпаратты бермеңіз.

• Өзгерту нүктелерін қайтаруды сұраңыз: AI-ге қай жерде өзгерту керектігін, неліктен өзгерту керектігін айтуға рұқсат етіңіз, оған бүкіл кодты қайта жазуға рұқсат етпеңіз.

• Соңында өзіңіз бақылаңыз: өзгерістердің басқа жерлерге әсер етпегеніне көз жеткізу үшін ең қарапайым тексеруді жасаңыз.

Қысқаша айтқанда, AI-ге жұмыс істеуге мүмкіндік беру үшін ең аз, ең маңызды ақпаратты пайдаланыңыз және соңғы бақылау мен шешім қабылдау құқығын сақтаңыз.

2. Ең маңыздысы: алдымен ойланыңыз, содан кейін Prompt, алдымен жоспарлаңыз, содан кейін әрекет етіңіз

Enter пернесін баспастан бұрын өзіңізді 10 секунд тоқтауға мәжбүрлеп, өзіңізге үш сұрақ қойыңыз:

• Мен қандай мәселені шешіп жатырмын? (Шекараны анықтау)

• Бұл мәселе қандай негізгі модульдерге қатысты? (Контексті сұрыптау)

• Егер мен өзім жазсам, қалай жазар едім? (Идеяларды ұсыну)

Сіз 1-сіз, AI соңындағы 0. Егер 1 тұрақты болмаса, соңындағы 0 қанша көп болса да, ол тек мағынасыз тұтыну болып табылады.

Жүректен шыққан бірнеше сөз

«Күніне жүз миллион Token» оқиғасы әркімнің басында бола бермес. Бірақ Token-ді ысырап ету әрекетін AI бағдарламалауын пайдаланатын әрбір бағдарламашы бастан кешіреді.

AI бағдарламалауды жеңілдеткенімен, әлі де шектеулер бар. Нағыз пайдалана білетін адам ғана қанаттанады.

Бұрын сіздің нашар кодыңыз әріптестеріңізді ғана «жиіркендіретін» еді. Енді сіздің жалқаулығыңыз тікелей шоттағы санға айналады, өзіңізді өсіп келе жатқан шығындармен жазалайды. Соныдықтан, «қолды сілтеуші» болмаңыз. Терең ойлайтын, дәл жеткізетін, алдымен жоспарлап, содан кейін әрекет ететін AI архитекторы болыңыз. Бұл біздің дәуірдегі ең үлкен алмастыруға келмейтін қасиетіміз.