Piktoji korta! Claude Code vietinis neribotų Tokenų gidas

Claude Code yra galingas, bet Tokenų sunaudojimas gali būti skausmingas!

Galiausiai Claude Code gali dirbti su vietiniais modeliais, o konfigūracija yra labai paprasta.

Ši aplinka yra Mac Mini4. Windows aplinka taip pat tinka.

Šiuolaikiniame laikotarpyje, jei žaidžiate su stalinio kompiuterio AI, rekomenduojama įsigyti Mac M serijos mažus kompiuterius, pvz., mini4\mini4 pro\m3 ultra\m4 max – tai asmeniniai staliniai AI įrankiai.

Pirma, LM Studio reikia atnaujinti iki naujausios versijos, t.y. 0.4.1, nes naujausioje versijoje pridėta Claude Code palaikymas. (Ollama taip pat tinka.)

Galite naudoti bet kurį vietinį atviro kodo modelį, jei jūsų Mac atminties pakanka. Kaip pavyzdį imkime gpt-oss-20b-mlx, tai yra OpenAI atviro kodo modelis.

Atkreipkite dėmesį: Context length nustatykite iki maksimumo, t.y. konteksto ilgį padidinkite iki modelio palaikomo maksimumo, nes agentų daugiaetapių užduočių našimas labai priklauso nuo konteksto ilgio, per mažas netinka. Šis parametras taip pat turi būti subalansuotas pagal jūsų Mac atmintį ir modelio išvadų greitį. Dar vienas punktas: Mac aplinkoje pirmiausia atsisiųskite MLX formato modelius, jų išvadų greitis yra greitesnis nei GGUF formato modelių.

Toliau komandinėje eilutėje įdiegiame claude code.

Konfigūruojame aplinkos kintamuosius:

export ANTHROPIC_AUTH_TOKEN=lmstudio

export ANTHROPIC_BASE_URL=http://localhost:1234

Įdiegiame claude code pagrindinę dalį:

npm install -g @anthropic-ai/claude-code

Tada paleidžiame claude code:

claude --model gpt-oss-20b-mlx

Dabar claude code naudos jūsų vietinį modelį išvesties generavimui.

Be naudojimo terminale, taip pat galima naudoti VS Code, konfigūracija tokia:

Pirmiausia įdiegiame Claude Code for VS Code papildinį.

Tada nustatome aplinkos kintamuosius:

{    "claudeCode.environmentVariables": [        { "name": "ANTHROPIC_BASE_URL", "value": "http://localhost:1234" },         { "name": "ANTHROPIC_AUTH_TOKEN", "value": "lmstudio" }     ]}

Tada galite pradėti dirbti.

Mąstymo klausimas: ar Claude Code, nenaudojantis Anthropic modelių, vis dar yra tas pats Claude Code?

Mūsų naudojamo gpt-oss-20b-mlx modelio galimybės, žinoma, negali būti lyginamos su Opus 4.5, tačiau jei vietinėje aplinkoje esate įdiegę Kimi K2.5, kol kas atrodo, kad jo galimybės visiškai nenusileidžia Opus 4.5.