Kraljeviška kombinacija! Vodnik za neomejene tokene v Claude Code lokalno

Claude Code je zelo zmogljiv, vendar poraba tokenov lahko boli v jetrih!

Končno lahko Claude Code deluje z lokalnimi modeli, nastavitev je zelo preprosta.

Spodnje okolje je Mac Mini4. Možno je tudi v okolju Windows.

V današnjem času, če se ukvarjate z namizno umetno inteligenco, priporočam nakup majhnega računalnika Mac M serije, kot so mini4\mini4 pro\m3 ultra\m4 max, osebni namizni čudež za umetno inteligenco.

Najprej morate nadgraditi LM Studio na najnovejšo različico, to je 0.4.1, saj najnovejša različica dodaja podporo za Claude Code. (Možno je tudi z Ollama.)

Lahko uporabite poljuben odprtokodni model lokalno, če ima vaš Mac dovolj pomnilnika. Vzemimo za primer gpt-oss-20b-mlx, to je odprtokodni model od OpenAI.

Pazite: Context length nastavite na maksimum, torej dolžino konteksta potegnite do največje podprte vrednosti modela, saj je uspešnost večkratnih nalog agenta zelo odvisna od dolžine konteksta, premajhna ne gre. Ta parameter je treba prilagoditi tudi glede na pomnilnik vašega Maca in hitrost sklepanja modela. Še ena opomba: V okolju Mac najprej prenesite modele v formatu MLX, saj so hitrejši pri sklepanju kot modeli v formatu GGUF.

Nato namestimo claude code v ukazni vrstici terminala.

Nastavite okoljske spremenljivke:

export ANTHROPIC_AUTH_TOKEN=lmstudio

export ANTHROPIC_BASE_URL=http://localhost:1234

Namestitev glavnega dela claude code:

npm install -g @anthropic-ai/claude-code

Nato zaženite claude code:

claude --model gpt-oss-20b-mlx

Takrat bo claude code uporabil vaš lokalni model za izhod.

Poleg uporabe v terminalu ga lahko uporabite tudi v VS Code, nastavitev je naslednja:

Najprej namestimo vtičnik Claude Code for VS Code.

Nato nastavimo okoljske spremenljivke:

{    "claudeCode.environmentVariables": [        { "name": "ANTHROPIC_BASE_URL", "value": "http://localhost:1234" },         { "name": "ANTHROPIC_AUTH_TOKEN", "value": "lmstudio" }     ]}

In potem lahko začnete z delom.

Vprašanje za razmislek: Ali je Claude Code brez uporabe modelov Anthropic še vedno isti Claude Code?

Zmogljivost modela gpt-oss-20b-mlx, ki ga uporabljamo, seveda ni primerljiva z Opus 4.5, vendar, če lokalno namestite Kimi K2.5, se zdi, da njegove zmogljivosti niso nič manjše od Opus 4.5.