Kraljevski udarac stiže! Vodič za neograničene tokene Claude Code lokalno

Claude Code je izuzetno moćan, ali potrošnja tokena može biti bolna!

Konačno, Claude Code može raditi s lokalnim modelima, a konfiguracija je vrlo jednostavna.

Sljedeće okruženje je Mac Mini4. Windows okruženje je također moguće.

U današnje vrijeme, ako se bavite stolnom AI, preporučujemo nabavu Mac M serije malog računala, kao što su mini4\mini4 pro\m3 ultra\m4 max, osobni stolni AI uređaj.

Prvo, trebate nadograditi LM Studio na najnoviju verziju, odnosno 0.4.1, jer najnovija verzija dodaje podršku za Claude Code. (Ollama je također moguća)

Možete koristiti bilo koji lokalni otvoreni model, sve dok vaš Mac ima dovoljno memorije. Uzmimo gpt-oss-20b-mlx kao primjer, ovo je OpenAI-ov otvoreni model.

Obratite pažnju: Povucite Context length do maksimuma, odnosno duljinu konteksta do maksimalno podržane od strane modela, jer izvedba agenta u višekratnim zadacima jako ovisi o duljini konteksta, premalo neće raditi. Ovaj parametar također treba prilagoditi uravnoteženo prema memoriji vašeg Maca i brzini zaključivanja modela. Također obratite pažnju: Za Mac okruženje, preporučujemo preuzimanje modela u MLX formatu, jer je brzina zaključivanja brža nego kod modela u GGUF formatu.

Zatim, u terminalu instalirajte claude code.

Konfigurirajte varijable okoline:

export ANTHROPIC_AUTH_TOKEN=lmstudio

export ANTHROPIC_BASE_URL=http://localhost:1234

Instalirajte claude code glavni dio:

npm install -g @anthropic-ai/claude-code

Zatim, pokrenite claude code:

claude --model gpt-oss-20b-mlx

Sada će claude code koristiti vaš lokalni model za izlaz.

Osim korištenja u terminalu, možete ga koristiti i u VS Code-u, konfiguracija je sljedeća:

Prvo instalirajte Claude Code for VS Code dodatak.

Zatim postavite varijable okoline:

{    "claudeCode.environmentVariables": [        { "name": "ANTHROPIC_BASE_URL", "value": "http://localhost:1234" },         { "name": "ANTHROPIC_AUTH_TOKEN", "value": "lmstudio" }     ]}

Zatim možete početi s radom.

Pitanje za razmišljanje: Je li Claude Code koji ne koristi Anthropic modele još uvijek isti Claude Code?

Naravno, sposobnosti gpt-oss-20b-mlx modela koji koristimo ne mogu se usporediti s Opus 4.5, ali ako lokalno postavite Kimi K2.5, čini se da su sposobnosti uopće ne inferiorne Opus 4.5.