Kraljevski udarac stiže! Vodič za neograničene tokene Claude Code lokalno

Claude Code je vrlo moćan, ali potrošnja tokena može biti bolna!

Konačno, Claude Code može raditi s lokalnim modelima, a konfiguracija je vrlo jednostavna.

Sljedeće okruženje je za Mac Mini4. Windows okruženje je također moguće.

U današnje vrijeme, ako se bavite desktop AI-om, preporučuje se nabavka Mac M serije malih računala, kao što su mini4\mini4 pro\m3 ultra\m4 max, osobni desktop AI uredaji.

Prvo, trebate nadograditi LM Studio na najnoviju verziju, odnosno 0.4.1, jer najnovija verzija dodaje podršku za Claude Code. (Ollama je također moguća)

Možete koristiti bilo koji lokalni open-source model, sve dok vaš Mac ima dovoljno memorije. Uzmimo za primjer gpt-oss-20b-mlx, ovo je OpenAI open-source model.

Obratite pažnju: Povucite Context length do maksimuma, odnosno dužinu konteksta do maksimalno podržane od strane modela, jer izvedba agenta u višekratnim zadacima jako ovisi o dužini konteksta, premala neće raditi. Ovaj parametar također treba prilagoditi uravnoteženo prema memoriji vašeg Mac-a i brzini zaključivanja modela. Također obratite pažnju: Za Mac okruženje, preporučuje se preuzimanje modela u MLX formatu, jer je brzina zaključivanja brža nego kod modela u GGUF formatu.

Zatim, instalirajmo claude code u terminalu naredbenog retka.

Konfigurirajte varijable okruženja:

export ANTHROPIC_AUTH_TOKEN=lmstudio

export ANTHROPIC_BASE_URL=http://localhost:1234

Instalirajte claude code glavni dio:

npm install -g @anthropic-ai/claude-code

Zatim, pokrenite claude code:

claude --model gpt-oss-20b-mlx

Sada će claude code koristiti vaš lokalni model za izlaz.

Osim korištenja u terminalu, može se koristiti i u VS Code-u, konfiguracija je sljedeća:

Prvo instalirajmo Claude Code for VS Code dodatak.

Zatim postavite varijable okruženja:

{    "claudeCode.environmentVariables": [        { "name": "ANTHROPIC_BASE_URL", "value": "http://localhost:1234" },         { "name": "ANTHROPIC_AUTH_TOKEN", "value": "lmstudio" }     ]}

Zatim možete početi s radom.

Pitanje za razmišljanje: Je li Claude Code koji ne koristi Anthropic modele još uvijek taj Claude Code?

Model gpt-oss-20b-mlx koji koristimo naravno ne može se usporediti s Opus 4.5, ali ako lokalno postavite Kimi K2.5, trenutno se čini da mu sposobnosti nisu ništa manje od Opus 4.5.