Bomba je stigla! Vodič za neograničene tokene Claude Code lokalno

Claude Code je moćan, ali potrošnja tokena boli jetru!

Konačno, Claude Code može raditi sa lokalnim modelima, a konfiguracija je vrlo jednostavna.

Sledeće okruženje je Mac Mini4. Windows okruženje je takođe moguće.

U današnje vreme, ako se bavite desktop AI, preporučujem Mac M seriju malih računara, kao što su mini4\mini4 pro\m3 ultra\m4 max, lični desktop AI alat.

Prvo, potrebno je nadograditi LM Studio na najnoviju verziju, odnosno 0.4.1, jer najnovija verzija dodaje podršku za Claude Code. (Ollama je takođe moguć)

Možete koristiti bilo koji lokalni open source model, sve dok vaš Mac ima dovoljno memorije. Uzmimo gpt-oss-20b-mlx kao primer, ovo je OpenAI open source model.

Obratite pažnju: Context length podignite na maksimum, odnosno dužinu konteksta povucite do maksimuma koji model podržava, jer performanse agenta u višekratnim zadacima jako zavise od dužine konteksta, mala neće raditi. Ovaj parametar takođe treba balansirati i prilagoditi prema memoriji vašeg Mac-a i brzini zaključivanja modela. Još jedna napomena: Za Mac okruženje, preuzmite MLX format modela po prioritetu, brzina zaključivanja je brža od GGUF formata modela.

Zatim, instaliramo claude code u terminalu komandne linije.

Konfigurišite promenljive okruženja:

export ANTHROPIC_AUTH_TOKEN=lmstudio

export ANTHROPIC_BASE_URL=http://localhost:1234

Instalirajte claude code glavni deo:

npm install -g @anthropic-ai/claude-code

Zatim, pokrenite claude code:

claude --model gpt-oss-20b-mlx

Sada će claude code koristiti vaš lokalni model za izlaz.

Pored korišćenja u terminalu, može se koristiti i u VS Code-u, konfiguracija je sledeća:

Prvo instaliramo Claude Code for VS Code dodatak.

Zatim podesite promenljive okruženja:

{    "claudeCode.environmentVariables": [        { "name": "ANTHROPIC_BASE_URL", "value": "http://localhost:1234" },         { "name": "ANTHROPIC_AUTH_TOKEN", "value": "lmstudio" }     ]}

I onda možete početi sa radom.

Pitanje za razmišljanje: Da li je Claude Code koji ne koristi Anthropic modele i dalje taj isti Claude Code?

Model gpt-oss-20b-mlx koji koristimo naravno ne može da se poredi sa Opus 4.5, ali ako ste lokalno postavili Kimi K2.5, trenutno izgleda da mu sposobnosti nisu ništa slabije od Opus 4.5.