Prichádza bombastická novinka! Návod na neobmedzené tokeny pre Claude Code lokálne

Claude Code je výkonný, ale spotreba tokenov môže byť bolestivá!

Konečne môže Claude Code pracovať s lokálnymi modelmi a konfigurácia je veľmi jednoduchá.

Nasledujúce prostredie je Mac Mini4. Prostredie Windows je tiež možné.

V súčasnej dobe, ak sa venujete stolovému AI, odporúča sa zakúpiť Mac M series mini počítač, ako napríklad mini4\mini4 pro\m3 ultra\m4 max, čo sú osobné stolové AI zázraky.

Najprv je potrebné aktualizovať LM Studio na najnovšiu verziu, teda 0.4.1, pretože najnovšia verzia pridala podporu pre Claude Code. (Ollama je tiež možnosť)

Môžete použiť ľubovoľný lokálny open-source model, pokiaľ má váš Mac dostatok pamäte. Ako príklad použijeme gpt-oss-20b-mlx, čo je open-source model od OpenAI.

Dôležitý bod: Nastavte Context length na maximum, teda dĺžku kontextu na maximum podporované modelom, pretože výkon agenta pri viackrokových úlohách veľmi závisí od dĺžky kontextu, príliš krátky nestačí. Tento parameter je tiež potrebné vyvážiť podľa pamäte vášho Macu a rýchlosti inferencie modelu. Ďalší dôležitý bod: V prostredí Mac uprednostnite sťahovanie modelov vo formáte MLX, pretože inferencia je rýchlejšia ako pri modeloch vo formáte GGUF.

Ďalej nainštalujeme claude code v príkazovom termináli.

Konfigurácia premenných prostredia:

export ANTHROPIC_AUTH_TOKEN=lmstudio

export ANTHROPIC_BASE_URL=http://localhost:1234

Inštalácia samotného claude code:

npm install -g @anthropic-ai/claude-code

Potom spustite claude code:

claude --model gpt-oss-20b-mlx

V tomto momente bude claude code využívať váš lokálny model na výstup.

Okrem použitia v termináli je možné ho použiť aj v VS Code, konfigurácia je nasledovná:

Najprv nainštalujeme doplnok Claude Code for VS Code.

Potom nastavíme premenné prostredia:

{    "claudeCode.environmentVariables": [        { "name": "ANTHROPIC_BASE_URL", "value": "http://localhost:1234" },         { "name": "ANTHROPIC_AUTH_TOKEN", "value": "lmstudio" }     ]}

Potom môžete začať pracovať.

Otázka na zamyslenie: Je Claude Code bez použitia modelov od Anthropic stále tým istým Claude Code?

Schopnosti modelu gpt-oss-20b-mlx, ktorý používame, sa samozrejme nedajú porovnávať s Opus 4.5, ale ak máte lokálne nasadený model Kimi K2.5, zdá sa, že jeho schopnosti vôbec nezaostávajú za Opus 4.5.