Pommi iskee! Claude Coden paikallinen rajaton Token-oppaan

Claude Code on vahva, mutta Tokenien kulutus tuntuu kivuliaalta!

Vihdoin, Claude Code voi yhdistyä paikallisiin malleihin, ja määritys on hyvin yksinkertaista.

Seuraava ympäristö on Mac Mini4. Windows-ympäristö on myös mahdollinen.

Nykyajan pöytä-AI:n kanssa suosittelen Mac M-sarjan pientä koteloa, kuten mini4\mini4 pro\m3 ultra\m4 max, henkilökohtainen pöytä-AI-työkalu.

Ensinnäkin, LM Studio on päivitettävä uusimpaan versioon, eli 0.4.1, koska uusin versio lisää tuen Claude Codelle. (Ollama on myös mahdollinen)

Voit ladata minkä tahansa avoimen lähdekoodin mallin paikallisesti, kunhan Mac-muistisi riittää. Käytämme esimerkkinä gpt-oss-20b-mlx:ää, joka on OpenAIn avoimen lähdekoodin malli.

Huomioi yksi asia: Context length täyteen, eli kontekstin pituus mallin tukemaan maksimiin, koska älykkään agentin monikierroksinen suorituskyky riippuu voimakkaasti kontekstin pituudesta, liian lyhyt ei käy. Tätä parametria on myös tasapainotettava Mac-muistisi ja mallin päättelyn nopeuden mukaan. Huomioi toinen asia: Mac-ympäristössä lataa ensisijaisesti MLX-muotoisia malleja, niiden päättelynopeus on nopeampi kuin GGUF-muotoisten mallien.

Seuraavaksi asennamme claude coden komentorivipäätteeseen.

Määritä ympäristömuuttujat:

export ANTHROPIC_AUTH_TOKEN=lmstudio

export ANTHROPIC_BASE_URL=http://localhost:1234

Asenna claude code itse:

npm install -g @anthropic-ai/claude-code

Sitten, käynnistä cluade code:

claude --model gpt-oss-20b-mlx

Tällöin claude code käyttää paikallista malliasi tulostukseen.

Terminaalin käytön lisäksi sitä voi käyttää VS Codessa, määritys seuraavasti:

Asennamme ensin Claude Code for VS Code -laajennuksen.

Sitten asetetaan ympäristömuuttujat:

{    "claudeCode.environmentVariables": [        { "name": "ANTHROPIC_BASE_URL", "value": "http://localhost:1234" },         { "name": "ANTHROPIC_AUTH_TOKEN", "value": "lmstudio" }     ]}

Sitten voi aloittaa työskentelyn.

Ajatustehtävä: Onko Anthropic-mallia käyttämätön Claude Code enää sama Claude Code?

Käyttämämme gpt-oss-20b-mlx-mallin kyvyt eivät tietenkään vedä vertoja Opus 4.5:lle, mutta jos olet asentanut Kimi K2.5:n paikallisesti, sen kyvyt eivät tällä hetkellä näytä olevan lainkaan heikommat kuin Opus 4.5:n.