Pambihirang Pagsabog! Gabay sa Claude Code na Walang Limitasyong Token sa Lokal

Malakas ang Claude Code, ngunit nakakapagod sa atay ang pagkonsumo ng Token!

Sa wakas, maaari nang gumana ang Claude Code kasama ang mga lokal na modelo, at napakasimple ng pagsasaayos.

Ang sumusunod na kapaligiran ay para sa Mac Mini4. Posible rin sa kapaligirang Windows.

Sa kasalukuyang panahon, kung maglalaro ng desktop AI, inirerekomenda ang pagkuha ng Mac M series na maliit na host, tulad ng mini4\mini4 pro\m3 ultra\m4 max, isang personal na desktop AI na kamangha-mangha.

Una, kailangang i-upgrade ang LM Studio sa pinakabagong bersyon, iyon ay 0.4.1, dahil idinagdag ng pinakabagong bersyon ang suporta para sa Claude Code. (Posible rin ang Ollama)

Maaari kang gumamit ng anumang open-source na modelo sa iyong lokal, basta sapat ang memorya ng iyong Mac. Gamitin natin ang gpt-oss-20b-mlx bilang halimbawa, ito ay isang open-source na modelo ng OpenAI.

Pansinin ito: I-maximize ang Context length, iyon ay, i-lahat ang haba ng konteksto hanggang sa maximum na sinusuportahan ng modelo, dahil ang pagganap ng ahente sa maraming gawain ay lubos na umaasa sa haba ng konteksto, hindi sapat kung maliit. Ang parameter na ito ay dapat ding i-balance at i-adjust ayon sa memorya ng iyong Mac at bilis ng pagtutumbas ng modelo. Isa pang pansin: Sa kapaligirang Mac, i-priority ang pag-download ng mga modelo sa format na MLX, mas mabilis ang bilis ng pagtutumbas kaysa sa mga modelo sa format na GGUF.

Susunod, i-install natin ang claude code sa command line terminal.

I-configure ang mga environment variable:

export ANTHROPIC_AUTH_TOKEN=lmstudio

export ANTHROPIC_BASE_URL=http://localhost:1234

I-install ang katawan ng claude code:

npm install -g @anthropic-ai/claude-code

Pagkatapos, simulan ang claude code:

claude --model gpt-oss-20b-mlx

Sa puntong ito, tatawagin ng claude code ang iyong lokal na modelo para mag-output.

Bukod sa paggamit sa terminal, maaari ring gamitin sa VS Code, ang pagsasaayos ay ang mga sumusunod:

Una, i-install natin ang Claude Code for VS Code na plugin.

Pagkatapos, itakda ang mga environment variable:

{    "claudeCode.environmentVariables": [        { "name": "ANTHROPIC_BASE_URL", "value": "http://localhost:1234" },         { "name": "ANTHROPIC_AUTH_TOKEN", "value": "lmstudio" }     ]}

Pagkatapos, maaari nang magsimula.

Tanong para sa pag-iisip: Ang Claude Code na hindi gumagamit ng mga modelo ng Anthropic, ito pa rin ba ang Claude Code?

Ang ginagamit nating modelo na gpt-oss-20b-mlx ay tiyak na hindi maihahalintulad sa kakayahan ng Opus 4.5, ngunit, kung nag-deploy ka ng Kimi K2.5 sa iyong lokal na kapaligiran, sa ngayon, ang kakayahan nito ay hindi nagpapahuli sa Opus 4.5.