Karaliskais triks! Claude Code lokāla neierobežota Token rokasgrāmata

Claude Code ir ļoti spēcīgs, bet Token patēriņš liek sāpēt aknas!

Beidzot Claude Code var strādāt ar lokāliem modeļiem, konfigurācija ir ļoti vienkārša.

Šī vide ir Mac Mini4. Arī Windows vide ir iespējama.

Mūsdienās, ja spēlējaties ar galddatora AI, ieteicams iegādāties Mac M sērijas mazo datoru, piemēram, mini4\mini4 pro\m3 ultra\m4 max, personīgais galddatora AI instruments.

Pirmkārt, LM Studio jāatjaunina uz jaunāko versiju, proti, 0.4.1, jo jaunākā versija pievieno atbalstu Claude Code. (Arī Ollama ir iespējams)

Jūs varat izmantot jebkuru lokālu atvērtā koda modeli, ja vien jūsu Mac atmiņa ir pietiekama. Mēs izmantosim gpt-oss-20b-mlx kā piemēru, tas ir OpenAI atvērtā koda modelis.

Pievērsiet uzmanību: Context length jāiestata maksimāli, tas ir, konteksta garums jāpievelk līdz modeļa atbalstītajam maksimumam, jo aģenta daudzapļūšanas uzdevumu veiktspēja ļoti atkarīga no konteksta garuma, pārāk mazs nederēs. Šis parametrs arī jāpielāgo atbilstoši jūsu Mac atmiņai un modeļa secināšanas ātrumam. Vēl viena piezīme: Mac vidē prioritāri lejupielādējiet MLX formāta modeļus, secināšanas ātrums ir ātrāks nekā GGUF formāta modeļiem.

Tālāk mēs komandrindas terminālī instalējam claude code.

Konfigurējiet vides mainīgos:

export ANTHROPIC_AUTH_TOKEN=lmstudio

export ANTHROPIC_BASE_URL=http://localhost:1234

Instalējiet claude code pamatni:

npm install -g @anthropic-ai/claude-code

Pēc tam palaidiet claude code:

claude --model gpt-oss-20b-mlx

Šajā brīdī claude code izmantos jūsu lokālo modeli, lai izvadītu.

Papildus lietošanai terminālī, varat arī izmantot VS Code, konfigurācija ir šāda:

Vispirms mēs instalējam Claude Code for VS Code spraudni.

Pēc tam iestatiet vides mainīgos:

{    "claudeCode.environmentVariables": [        { "name": "ANTHROPIC_BASE_URL", "value": "http://localhost:1234" },         { "name": "ANTHROPIC_AUTH_TOKEN", "value": "lmstudio" }     ]}

Pēc tam varat sākt darbu.

Domāšanas uzdevums: Vai Claude Code, kas neizmanto Anthropic modeļus, joprojām ir tas pats Claude Code?

Mūsu izmantotā gpt-oss-20b-mlx modeļa spējas, protams, nevar salīdzināt ar Opus 4.5, bet, ja jūsu lokālajā vidē ir izvietots Kimi K2.5, pagaidām šķiet, ka spējas nemaz neatpaliek no Opus 4.5.