Konunglegur Sprengjuhöggur! Leiðarvísir fyrir ótakmarkaða Token í Claude Code á staðnum

Claude Code er mjög öflugur, en Token notkunin getur verið óþolandi!

Að lokum getur Claude Code unnið með staðbundnum líkönum, uppsetningin er mjög einföld.

Eftirfarandi umhverfi er fyrir Mac Mini4. Windows umhverfi er einnig mögulegt.

Í núverandi tíma, ef þú spilar með skjáborðs gervigreind, mæli ég með að kaupa Mac M röð lítil tölvur, eins og mini4\mini4 pro\m3 ultra\m4 max, persónulegt skjáborðs gervigreind tól.

Í fyrsta lagi, þarftu að uppfæra LM Studio í nýjustu útgáfuna, það er 0.4.1, vegna þess að nýjustu útgáfan bætir við stuðningi við Claude Code. (Ollama er einnig mögulegt)

Þú getur notað hvaða opinn uppsprettu líkan sem er á staðnum, svo framarlega sem minnið á Mac tölvunni þinni nægir. Við notum gpt-oss-20b-mlx sem dæmi, þetta er opinn uppsprettu líkan frá OpenAI.

Athugið eitt: Dragið Context length upp í hámark, það er að segja að lengd samhengisins dragist upp í hámarkið sem líkanið styður, vegna þess að frammistaða gervigreindar um margra umferða verkefni er mjög háð lengd samhengisins, stutt er ekki nóg. Þennan færibreytu þarf einnig að stilla í jafnvægi eftir minni Mac tölvunnar þinnar og álykjunarhraða líkansins. Athugið enn eitt: Í Mac umhverfi, hlaðið niður MLX sniði líkansins í fyrsta lagi, álykjunarhraðinn er hraðari en GGUF sniði líkansins.

Næst, setjum við upp claude code í stjórnborðs endastöðinni.

Stilla umhverfisbreytur:

export ANTHROPIC_AUTH_TOKEN=lmstudio

export ANTHROPIC_BASE_URL=http://localhost:1234

Setja upp claude code kjarnann:

npm install -g @anthropic-ai/claude-code

Síðan, ræsið claude code:

claude --model gpt-oss-20b-mlx

Á þessum tímapunkti mun claude code kalla á staðbundna líkanið þitt til að gefa út.

Auk þess að nota í endastöðinni, er einnig hægt að nota í VS Code, stillingar eru sem hér segir:

Við setjum fyrst upp Claude Code for VS Code viðbótina.

Síðan stillum við umhverfisbreytur:

{    "claudeCode.environmentVariables": [        { "name": "ANTHROPIC_BASE_URL", "value": "http://localhost:1234" },         { "name": "ANTHROPIC_AUTH_TOKEN", "value": "lmstudio" }     ]}

Síðan er hægt að byrja að vinna.

Hugsunarefni: Er Claude Code sem notar ekki Anthropic líkanið ennþá það sama Claude Code?

Gpt-oss-20b-mlx líkanið sem við notum er auðvitað ekki jafn öflugt og Opus 4.5, en ef þú setur upp Kimi K2.5 á staðbundnu umhverfi þínu, virðist geta þess nú vera ekki minni en Opus 4.5.