Bomu Linapigwa! Mwongozo wa Claude Code wa Token Zisizo na Kikomo kwenye Kompyuta Yako

Claude Code ni nguvu, lakini matumizi ya Token yanauma sana!

Hatimaye, Claude Code inaweza kufanya kazi na mifano ya ndani, usanidi ni rahisi sana.

Mazingira yafuatayo ni Mac Mini4. Mazingira ya Windows pia yanawezekana.

Katika enzi hii, ikiwa unacheza AI ya dawati, shauri ni kununua kompyuta ndogo ya Mac M series, kama mini4\mini4 pro\m3 ultra\m4 max, kifaa cha ajabu cha AI ya kibinafsi kwenye dawati.

Kwanza, unahitaji kuboresha LM Studio hadi toleo jipya zaidi, yaani 0.4.1, kwa sababu toleo jipya linaongeza usaidizi wa Claude Code. (Ollama pia inawezekana)

Unaweza kutumia mfano wowote wa chanzi wazi kwenye kompyuta yako, kadri kumbukumbu ya Mac yako inavyotoshea. Tutatumia gpt-oss-20b-mlx kama mfano, huu ni mfano wa chanzi wazi wa OpenAI.

Kumbuka jambo moja: Context length iwe kikomo cha juu, yaani urefu wa muktadha ufikie kiwango cha juu kinachosaidiwa na mfano, kwa sababu utendaji wa wakala katika kazi nyingi za mizunguko unategemea sana urefu wa muktadha, ukiwa mfupi haitoshi. Kigezo hiki pia kinapaswa kurekebishwa kulingana na kumbukumbu ya Mac yako na kasi ya kufikiri ya mfano. Kumbuka jambo jingine: Katika mazingira ya Mac, kipaumbele ni kupakua mifano ya muundo wa MLX, kasi ya kufikiri ni ya haraka kuliko mifano ya muundo wa GGUF.

Ifuatayo, tunasanidi claude code kwenye ujumbe wa amri.

Sanidi vigezo vya mazingira:

export ANTHROPIC_AUTH_TOKEN=lmstudio

export ANTHROPIC_BASE_URL=http://localhost:1234

Sanidi kiini cha claude code:

npm install -g @anthropic-ai/claude-code

Kisha, anzisha claude code:

claude --model gpt-oss-20b-mlx

Wakati huu, claude code itaitumia mfano wako wa ndani kutoa matokeo.

Mbali na kutumia kwenye ujumbe wa amri, inaweza pia kutumika kwenye VS Code, usanidi kama ifuatavyo:

Kwanza tunasanidi programu-jalizi ya Claude Code for VS Code.

Kisha weka vigezo vya mazingira:

{    "claudeCode.environmentVariables": [        { "name": "ANTHROPIC_BASE_URL", "value": "http://localhost:1234" },         { "name": "ANTHROPIC_AUTH_TOKEN", "value": "lmstudio" }     ]}

Kisha unaweza kuanza kufanya kazi.

Swali la kufikiria: Claude Code isiyotumia mifano ya Anthropic bado ni ile Claude Code?

Uwezo wa mfano wa gpt-oss-20b-mlx tunayotumia hakuna shaka hauwezi kulinganishwa na Opus 4.5, lakini, ikiwa umesanidi Kimi K2.5 kwenye mazingira yako ya ndani, kwa sasa inaonekana, uwezo wake hauna tofauti na Opus 4.5.