പൊട്ടിത്തെറി വരുന്നു! Claude Code പ്രാദേശികമായി അപരിമിതമായ ടോക്കൺ ഉപയോഗിക്കാനുള്ള രീതി

Claude Code വളരെ ശക്തമാണ്, പക്ഷേ ടോക്കൺ ഉപയോഗം വേദനിപ്പിക്കുന്നതാണ്!

ഒടുവിൽ, Claude Code പ്രാദേശിക മോഡലുമായി പ്രവർത്തിക്കാൻ കഴിയും, കോൺഫിഗറേഷൻ വളരെ ലളിതമാണ്.

ഇനിപ്പറയുന്ന പരിസ്ഥിതി Mac Mini4 ആണ്. വിൻഡോസ് പരിസ്ഥിതിയും സാധ്യമാണ്.

ഇന്നത്തെ കാലത്ത്, ഡെസ്ക്ടോപ്പ് AI കളിക്കാൻ ആഗ്രഹിക്കുന്നവർക്ക് Mac M സീരീസ് ചെറിയ ഹോസ്റ്റുകൾ വാങ്ങാൻ ശുപാർശ ചെയ്യുന്നു, ഉദാഹരണത്തിന് mini4\mini4 pro\m3 ultra\m4 max, വ്യക്തിഗത ഡെസ്ക്ടോപ്പ് AI ഉപകരണം.

ആദ്യം, LM Studio ഏറ്റവും പുതിയ പതിപ്പായ 0.4.1 ലേക്ക് അപ്ഗ്രേഡ് ചെയ്യേണ്ടതുണ്ട്, കാരണം ഏറ്റവും പുതിയ പതിപ്പിൽ Claude Code-നുള്ള പിന്തുണ ചേർത്തിട്ടുണ്ട്. (Ollama-യും സാധ്യമാണ്)

നിങ്ങളുടെ Mac മെമ്മറി മതിയെങ്കിൽ, നിങ്ങളുടെ പ്രാദേശിക സ്ഥലത്ത് ഏത് ഓപ്പൺ സോഴ്സ് മോഡലും ഉപയോഗിക്കാം. ഞങ്ങൾ gpt-oss-20b-mlx ഉദാഹരണമായി എടുക്കുന്നു, ഇതൊരു OpenAI ഓപ്പൺ സോഴ്സ് മോഡലാണ്.

ശ്രദ്ധിക്കുക: Context length പൂർണ്ണമായി വലിച്ചുനീട്ടുക, അതായത് സന്ദർഭ ദൈർഘ്യം മോഡൽ പിന്തുണയ്ക്കുന്ന പരമാവധി വരെ, കാരണം ഏജന്റുകളുടെ ബഹുവിധ ടാസ്ക്കുകളുടെ പ്രകടനം സന്ദർഭ ദൈർഘ്യത്തെ ആശ്രയിച്ചിരിക്കുന്നു, കുറവായാൽ പ്രവർത്തിക്കില്ല. ഈ പാരാമീറ്റർ നിങ്ങളുടെ Mac-ന്റെ മെമ്മറിയും മോഡലിന്റെ ഇൻഫറൻസ് വേഗതയും അനുസരിച്ച് സന്തുലിതമാക്കി ക്രമീകരിക്കേണ്ടതുണ്ട്. ഒരു കാര്യം കൂടി ശ്രദ്ധിക്കുക: Mac പരിസ്ഥിതിയിൽ, MLX ഫോർമാറ്റിലുള്ള മോഡലുകൾ ആദ്യം ഡൗൺലോഡ് ചെയ്യുക, GGUF ഫോർമാറ്റ് മോഡലുകളേക്കാൾ ഇൻഫറൻസ് വേഗത കൂടുതലാണ്.

അടുത്തതായി, ഞങ്ങൾ കമാൻഡ് ലൈൻ ടെർമിനലിൽ claude code ഇൻസ്റ്റാൾ ചെയ്യുന്നു.

പരിസ്ഥിതി വേരിയബിളുകൾ കോൺഫിഗർ ചെയ്യുക:

export ANTHROPIC_AUTH_TOKEN=lmstudio

export ANTHROPIC_BASE_URL=http://localhost:1234

claude code ബോഡി ഇൻസ്റ്റാൾ ചെയ്യുക:

npm install -g @anthropic-ai/claude-code

പിന്നെ, cluade code സ്റ്റാർട്ട് ചെയ്യുക:

claude --model gpt-oss-20b-mlx

ഈ സമയത്ത്, claude code നിങ്ങളുടെ പ്രാദേശിക മോഡൽ ഉപയോഗിച്ച് ഔട്ട്പുട്ട് നൽകും.

ടെർമിനലിൽ ഉപയോഗിക്കുന്നതിന് പുറമേ, VS Code-ലും ഉപയോഗിക്കാം, കോൺഫിഗറേഷൻ ഇനിപ്പറയുന്നതാണ്:

ഞങ്ങൾ ആദ്യം Claude Code for VS Code പ്ലഗിൻ ഇൻസ്റ്റാൾ ചെയ്യുന്നു.

പിന്നെ പരിസ്ഥിതി വേരിയബിളുകൾ സെറ്റ് ചെയ്യുക:

{    "claudeCode.environmentVariables": [        { "name": "ANTHROPIC_BASE_URL", "value": "http://localhost:1234" },         { "name": "ANTHROPIC_AUTH_TOKEN", "value": "lmstudio" }     ]}

അപ്പോൾ നിങ്ങൾക്ക് പ്രവർത്തനം ആരംഭിക്കാം.

ചിന്താവിഷയം: Anthropic മോഡലുകൾ ഉപയോഗിക്കാത്ത Claude Code ആ Claude Code തന്നെയാണോ?

ഞങ്ങൾ ഉപയോഗിക്കുന്ന gpt-oss-20b-mlx മോഡലിന്റെ കഴിവ് Opus 4.5-നൊപ്പം താരതമ്യം ചെയ്യാൻ കഴിയില്ല, പക്ഷേ, നിങ്ങളുടെ പ്രാദേശിക പരിസ്ഥിതിയിൽ Kimi K2.5 ഡിപ്ലോയ് ചെയ്തിട്ടുണ്ടെങ്കിൽ, നിലവിൽ, കഴിവ് Opus 4.5-ന് കുറവല്ല.