ప్రభంజనం వచ్చింది! Claude Code స్థానిక అపరిమిత టోకెన్ సూచనలు

Claude Code చాలా బలంగా ఉంది, కానీ టోకెన్ వినియోగం గుండెనొప్పించేలా ఉంటుంది!

చివరికి, Claude Code స్థానిక మోడల్‌లతో పని చేయగలదు, కాన్ఫిగరేషన్ చాలా సులభం.

కింది వాతావరణం Mac Mini4. Windows వాతావరణం కూడా సాధ్యమే.

ప్రస్తుత యుగంలో, డెస్క్‌టాప్ AI ఆడాలనుకుంటే, Mac M సిరీస్ చిన్న హోస్ట్‌లను కొనాలి, ఉదాహరణకు mini4\mini4 pro\m3 ultra\m4 max, వ్యక్తిగత డెస్క్‌టాప్ AI అద్భుత సాధనం.

మొదట, LM Studioని తాజా వెర్షన్‌కు అప్‌గ్రేడ్ చేయాలి, అంటే 0.4.1, ఎందుకంటే తాజా వెర్షన్ Claude Codeకు మద్దతును జోడించింది. (Ollama కూడా సాధ్యమే)

మీరు మీ స్థానికంలో ఏదైనా ఓపెన్ సోర్స్ మోడల్‌ను ఉపయోగించవచ్చు, మీ Mac మెమరీ సరిపోతేనే. మేము gpt-oss-20b-mlxని ఉదాహరణగా తీసుకుంటాము, ఇది OpenAI యొక్క ఓపెన్ సోర్స్ మోడల్.

ఒక విషయం గమనించండి: Context length పూర్తిగా పెంచండి, అంటే సందర్భం పొడవును మోడల్ మద్దతు ఇచ్చే గరిష్ఠంగా లాగండి, ఎందుకంటే ఇంటెలిజెంట్ ఏజెంట్ బహుళ రౌండ్ పనుల ప్రదర్శన సందర్భం పొడవుపై చాలా ఆధారపడి ఉంటుంది, తక్కువగా ఉండకూడదు. ఈ పారామీటర్ మీ Mac మెమరీ మరియు మోడల్ యొక్క ఇన్ఫరెన్స్ వేగం ఆధారంగా సమతుల్యంగా సర్దుబాటు చేయాలి. మరో విషయం గమనించండి: Mac వాతావరణంలో, MLX ఫార్మాట్ మోడల్‌లను ప్రాధాన్యతగా డౌన్‌లోడ్ చేయండి, ఇన్ఫరెన్స్ వేగం GGUF ఫార్మాట్ మోడల్‌ల కంటే వేగంగా ఉంటుంది.

తరువాత, మేము కమాండ్ లైన్ టెర్మినల్‌లో claude codeని ఇన్‌స్టాల్ చేస్తాము.

వాతావరణ వేరియబుల్‌లను కాన్ఫిగర్ చేయండి:

export ANTHROPIC_AUTH_TOKEN=lmstudio

export ANTHROPIC_BASE_URL=http://localhost:1234

claude code ముఖ్య భాగాన్ని ఇన్‌స్టాల్ చేయండి:

npm install -g @anthropic-ai/claude-code

ఆపై, claude codeని ప్రారంభించండి:

claude --model gpt-oss-20b-mlx

ఈ సమయంలో, claude code మీ స్థానిక మోడల్‌ను కాల్ చేసి అవుట్‌పుట్ ఇస్తుంది.

టెర్మినల్‌లో ఉపయోగించడం తప్ప, VS Codeలో కూడా ఉపయోగించవచ్చు, కాన్ఫిగరేషన్ కింది విధంగా ఉంది:

మేము మొదట Claude Code for VS Code ప్లగిన్‌ను ఇన్‌స్టాల్ చేస్తాము.

ఆపై వాతావరణ వేరియబుల్‌లను సెట్ చేయండి:

{    "claudeCode.environmentVariables": [        { "name": "ANTHROPIC_BASE_URL", "value": "http://localhost:1234" },         { "name": "ANTHROPIC_AUTH_TOKEN", "value": "lmstudio" }     ]}

ఆపై పని ప్రారంభించవచ్చు.

ఆలోచనా ప్రశ్న: Anthropic మోడల్‌లను ఉపయోగించని Claude Code అదే Claude Codeగా ఉంటుందా?

మేము ఉపయోగించిన gpt-oss-20b-mlx మోడల్ సామర్థ్యం Opus 4.5తో పోల్చలేము, కానీ, మీరు స్థానిక వాతావరణంలో Kimi K2.5ని డిప్లాయ్ చేస్తే, ప్రస్తుతం చూస్తే, సామర్థ్యం Opus 4.5కు ఏ మాత్రం తీసిపోదు.