राजा सोडला! Claude Code स्थानिक अमर्यादित Token मार्गदर्शन

Claude Code खूप शक्तिशाली आहे, पण Token वापर खूप त्रासदायक आहे!

शेवटी, Claude Code स्थानिक मॉडेलसोबत काम करू शकतो, आणि कॉन्फिगरेशन अगदी सोपे आहे.

खालील वातावरण Mac Mini4 साठी आहे. Windows वातावरण देखील शक्य आहे.

सध्याच्या काळात, डेस्कटॉप AI खेळायचे असेल तर Mac M सिरीजचे लहान होस्ट खरेदी करा, जसे की mini4\mini4 pro\m3 ultra\m4 max, वैयक्तिक डेस्कटॉप AI चे अद्भुत साधन.

प्रथम, LM Studio नवीनतम आवृत्तीवर अपग्रेड करा, म्हणजे 0.4.1, कारण नवीनतम आवृत्तीमध्ये Claude Code साठी समर्थन जोडले आहे. (Ollama देखील शक्य आहे)

तुम्ही तुमच्या Mac मेमरी पुरेशी असेल तर कोणतेही स्थानिक ओपन सोर्स मॉडेल वापरू शकता. आम्ही gpt-oss-20b-mlx चे उदाहरण घेतो, हे OpenAI चे ओपन सोर्स मॉडेल आहे.

एक गोष्ट लक्षात ठेवा: Context length पूर्ण करा, म्हणजे संदर्भ लांबी मॉडेलद्वारे समर्थित कमाल पर्यंत ओढा, कारण एजंटची अनेक फेरीची कार्ये संदर्भाच्या लांबीवर अवलंबून असतात, कमी लांबी चालत नाही. हे पॅरामीटर तुमच्या Mac ची मेमरी आणि मॉडेलच्या अनुमान गतीनुसार समतोल साधून समायोजित करावे लागेल. आणखी एक गोष्ट: Mac वातावरणात, प्राधान्याने MLX स्वरूपातील मॉडेल डाउनलोड करा, कारण त्याची अनुमान गती GGUF स्वरूपातील मॉडेलपेक्षा जलद असते.

पुढे, आम्ही कमांड लाइन टर्मिनलवर claude code स्थापित करतो.

वातावरण चल कॉन्फिगर करा:

export ANTHROPIC_AUTH_TOKEN=lmstudio

export ANTHROPIC_BASE_URL=http://localhost:1234

claude code मूळ स्थापित करा:

npm install -g @anthropic-ai/claude-code

नंतर, claude code सुरू करा:

claude --model gpt-oss-20b-mlx

यावेळी, claude code तुमचे स्थानिक मॉडेल वापरून आउटपुट देईल.

टर्मिनलवर वापरण्याव्यतिरिक्त, VS Code मध्ये देखील वापरता येऊ शकते, कॉन्फिगरेशन खालीलप्रमाणे:

आम्ही प्रथम Claude Code for VS Code प्लगइन स्थापित करतो.

नंतर वातावरण चल सेट करा:

{    "claudeCode.environmentVariables": [        { "name": "ANTHROPIC_BASE_URL", "value": "http://localhost:1234" },         { "name": "ANTHROPIC_AUTH_TOKEN", "value": "lmstudio" }     ]}

नंतर काम सुरू करता येईल.

विचार करण्याचा प्रश्न: Anthropic मॉडेल न वापरता Claude Code तोच Claude Code राहील का?

आम्ही वापरत असलेल्या gpt-oss-20b-mlx मॉडेलची क्षमता नक्कीच Opus 4.5 शी तुलना करता येणार नाही, परंतु जर तुम्ही स्थानिक वातावरणात Kimi K2.5 तैनात केले असेल, तर सध्या पाहिल्यास, त्याची क्षमता Opus 4.5 पेक्षा कमी नाही.