ராஜா வந்துவிட்டார்! Claude Code உள்ளூர் வரம்பற்ற டோக்கன் வழிகாட்டி

Claude Code மிகவும் சக்திவாய்ந்தது, ஆனால் டோக்கன் நுகர்வு கல்லீரலை வலிக்க வைக்கிறது!

இறுதியாக, Claude Code உள்ளூர் மாதிரிகளுடன் செயல்பட முடியும், கட்டமைப்பு மிகவும் எளிதானது.

பின்வரும் சூழல் Mac Mini4 ஆகும். Windows சூழலும் சாத்தியமானது.

தற்போதைய காலகட்டத்தில், டெஸ்க்டாப் AI விளையாட விரும்பினால், Mac M தொடர் சிறிய ஹோஸ்ட்களை வாங்க பரிந்துரைக்கப்படுகிறது, எ.கா. mini4\mini4 pro\m3 ultra\m4 max, தனிப்பட்ட டெஸ்க்டாப் AI அதிசய கருவி.

முதலில், LM Studio ஐ சமீபத்திய பதிப்பாக மேம்படுத்த வேண்டும், அதாவது 0.4.1, ஏனெனில் சமீபத்திய பதிப்பு Claude Code ஆதரவை சேர்க்கிறது. (Ollama ம் சாத்தியமானது)

உங்கள் Mac நினைவகம் போதுமானதாக இருந்தால், உங்கள் உள்ளூரில் எந்த திறந்த மூல மாதிரியையும் பயன்படுத்தலாம். gpt-oss-20b-mlx ஐ உதாரணமாக எடுத்துக்கொள்வோம், இது OpenAI இன் திறந்த மூல மாதிரியாகும்.

கவனிக்க வேண்டிய ஒரு புள்ளி: Context length முழுவதுமாக இழுக்கவும், அதாவது மாதிரி ஆதரிக்கும் அதிகபட்சத்திற்கு சூழல் நீளத்தை இழுக்கவும், ஏனெனில் புத்திசாலி ஏஜென்ட் பல சுழற்சி பணிகளின் செயல்திறன் சூழலின் நீளத்தை மிகவும் சார்ந்துள்ளது, சிறியதாக இருப்பது பணியாற்றாது. இந்த அளவுருவும் உங்கள் Mac இன் நினைவகம் மற்றும் மாதிரியின் அனுமான வேகத்தின் அடிப்படையில் சமநிலைப்படுத்தி சரிசெய்யப்பட வேண்டும். மேலும் ஒரு புள்ளியை கவனிக்கவும்: Mac சூழலில், MLX வடிவமைப்பின் மாதிரிகளை முன்னுரிமையாக பதிவிறக்கவும், GGUF வடிவமைப்பின் மாதிரிகளை விட அனுமான வேகம் வேகமாக இருக்கும்.

அடுத்து, கட்டளை வரி முனையத்தில் claude code ஐ நிறுவுகிறோம்.

சூழல் மாறிகளை கட்டமைக்கவும்:

export ANTHROPIC_AUTH_TOKEN=lmstudio

export ANTHROPIC_BASE_URL=http://localhost:1234

claude code முக்கிய பகுதியை நிறுவவும்:

npm install -g @anthropic-ai/claude-code

பின்னர், cluade code ஐ தொடங்கவும்:

claude --model gpt-oss-20b-mlx

இப்போது, claude code உங்கள் உள்ளூர் மாதிரியை வெளியீட்டிற்காக அழைக்கும்.

முனையத்தில் பயன்படுத்துவதை தவிர, VS Code இல் பயன்படுத்தலாம், கட்டமைப்பு பின்வருமாறு:

முதலில் Claude Code for VS Code சொருகியை நிறுவுகிறோம்.

பின்னர் சூழல் மாறிகளை அமைக்கவும்:

{    "claudeCode.environmentVariables": [        { "name": "ANTHROPIC_BASE_URL", "value": "http://localhost:1234" },         { "name": "ANTHROPIC_AUTH_TOKEN", "value": "lmstudio" }     ]}

பின்னர் வேலையை தொடங்கலாம்.

சிந்தனைக் கேள்வி: Anthropic மாதிரிகளை பயன்படுத்தாத Claude Code அந்த Claude Code தானா?

நாம் பயன்படுத்தும் gpt-oss-20b-mlx மாதிரியின் திறன் Opus 4.5 உடன் ஒப்பிட முடியாது, ஆனால், உங்கள் உள்ளூர் சூழலில் Kimi K2.5 ஐ நிறுவியிருந்தால், தற்போதைய கண்ணோட்டத்தில், திறன் Opus 4.5 ஐ விட எந்த வகையிலும் குறைவாக இல்லை.