واہ! کلاؤڈ کوڈ کے ساتھ مقامی طور پر لامحدود ٹوکنز کا راز

کلاؤڈ کوڈ بہت طاقتور ہے، لیکن ٹوکنز کا استعمال دل دہلا دینے والا ہے!

آخرکار، کلاؤڈ کوڈ مقامی ماڈلز کے ساتھ کام کر سکتا ہے، اور ترتیب دینا بہت آسان ہے۔

درج ذیل ماحول Mac Mini4 کے لیے ہے۔ Windows ماحول بھی ممکن ہے۔

موجودہ دور میں، اگر ڈیسک ٹاپ AI استعمال کرنا چاہتے ہیں، تو Mac M سیریز کے چھوٹے کمپیوٹرز جیسے mini4\mini4 pro\m3 ultra\m4 max خریدنے کی سفارش کی جاتی ہے، یہ ذاتی ڈیسک ٹاپ AI کے لیے بہترین ہیں۔

سب سے پہلے، LM Studio کو تازہ ترین ورژن 0.4.1 پر اپ ڈیٹ کریں، کیونکہ اس میں کلاؤڈ کوڈ کی سپورٹ شامل کی گئی ہے۔ (Ollama بھی استعمال کیا جا سکتا ہے)

آپ اپنے مقامی طور پر کوئی بھی اوپن سورس ماڈل استعمال کر سکتے ہیں، بشرطیکہ آپ کے Mac کی میموری کافی ہو۔ ہم gpt-oss-20b-mlx کو مثال کے طور پر لیتے ہیں، جو OpenAI کا ایک اوپن سورس ماڈل ہے۔

ایک بات کا خیال رکھیں: Context length کو مکمل کریں، یعنی سیاق و سباق کی لمبائی کو ماڈل کی زیادہ سے زیادہ سپورٹ تک بڑھائیں، کیونکہ انٹیلیجنٹ ایجنٹ کے کثیر المراحل کاموں کی کارکردگی سیاق و سباق کی لمبائی پر بہت زیادہ انحصار کرتی ہے، کم لمبائی کام نہیں کرے گی۔ یہ پیرامیٹر آپ کے Mac کی میموری اور ماڈل کی استدلال کی رفتار کے مطابق بھی متوازن ہونا چاہیے۔ ایک اور بات: Mac ماحول میں، ترجیحاً MLX فارمیٹ کے ماڈل ڈاؤن لوڈ کریں، کیونکہ یہ GGUF فارمیٹ کے ماڈلز سے تیز استدلال کرتے ہیں۔

اگلا، ہم کمانڈ لائن ٹرمینل میں claude code انسٹال کریں گے۔

ماحولیاتی متغیرات ترتیب دیں:

export ANTHROPIC_AUTH_TOKEN=lmstudio

export ANTHROPIC_BASE_URL=http://localhost:1234

claude code کو انسٹال کریں:

npm install -g @anthropic-ai/claude-code

پھر، claude code شروع کریں:

claude --model gpt-oss-20b-mlx

اس وقت، claude code آپ کے مقامی ماڈل کو آؤٹ پٹ دینے کے لیے استعمال کرے گا۔

ٹرمینل کے علاوہ، VS Code میں بھی استعمال کیا جا سکتا ہے، ترتیب درج ذیل ہے:

ہم سب سے پہلے Claude Code for VS Code پلگ ان انسٹال کریں گے۔

پھر ماحولیاتی متغیرات سیٹ کریں:

{    "claudeCode.environmentVariables": [        { "name": "ANTHROPIC_BASE_URL", "value": "http://localhost:1234" },         { "name": "ANTHROPIC_AUTH_TOKEN", "value": "lmstudio" }     ]}

پھر آپ کام شروع کر سکتے ہیں۔

سوچنے کی بات: کیا Anthropic ماڈلز کے بغیر کلاؤڈ کوڈ وہی کلاؤڈ کوڈ رہتا ہے؟

ہمارے استعمال کردہ gpt-oss-20b-mlx ماڈل کی صلاحیتیں یقیناً Opus 4.5 کا مقابلہ نہیں کر سکتیں، لیکن اگر آپ نے اپنے مقامی ماحول میں Kimi K2.5 تعینات کیا ہے، تو فی الحال اس کی صلاحیتیں Opus 4.5 سے کسی طور کم نہیں ہیں۔