Бомба! Покроковий гайд: Claude Code з необмеженими токенами на локальному комп'ютері

Claude Code дуже потужний, але витрата токенів може сильно засмутити!

Нарешті, Claude Code може працювати з локальними моделями, і налаштування дуже прості.

Наступне середовище — Mac Mini4. Середовище Windows також підходить.

У сучасну епоху, якщо ви займаєтеся настільним ШІ, рекомендується придбати Mac M серії, наприклад mini4\mini4 pro\m3 ultra\m4 max — це особистий настільний інструмент ШІ.

По-перше, необхідно оновити LM Studio до останньої версії, тобто 0.4.1, оскільки остання версія додала підтримку Claude Code. (Ollama також підходить)

Ви можете використовувати будь-яку локальну модель з відкритим кодом, якщо на вашому Mac достатньо пам'яті. Візьмемо для прикладу gpt-oss-20b-mlx — це модель з відкритим кодом від OpenAI.

Зверніть увагу: довжину контексту (Context length) потрібно встановити на максимум, тобто довжину контексту встановити на максимальну, підтримувану моделлю, оскільки продуктивність агента в багатоетапних завданнях сильно залежить від довжини контексту, якщо вона замала — не вийде. Цей параметр також потрібно збалансувати відповідно до пам'яті вашого Mac та швидкості виведення моделі. Ще одна важлива річ: для середовища Mac пріоритетно завантажувати моделі у форматі MLX, оскільки швидкість виведення у них вища, ніж у моделей у форматі GGUF.

Далі ми встановлюємо claude code в терміналі командного рядка.

Налаштування змінних середовища:

export ANTHROPIC_AUTH_TOKEN=lmstudio

export ANTHROPIC_BASE_URL=http://localhost:1234

Встановлення основного пакету claude code:

npm install -g @anthropic-ai/claude-code

Потім запускаємо claude code:

claude --model gpt-oss-20b-mlx

Тепер claude code буде використовувати вашу локальну модель для виведення.

Крім використання в терміналі, його також можна використовувати в VS Code, налаштування такі:

Спочатку встановлюємо плагін Claude Code for VS Code.

Потім налаштовуємо змінні середовища:

{    "claudeCode.environmentVariables": [        { "name": "ANTHROPIC_BASE_URL", "value": "http://localhost:1234" },         { "name": "ANTHROPIC_AUTH_TOKEN", "value": "lmstudio" }     ]}

Після цього можна починати роботу.

Питання для роздумів: чи залишається Claude Code тим самим Claude Code, якщо не використовувати модель Anthropic?

Модель gpt-oss-20b-mlx, яку ми використовуємо, звичайно, не може порівнятися з Opus 4.5, але якщо ви розгорнете Kimi K2.5 у локальному середовищі, то на даний момент її можливості нічим не поступаються Opus 4.5.