Βόμβα! Οδηγός για Απεριόριστα Token του Claude Code Τοπικά

Το Claude Code είναι πολύ δυνατό, αλλά η κατανάλωση Token πονάει το συκώτι!

Επιτέλους, το Claude Code μπορεί να συνδεθεί με τοπικά μοντέλα, η διαμόρφωση είναι πολύ απλή.

Το παρακάτω περιβάλλον είναι για Mac Mini4. Περιβάλλον Windows είναι επίσης δυνατό.

Στην σημερινή εποχή, αν παίζετε με επιτραπέζια AI, συνιστάται να αποκτήσετε Mac M σειράς μικρούς υπολογιστές, όπως mini4\mini4 pro\m3 ultra\m4 max, προσωπικό επιτραπέζιο AI εργαλείο.

Πρώτα, χρειάζεται να αναβαθμίσετε το LM Studio στην τελευταία έκδοση, δηλαδή 0.4.1, γιατί η τελευταία έκδοση προσθέτει υποστήριξη για Claude Code. (Το Ollama είναι επίσης δυνατό)

Μπορείτε να χρησιμοποιήσετε οποιοδήποτε τοπικό ανοιχτού κώδικα μοντέλο, αρκεί η μνήμη του Mac σας να είναι αρκετή. Παίρνουμε ως παράδειγμα το gpt-oss-20b-mlx, αυτό είναι ένα μοντέλο ανοιχτού κώδικα της OpenAI.

Προσοχή σε ένα σημείο: Το Context length στο μέγιστο, δηλαδή το μήκος του περιεχομένου στο μέγιστο που υποστηρίζει το μοντέλο, γιατί η απόδοση του πράκτορα σε πολλαπλές εργασίες εξαρτάται πολύ από το μήκος του περιεχομένου, αν είναι μικρό δεν πάει. Αυτή η παράμετρος πρέπει επίσης να ρυθμιστεί ισορροπημένα ανάλογα με τη μνήμη του Mac σας και την ταχύτητα συμπερασμού του μοντέλου. Άλλο ένα σημείο προσοχής: Σε περιβάλλον Mac, προτεραιότητα να κατεβάσετε μοντέλα σε μορφή MLX, η ταχύτητα συμπερασμού είναι γρηγορότερη από τα μοντέλα σε μορφή GGUF.

Στη συνέχεια, εγκαθιστούμε το claude code στο τερματικό γραμμής εντολών.

Διαμόρφωση μεταβλητών περιβάλλοντος:

export ANTHROPIC_AUTH_TOKEN=lmstudio

export ANTHROPIC_BASE_URL=http://localhost:1234

Εγκατάσταση του claude code:

npm install -g @anthropic-ai/claude-code

Μετά, εκκίνηση του claude code:

claude --model gpt-oss-20b-mlx

Τότε, το claude code θα καλέσει το τοπικό σας μοντέλο για έξοδο.

Εκτός από τη χρήση στο τερματικό, μπορείτε επίσης να το χρησιμοποιήσετε στο VS Code, η διαμόρφωση είναι η εξής:

Πρώτα εγκαθιστούμε το πρόσθετο Claude Code for VS Code.

Μετά ορίζουμε τις μεταβλητές περιβάλλοντος:

{    "claudeCode.environmentVariables": [        { "name": "ANTHROPIC_BASE_URL", "value": "http://localhost:1234" },         { "name": "ANTHROPIC_AUTH_TOKEN", "value": "lmstudio" }     ]}

Μετά μπορείτε να ξεκινήσετε τη δουλειά.

Ερώτηση προς σκέψη: Το Claude Code χωρίς τη χρήση μοντέλων Anthropic παραμένει το ίδιο Claude Code;

Το μοντέλο gpt-oss-20b-mlx που χρησιμοποιούμε φυσικά δεν μπορεί να συγκριθεί με το Opus 4.5, αλλά, αν έχετε αναπτύξει τοπικά το Kimi K2.5, προς το παρόν φαίνεται ότι η ικανότητα δεν είναι καθόλου κατώτερη από το Opus 4.5.