進階Python

claude-code-local用本地模型跑通 Claude Code

claude-code-local 是 GitHub 上的開源專案, 在 Apple Silicon 上用 MLX 實現與 Anthropic API 相容的本地推理服務, 讓 Claude Code 離線執行、資料不出裝置, 面向 NDA、法律、醫療等敏感場景。

3.1K 星標
591 分叉
2 問題
63 流覽
Python
MIT
收錄日期

專案概述

claude-code-local 是 GitHub 上的開源專案, 在 Apple Silicon 上用 MLX 實現與 Anthropic API 相容的本地推理服務, 讓 Claude Code 離線執行、資料不出裝置, 面向 NDA、法律、醫療等敏感場景。

把 Claude Code 這樣的程式設計代理留在本地跑,想想容易,真動手的沒幾個。claude-code-local 算是認真做了這件事的一個:在 Apple Silicon 上,用 MLX 搭起一個與 Anthropic API 相容的本地服務,讓 Claude Code 的請求根本不離開裝置。

專案名字已經把定位說完了。它本質上是一個本地的 API 服務,Claude Code 照常發起請求,但流量不是進雲端,而是落在本地模型上。倉庫資訊裡列出的模型包括 Qwen 3.5 122B、Llama 3.3 70B 和 Gemma 4 31B,專案給出的參考速度是 65 tok/s(Qwen 3.5 122B)。

這個數字得帶著條件看。本地推理速度跟晶片型號、記憶體容量、量化方式綁得很緊,65 tok/s 是專案方在特定環境下的參考值,換個配置結果可能差不少。更現實的問題是記憶體——122B 這種規模的模型對統一記憶體的要求很高,入門級 Mac 基本跑不動,能不能用主要看記憶體給不給力。

對真正有合規壓力的人來說,資料能否留在裝置上,比生成速度重要得多。

為什麼有人願意折騰這件事

把程式碼交給雲端 AI 已經很普遍,但對一部分團隊來說,這不是偏好問題,是紅線問題。簽了 NDA 的專案、醫療資料相關的處理、法務文件的分析——這些場景裡,提示詞經過哪臺伺服器本身就是合規風險。

claude-code-local 的價值就在這裡:資料不出裝置。專案描述裡直接寫了 offline 和 airgap-ready,意思是它不只是儘量少傳資料,而是設計上允許你在斷網環境裡跑完整流程。這個特性對速度的犧牲,換來的是敏感場景下可以放心用 Claude Code。

介面相容才是關鍵

在本地跑程式設計代理,真正的門檻不是能跑,而是怎麼接。claude-code-local 把 Anthropic API 在本地重新實現了一遍,等於給 Claude Code 裝了一個本地出口。這意味著不用改工作流、不用換工具,只是把後端從雲端換成自己的機器。

當然代價也明顯:本地模型的能力通常弱於雲端大模型,速度受硬體上限約束,而且整套方案只支援 Apple Silicon。從倉庫狀態看,這個專案約 3.1k star、600 多個 fork,Python 實現、MLX 原生,還處於比較早期的階段。

哪些人值得關注

  • 在律所、醫院或嚴格 NDA 環境裡寫程式碼的開發者,程式碼不能出內網
  • 有大記憶體 Apple Silicon 機器、想擺脫雲 API 依賴的 Claude Code 使用者
  • 對 MLX 推理與本地模型排程感興趣的開發者,這個倉庫是不錯的參考實現

上手之前先想清楚

確認硬體是第一件事。Apple Silicon 是硬門檻,記憶體容量直接決定能跑多大模型,別拿低配機型硬扛 122B。

第二,以倉庫 README 為準。模型清單和 Claude Code 的版本都在變,動手前先看當前文件,別照著舊教程走。

第三,接受體驗落差。本地推理和雲 API 比,體感延遲通常是另一個量級,對合規場景這是值得的交換;但如果只是想省錢,可能會失望。

claude-code-local 目前更像一個方向正確的早期方案,談不上開箱即用。它最有價值的貢獻,是證明了 Claude Code 這類工具完全可以脫離雲端執行——而資料敏感場景確實需要這種可能。等更大記憶體的 Mac 普及、本地模型再迭代幾輪,這類專案會越來越難被忽視。

開源AI專案Apple SiliconMLX推理本地大模型Claude Code離線AI程式設計資料隱私保護敏感場景開發本地推理服務NDA合規

項目評分

0.0 (0 評價)

分享

常見問題

claude-code-local: 用本地模型跑通 Claude Code 是什麼?

claude-code-local 是 GitHub 上的開源專案, 在 Apple Silicon 上用 MLX 實現與 Anthropic API 相容的本地推理服務, 讓 Claude Code 離線執行、資料不出裝置, 面向 NDA、法律、醫療等敏感場景。

claude-code-local: 用本地模型跑通 Claude Code 用什麼語言開發?

claude-code-local: 用本地模型跑通 Claude Code 主要使用 Python 開發。

claude-code-local: 用本地模型跑通 Claude Code 使用什麼開源授權?

claude-code-local: 用本地模型跑通 Claude Code 基於 MIT 授權開源。

相關專案

暫無結果

探索更多

相似工具

Cursor

Cursor

一款基於 VS Code 二次開發的智慧程式碼編輯器,以「原生內建 AI」為核心賣點。它不依賴外掛,而是將 AI 深度植入編輯器底層,能夠理解整個專案的上下文程式碼庫,支援無縫遷移 VS Code 的所有配置和外掛。

Google Antigravity

Google Antigravity

Antigravity 支援多模型,包括 Gemini 3 Pro、Claude Sonnet 4.5、GPT-OSS,開發者可以在同一環境中選擇最適合任務的模型。

Codex

Codex

OpenAI Codex 是由 OpenAI 開發的 AI 程式設計模型和助手,可將自然語言指令翻譯成對應的原始碼,為開發者提供智慧補全、程式碼生成等功能。它最初於 2021 年作為 OpenAI API 的程式碼模型推出,曾為 GitHub Copilot 提供核心支援。隨著 OpenAI 技術的迭代,Codex 在 2025 年以「AI 程式設計智慧體」的全新姿態迴歸,能夠理解複雜需求並自動編寫、除錯程式碼,顯著提升開發效率和軟體交付速度。

Kiro

Kiro

Kiro 是由 AWS 推出的 AI 程式設計 IDE,採用規範驅動的開發模式,將自然語言需求轉化為明確的規格文件和任務,再由內建 AI 代理生成程式碼並除錯優化,全流程輔助大型專案開發。

Trae

Trae

Trae(官網 trae.ai)是由 位元組跳動(ByteDance)推出的一款 AI 原生整合開發環境(IDE)。它不是簡單地作為一個程式設計助手,而是一個「協作夥伴」,通過深度整合大型語言模型(LLM),幫助開發者從需求、構建程式碼,到除錯和部署,實現更智慧化、自動化的軟體開發。

Claude

Claude

Claude 是由美國人工智慧公司 Anthropic 打造的智慧語言互動平臺,它融合了深度文字理解、資訊整理、程式碼輔助和任務分析等能力,能在聊天對話之外應對更復雜的問題,例如長文摘要、影象解析、邏輯推理及程式設計協助等。相比一些單一問答機器人,Claude 更像一個具備推理邏輯、可擴充套件功能的智慧工具。

評論

評論

0
0/500 字元

暫無評論

成為第一個評論的人

開源專案

探索、學習和貢獻開源 AI 專案,推動人工智慧技術的發展

查看全部