進階Python

vllm-mlx專為Apple Silicon優化的MLX推理伺服器

vllm-mlx是一個基於MLX的推理伺服器,針對Apple Silicon硬體優化,提供OpenAI和Anthropic API兼容接口。支持文本和視覺語言模型,具備連續批處理功能。官方宣稱在M1 Ultra上可達到每秒超過400個token的吞吐量,適合本地開發和對隱私敏感的場景部署。項目主要使用Python編寫,採用Apache-2.0許可證。

1.4K 星標
189 分叉
56 問題
154 流覽
Python
Apache-2.0
收錄日期

專案概述

vllm-mlx是一個基於MLX的推理伺服器,針對Apple Silicon硬體優化,提供OpenAI和Anthropic API兼容接口。支持文本和視覺語言模型,具備連續批處理功能。官方宣稱在M1 Ultra上可達到每秒超過400個token的吞吐量,適合本地開發和對隱私敏感的場景部署。項目主要使用Python編寫,採用Apache-2.0許可證。

項目簡介

vllm-mlx是一個原生MLX推理伺服器,專門為Apple Silicon設備設計,提供OpenAI和Anthropic API兼容性,便於集成到現有應用中。

核心功能

  • 支持文本和視覺語言模型
  • 連續批處理(continuous batching)
  • API兼容OpenAI和Anthropic規範

性能表現

根據README宣稱,在M1 Ultra上可實現每秒超過400個token的生成速度,適用於本地開發和隱私敏感型部署。

技術棧與許可證

主要程式語言為Python,許可證為Apache-2.0。

上手指南

具體安裝與使用步驟請參考項目README文檔。

vllm-mlxApple SiliconMLXLLM部署視覺語言模型本地推理連續批處理MCP工具呼叫OpenAI相容Anthropic相容

項目評分

0.0 (0 評價)

分享

常見問題

vllm-mlx: 專為Apple Silicon優化的MLX推理伺服器 是什麼?

vllm-mlx是一個基於MLX的推理伺服器,針對Apple Silicon硬體優化,提供OpenAI和Anthropic API兼容接口。支持文本和視覺語言模型,具備連續批處理功能。官方宣稱在M1 Ultra上可達到每秒超過400個token的吞吐量,適合本地開發和對隱私敏感的場景部署。項目主要使用Python編寫,採用Apache-2.0許可證。

vllm-mlx: 專為Apple Silicon優化的MLX推理伺服器 用什麼語言開發?

vllm-mlx: 專為Apple Silicon優化的MLX推理伺服器 主要使用 Python 開發。

vllm-mlx: 專為Apple Silicon優化的MLX推理伺服器 使用什麼開源授權?

vllm-mlx: 專為Apple Silicon優化的MLX推理伺服器 基於 Apache-2.0 授權開源。

相關專案

暫無結果

探索更多

相似工具

Cursor

Cursor

一款基於 VS Code 二次開發的智慧程式碼編輯器,以「原生內建 AI」為核心賣點。它不依賴外掛,而是將 AI 深度植入編輯器底層,能夠理解整個專案的上下文程式碼庫,支援無縫遷移 VS Code 的所有配置和外掛。

Google Antigravity

Google Antigravity

Antigravity 支援多模型,包括 Gemini 3 Pro、Claude Sonnet 4.5、GPT-OSS,開發者可以在同一環境中選擇最適合任務的模型。

Codex

Codex

OpenAI Codex 是由 OpenAI 開發的 AI 程式設計模型和助手,可將自然語言指令翻譯成對應的原始碼,為開發者提供智慧補全、程式碼生成等功能。它最初於 2021 年作為 OpenAI API 的程式碼模型推出,曾為 GitHub Copilot 提供核心支援。隨著 OpenAI 技術的迭代,Codex 在 2025 年以「AI 程式設計智慧體」的全新姿態迴歸,能夠理解複雜需求並自動編寫、除錯程式碼,顯著提升開發效率和軟體交付速度。

Kiro

Kiro

Kiro 是由 AWS 推出的 AI 程式設計 IDE,採用規範驅動的開發模式,將自然語言需求轉化為明確的規格文件和任務,再由內建 AI 代理生成程式碼並除錯優化,全流程輔助大型專案開發。

Trae

Trae

Trae(官網 trae.ai)是由 位元組跳動(ByteDance)推出的一款 AI 原生整合開發環境(IDE)。它不是簡單地作為一個程式設計助手,而是一個「協作夥伴」,通過深度整合大型語言模型(LLM),幫助開發者從需求、構建程式碼,到除錯和部署,實現更智慧化、自動化的軟體開發。

Claude

Claude

Claude 是由美國人工智慧公司 Anthropic 打造的智慧語言互動平臺,它融合了深度文字理解、資訊整理、程式碼輔助和任務分析等能力,能在聊天對話之外應對更復雜的問題,例如長文摘要、影象解析、邏輯推理及程式設計協助等。相比一些單一問答機器人,Claude 更像一個具備推理邏輯、可擴充套件功能的智慧工具。

評論

評論

0
0/500 字元

暫無評論

成為第一個評論的人

開源專案

探索、學習和貢獻開源 AI 專案,推動人工智慧技術的發展

查看全部