进阶Rust

mistral.rsRust 编写的 LLM 推理引擎

mistral.rs 是一个基于 Rust 的 LLM 推理引擎,支持在 CPU、GPU 和 Apple Silicon 上运行 Hugging Face 模型,提供零配置加载和 OpenAI 兼容端点。项目采用 MIT 许可证,主要语言为 Rust。根据采集时的数据,该项目在 GitHub 上拥有 7347 个 star。

7.3K 星标
629 分叉
357 问题
81 浏览
Rust
MIT
收录日期

项目概述

mistral.rs 是一个基于 Rust 的 LLM 推理引擎,支持在 CPU、GPU 和 Apple Silicon 上运行 Hugging Face 模型,提供零配置加载和 OpenAI 兼容端点。项目采用 MIT 许可证,主要语言为 Rust。根据采集时的数据,该项目在 GitHub 上拥有 7347 个 star。

项目介绍

mistral.rs 是一个基于 Rust 的 LLM 推理引擎,专注于在多种硬件上高效运行 Hugging Face 模型。

核心功能

  • 支持 CPU、GPU 和 Apple Silicon 推理
  • 零配置加载 Hugging Face 模型
  • 提供 OpenAI 兼容的端点

技术栈与许可证

主要语言为 Rust,许可证为 MIT。

项目状态

根据采集时的数据,该项目在 GitHub 上拥有 7347 个 star。

RustLLM推理开源高性能模型部署推理引擎机器学习

项目评分

0.0 (0 评价)

分享

常见问题

mistral.rs: Rust 编写的 LLM 推理引擎 是什么?

mistral.rs 是一个基于 Rust 的 LLM 推理引擎,支持在 CPU、GPU 和 Apple Silicon 上运行 Hugging Face 模型,提供零配置加载和 OpenAI 兼容端点。项目采用 MIT 许可证,主要语言为 Rust。根据采集时的数据,该项目在 GitHub 上拥有 7347 个 star。

mistral.rs: Rust 编写的 LLM 推理引擎 用什么语言开发?

mistral.rs: Rust 编写的 LLM 推理引擎 主要使用 Rust 开发。

mistral.rs: Rust 编写的 LLM 推理引擎 使用什么开源协议?

mistral.rs: Rust 编写的 LLM 推理引擎 基于 MIT 协议开源。

相关项目

暂无结果

探索更多

相似工具

Cursor

Cursor

一款基于 VS Code 二次开发的智能代码编辑器,以“原生内置 AI”为核心卖点。它不依赖插件,而是将 AI 深度植入编辑器底层,能够理解整个项目的上下文代码库,支持无缝迁移 VS Code 的所有配置和插件。

Google Antigravity

Google Antigravity

Antigravity 支持多模型,包括 Gemini 3 Pro、Claude Sonnet 4.5、GPT-OSS,开发者可以在同一环境中选择最适合任务的模型。

Codex

Codex

OpenAI Codex 是由 OpenAI 开发的 AI 编程模型和助手,可将自然语言指令翻译成对应的源代码,为开发者提供智能补全、代码生成等功能。它最初于 2021 年作为 OpenAI API 的代码模型推出,曾为 GitHub Copilot 提供核心支持。随着 OpenAI 技术的迭代,Codex 在 2025 年以“AI 编程智能体”的全新姿态回归,能够理解复杂需求并自动编写、调试代码,显著提升开发效率和软件交付速度。

Kiro

Kiro

Kiro 是由 AWS 推出的 AI 编程 IDE,采用规范驱动的开发模式,将自然语言需求转化为明确的规格文档和任务,再由内置 AI 代理生成代码并调试优化,全流程辅助大型项目开发。

Trae

Trae

Trae(官网 trae.ai)是由 字节跳动(ByteDance)推出的一款 AI 原生集成开发环境(IDE)。它不是简单地作为一个编程助手,而是一个「协作伙伴」,通过深度整合大型语言模型(LLM),帮助开发者从需求、构建代码,到调试和部署,实现更智能化、自动化的软件开发。

Claude

Claude

Claude 是由美国人工智能公司 Anthropic 打造的智能语言交互平台,它融合了深度文本理解、信息整理、代码辅助和任务分析等能力,能在聊天对话之外应对更复杂的问题,例如长文摘要、图像解析、逻辑推理及编程协助等。相比一些单一问答机器人,Claude 更像一个具备推理逻辑、可扩展功能的智能工具。

评论

评论

0
0/500 字符

暂无评论

成为第一个评论的人

开源项目

探索、学习并参与开源 AI 项目,推动人工智能技术发展

查看全部