プロジェクト紹介
mistral.rs は、Rust で構築された LLM 推論エンジンであり、多様なハードウェア上で Hugging Face モデルを効率的に実行することに特化しています。
主な機能
- CPU、GPU、Apple Silicon での推論に対応
- 設定不要で Hugging Face モデルを読み込み
- OpenAI 互換のエンドポイントを提供
技術スタックとライセンス
主要言語は Rust、ライセンスは MIT です。
プロジェクトの状態
収集時点のデータによると、このプロジェクトは GitHub で 7347 スターを獲得しています。










コメント
コメントはまだありません
最初のコメントを書きましょう