進階Python

FlashInfer面向NVIDIA GPU的LLM推理內核庫

FlashInfer 是一個開源的 CUDA 庫,專注於大語言模型(LLM)推理,提供注意力、GEMM 和 MoE 內核。它支持從 Turing 到 Blackwell 架構的 NVIDIA GPU,主要使用 Python 編寫,並採用 Apache-2.0 許可證。該項目在 GitHub 上已獲得 5876 顆星標,表明其受到廣泛關注。

5.9K 星標
1.1K 分叉
734 問題
85 流覽
Python
Apache-2.0
收錄日期

專案概述

FlashInfer 是一個開源的 CUDA 庫,專注於大語言模型(LLM)推理,提供注意力、GEMM 和 MoE 內核。它支持從 Turing 到 Blackwell 架構的 NVIDIA GPU,主要使用 Python 編寫,並採用 Apache-2.0 許可證。該項目在 GitHub 上已獲得 5876 顆星標,表明其受到廣泛關注。

項目簡介

FlashInfer 是一個開源的 CUDA 庫,專門用於加速大語言模型(LLM)在 NVIDIA GPU 上的推理過程。項目涵蓋了注意力、GEMM 和 MoE 等多種核心內核,旨在提升推理性能。

核心功能

  • 提供針對 LLM 推理優化的注意力內核。
  • 包含高效的 GEMM(通用矩陣乘法)內核。
  • 支持混合專家(MoE)模型的內核實現。

技術棧

項目主要使用 Python 編寫,底層基於 CUDA 技術,適用於 NVIDIA GPU 架構,支持從 Turing 到 Blackwell 的多種硬體。

許可證

FlashInfer 採用 Apache-2.0 許可證,允許用戶自由使用、修改和分發。

開源狀態

作為開源項目,FlashInfer 在 GitHub 上公開,目前擁有 5876 顆星標,社區活躍。

FlashInferLLM推理加速FlashAttentionPageAttentionCUDA kernel大模型部署vLLM高效能運算開源核函式庫

項目評分

0.0 (0 評價)

分享

常見問題

FlashInfer: 面向NVIDIA GPU的LLM推理內核庫 是什麼?

FlashInfer 是一個開源的 CUDA 庫,專注於大語言模型(LLM)推理,提供注意力、GEMM 和 MoE 內核。它支持從 Turing 到 Blackwell 架構的 NVIDIA GPU,主要使用 Python 編寫,並採用 Apache-2.0 許可證。該項目在 GitHub 上已獲得 5876 顆星標,表明其受到廣泛關注。

FlashInfer: 面向NVIDIA GPU的LLM推理內核庫 用什麼語言開發?

FlashInfer: 面向NVIDIA GPU的LLM推理內核庫 主要使用 Python 開發。

FlashInfer: 面向NVIDIA GPU的LLM推理內核庫 使用什麼開源授權?

FlashInfer: 面向NVIDIA GPU的LLM推理內核庫 基於 Apache-2.0 授權開源。

相關專案

暫無結果

探索更多

相似工具

Cursor

Cursor

一款基於 VS Code 二次開發的智慧程式碼編輯器,以「原生內建 AI」為核心賣點。它不依賴外掛,而是將 AI 深度植入編輯器底層,能夠理解整個專案的上下文程式碼庫,支援無縫遷移 VS Code 的所有配置和外掛。

Google Antigravity

Google Antigravity

Antigravity 支援多模型,包括 Gemini 3 Pro、Claude Sonnet 4.5、GPT-OSS,開發者可以在同一環境中選擇最適合任務的模型。

Codex

Codex

OpenAI Codex 是由 OpenAI 開發的 AI 程式設計模型和助手,可將自然語言指令翻譯成對應的原始碼,為開發者提供智慧補全、程式碼生成等功能。它最初於 2021 年作為 OpenAI API 的程式碼模型推出,曾為 GitHub Copilot 提供核心支援。隨著 OpenAI 技術的迭代,Codex 在 2025 年以「AI 程式設計智慧體」的全新姿態迴歸,能夠理解複雜需求並自動編寫、除錯程式碼,顯著提升開發效率和軟體交付速度。

Kiro

Kiro

Kiro 是由 AWS 推出的 AI 程式設計 IDE,採用規範驅動的開發模式,將自然語言需求轉化為明確的規格文件和任務,再由內建 AI 代理生成程式碼並除錯優化,全流程輔助大型專案開發。

Trae

Trae

Trae(官網 trae.ai)是由 位元組跳動(ByteDance)推出的一款 AI 原生整合開發環境(IDE)。它不是簡單地作為一個程式設計助手,而是一個「協作夥伴」,通過深度整合大型語言模型(LLM),幫助開發者從需求、構建程式碼,到除錯和部署,實現更智慧化、自動化的軟體開發。

Claude

Claude

Claude 是由美國人工智慧公司 Anthropic 打造的智慧語言互動平臺,它融合了深度文字理解、資訊整理、程式碼輔助和任務分析等能力,能在聊天對話之外應對更復雜的問題,例如長文摘要、影象解析、邏輯推理及程式設計協助等。相比一些單一問答機器人,Claude 更像一個具備推理邏輯、可擴充套件功能的智慧工具。

評論

評論

0
0/500 字元

暫無評論

成為第一個評論的人

開源專案

探索、學習和貢獻開源 AI 專案,推動人工智慧技術的發展

查看全部