項目簡介
PrivateGPT是一個開源API層,專注於將本地模型轉化為生產級AI應用。它不僅僅是運行模型,還提供了構建生產環境所需的額外模塊。
核心功能
- 流式消息API:支持流式傳輸響應,提升交互體驗。
- 文檔攝取:能夠導入文檔數據進行處理。
- RAG(檢索增強生成)並帶有引用:結合檢索與生成,提供可溯源的答案。
- 內置和自定義工具:支持預置工具及用戶自定義擴展。
- MCP連接器:用於連接外部模型上下文協議服務。
- 資料庫和CSV查詢:可直接查詢資料庫及CSV文件。
- 結構化輸出:生成結構化的數據結果。
技術棧與許可
項目基於Python開發,接口兼容OpenAI規範,採用Apache-2.0許可證。
項目狀態
截至採集時,GitHub星標數為57,313,表明該項目受到廣泛關注。










評論
暫無評論
成為第一個評論的人