進階C++

Cactus開源邊緣AI引擎,支持多模型與OpenAI兼容API

Cactus是一個開源邊緣AI引擎,能夠在手機、可穿戴設備和物聯網設備上運行語言、視覺和語音模型,並提供與OpenAI兼容的API。項目主要使用C++開發,許可證類型為其他(具體信息未在摘要中說明)。截至採集時,該倉庫在GitHub上擁有5365顆星。該項目旨在將AI推理能力部署到資源受限的邊緣設備,實現低延遲和本地化處理。

5.4K 星標
432 分叉
65 問題
80 流覽
C++
Other
收錄日期

專案概述

Cactus是一個開源邊緣AI引擎,能夠在手機、可穿戴設備和物聯網設備上運行語言、視覺和語音模型,並提供與OpenAI兼容的API。項目主要使用C++開發,許可證類型為其他(具體信息未在摘要中說明)。截至採集時,該倉庫在GitHub上擁有5365顆星。該項目旨在將AI推理能力部署到資源受限的邊緣設備,實現低延遲和本地化處理。

項目概覽

Cactus是一個開源的邊緣AI引擎,專注於在手機、可穿戴設備和物聯網設備上運行人工智慧模型。它支持語言、視覺和語音等多種模態,並通過與OpenAI兼容的API提供統一的接口,方便開發者集成。

核心功能

  • 支持語言、視覺和語音模型的本地推理。
  • 提供OpenAI兼容API,降低遷移成本。
  • 面向邊緣設備優化,適應資源受限環境。

技術棧與許可證

項目主要使用C++編寫,許可證類型標註為「其他」(具體內容需查閱倉庫)。截至採集時,GitHub星標數為5365。

如何上手

具體安裝與使用方法請參照倉庫中的README文檔。

低延遲AI引擎移動端推理C++開源邊緣計算可穿戴裝置AI推理優化實時AICactus嵌入式AI

項目評分

0.0 (0 評價)

分享

常見問題

Cactus: 開源邊緣AI引擎,支持多模型與OpenAI兼容API 是什麼?

Cactus是一個開源邊緣AI引擎,能夠在手機、可穿戴設備和物聯網設備上運行語言、視覺和語音模型,並提供與OpenAI兼容的API。項目主要使用C++開發,許可證類型為其他(具體信息未在摘要中說明)。截至採集時,該倉庫在GitHub上擁有5365顆星。該項目旨在將AI推理能力部署到資源受限的邊緣設備,實現低延遲和本地化處理。

Cactus: 開源邊緣AI引擎,支持多模型與OpenAI兼容API 用什麼語言開發?

Cactus: 開源邊緣AI引擎,支持多模型與OpenAI兼容API 主要使用 C++ 開發。

Cactus: 開源邊緣AI引擎,支持多模型與OpenAI兼容API 使用什麼開源授權?

Cactus: 開源邊緣AI引擎,支持多模型與OpenAI兼容API 基於 Other 授權開源。

相關專案

暫無結果

評論

評論

0
0/500 字元

暫無評論

成為第一個評論的人

開源專案

探索、學習和貢獻開源 AI 專案,推動人工智慧技術的發展

查看全部