項目概覽
Cactus是一個開源的邊緣AI引擎,專注於在手機、可穿戴設備和物聯網設備上運行人工智慧模型。它支持語言、視覺和語音等多種模態,並通過與OpenAI兼容的API提供統一的接口,方便開發者集成。
核心功能
- 支持語言、視覺和語音模型的本地推理。
- 提供OpenAI兼容API,降低遷移成本。
- 面向邊緣設備優化,適應資源受限環境。
技術棧與許可證
項目主要使用C++編寫,許可證類型標註為「其他」(具體內容需查閱倉庫)。截至採集時,GitHub星標數為5365。
如何上手
具體安裝與使用方法請參照倉庫中的README文檔。










評論
暫無評論
成為第一個評論的人