进阶C++

Cactus开源边缘 AI 引擎,支持多模型与 OpenAI 兼容 API

Cactus 是一个开源边缘 AI 引擎,能够在手机、可穿戴设备和物联网设备上运行语言、视觉和语音模型,并提供与 OpenAI 兼容的 API。项目主要使用 C++开发,许可证类型为其他(具体信息未在摘要中说明)。截至采集时,该仓库在 GitHub 上拥有5365颗星。该项目旨在将 AI 推理能力部署到资源受限的边缘设备,实现低延迟和本地化处理。

5.4K 星标
432 分叉
65 问题
80 浏览
C++
Other
收录日期

项目概述

Cactus 是一个开源边缘 AI 引擎,能够在手机、可穿戴设备和物联网设备上运行语言、视觉和语音模型,并提供与 OpenAI 兼容的 API。项目主要使用 C++开发,许可证类型为其他(具体信息未在摘要中说明)。截至采集时,该仓库在 GitHub 上拥有5365颗星。该项目旨在将 AI 推理能力部署到资源受限的边缘设备,实现低延迟和本地化处理。

项目概览

Cactus 是一个开源的边缘 AI 引擎,专注于在手机、可穿戴设备和物联网设备上运行人工智能模型。它支持语言、视觉和语音等多种模态,并通过与 OpenAI 兼容的 API 提供统一的接口,方便开发者集成。

核心功能

  • 支持语言、视觉和语音模型的本地推理。
  • 提供 OpenAI 兼容 API,降低迁移成本。
  • 面向边缘设备优化,适应资源受限环境。

技术栈与许可证

项目主要使用 C++编写,许可证类型标注为“其他”(具体内容需查阅仓库)。截至采集时,GitHub 星标数为5365。

如何上手

具体安装与使用方法请参照仓库中的 README 文档。

低延迟AI引擎移动端推理C++开源边缘计算可穿戴设备AI推理优化实时AICactus嵌入式AI

项目评分

0.0 (0 评价)

分享

常见问题

Cactus:开源边缘 AI 引擎,支持多模型与 OpenAI 兼容 API 是什么?

Cactus 是一个开源边缘 AI 引擎,能够在手机、可穿戴设备和物联网设备上运行语言、视觉和语音模型,并提供与 OpenAI 兼容的 API。项目主要使用 C++开发,许可证类型为其他(具体信息未在摘要中说明)。截至采集时,该仓库在 GitHub 上拥有5365颗星。该项目旨在将 AI 推理能力部署到资源受限的边缘设备,实现低延迟和本地化处理。

Cactus:开源边缘 AI 引擎,支持多模型与 OpenAI 兼容 API 用什么语言开发?

Cactus:开源边缘 AI 引擎,支持多模型与 OpenAI 兼容 API 主要使用 C++ 开发。

Cactus:开源边缘 AI 引擎,支持多模型与 OpenAI 兼容 API 使用什么开源协议?

Cactus:开源边缘 AI 引擎,支持多模型与 OpenAI 兼容 API 基于 Other 协议开源。

相关项目

暂无结果

评论

评论

0
0/500 字符

暂无评论

成为第一个评论的人

开源项目

探索、学习并参与开源 AI 项目,推动人工智能技术发展

查看全部