CactusオープンソースのエッジAIエンジン、マルチモデルとOpenAI互換APIをサポート

プロジェクト概要

Cactus は、スマートフォン、ウェアラブル端末、IoTデバイス上でAIモデルを実行することに特化したオープンソースのエッジAIエンジンです。言語、視覚、音声など複数のモダリティに対応し、OpenAI互換のAPIを通じて統一されたインターフェースを提供するため、開発者が簡単に統合できます。

主な機能

• 言語、視覚、音声モデルのローカル推論をサポート。
• OpenAI互換APIを提供し、移行コストを削減。
• エッジデバイス向けに最適化され、リソースが制限された環境に対応。

技術スタックとライセンス

プロジェクトは主にC++で書かれており、ライセンス種別は「その他」とされています（詳細はリポジトリを参照）。収集時点でのGitHubスター数は5365です。

はじめ方

具体的なインストール方法や使用方法については、リポジトリ内のREADMEドキュメントを参照してください。