プロジェクト概要
headroom は、AIエージェントやLLM(大規模言語モデル)が消費するトークンを削減するためのオープンソースのコンテキスト圧縮システムです。ツールの出力、ログファイル、RAGチャンク、その他の大規模なペイロードを圧縮し、モデルに到達する前にデータ量を削減しつつ、回答の正確性を維持します。
主な機能
- トークン圧縮:公式発表によると、JSONデータではトークンを60〜95%、コーディングエージェントでは15〜20%削減でき、回答品質に影響を与えません。
- コンテンツ認識圧縮:JSON、ソースコード、汎用テキスト向けの専用圧縮器を備えています。
- 可逆圧縮:元データはローカルに保存され、圧縮プロセスで情報が失われないことを保証します。
- 複数のデプロイ方法:ライブラリ、プロキシサーバー、MCPサーバー、プロキシラッパーとして使用できます。
技術スタック
主要言語はRustで、PythonおよびTypeScript向けのSDKも提供されています。ライセンスはApache-2.0です。
はじめ方
具体的なインストール方法や使用方法については、プロジェクトのREADMEドキュメントを参照してください。










コメント
コメントはまだありません
最初のコメントを書きましょう