Xaidr: 為AI代理提供程序內執行時安全

Xaidr: 為AI代理提供程序內執行時安全

Emma Carter
156
original

Xaidr 是 delphisecurity 開源的一個 AI 代理執行時安全專案,主打程序內、零依賴、Apache 2.0 許可。它面向 AI 代理執行時的安全治理場景,目前已在 GitHub 上收穫初步關注。

AI 代理(AI agent)跑得越來越快,但跑起來之後怎麼約束它、怎麼防止它越界,是一個懸而未決的問題。最近開源的 Xaidr 想從執行時層面給這個難題提供一個輕量答案。

Xaidr 由 delphisecurity 釋出在 GitHub 上,專案描述很直白:Runtime security for AI agents. In-process, zero dependencies, Apache 2.0. 翻譯過來就是——為 AI 代理提供程序內執行時安全,零依賴,Apache 2.0 開源許可。

這個專案想解決什麼問題

大模型應用往往通過 agent 去呼叫工具、訪問資料、執行操作,而一旦 agent 出錯或被誘導,後果可能超出預期。傳統的安全方案常掛在外部,比如網路層或沙箱層,但 Xaidr 選擇「程序內」路線,意味著它直接嵌入 agent 的執行程序,實時介入安全控制和治理邏輯,而不是把流量導到外部去檢查。

「零依賴」這個設計也很務實,部署時不需要拉一整套 SDK 或服務,適合希望保持輕量的開發團隊。

專案當前的公開狀態

從倉庫資訊看,Xaidr 已經有不少工程痕跡:136 個提交,說明不是一次性 demo;還包含 BENCHMARKS.mdCONTRIBUTING.md,顯示作者在意效能基準和社羣協作。目前倉庫獲得 22 個 star、1 個 fork,issue 區有 1 個討論,算早期但並非空白。

許可證採用 Apache 2.0,對商業使用友好,這也是開源安全工具裡比較常見的選擇。

  • 程序內執行時安全,嵌入 agent 執行環境
  • 零依賴,降低整合和部署成本
  • Apache 2.0 開源許可,商業可用
  • 附帶基準測試文件,關注效能表現

對誰有實際價值

對正在構建 AI agent 產品的團隊來說,Xaidr 提供了一個可參考的執行時安全治理思路。尤其是那些讓 agent 自主操作檔案、呼叫外部 API 的場景,程序內攔截比事後審計更及時。這個專案目前還很年輕,官方公開的技術細節有限,實際效果需要自己在真實環境裡跑一跑才能判斷。

如果專案能繼續保持活躍,它的價值和風險邊界值得多看幾眼。就目前而言,Xaidr 更像是一個「值得關注但別急著上生產」的早期開源嘗試。

AI代理安全執行時安全開源安全工具程序內安全AI治理Apache 2.0零依賴代理監控

分享

評論

0
0/500 字元

暫無評論

成為第一個評論的人

探索更多

相似工具

BugDaddy

BugDaddy是一款AI驅動的桌面調試工具,能掃描項目、檢測真實Bug並自動修復。支持30多種語言,提供三種掃描模式和差異預覽。目前完全免費下載,處於公開測試階段。

Digital Heals

Digital Heals

我們嘗試透過官網與網路搜尋查證 Digital Heals。研究期間該站點無法開啟,也未找到可靠的公開資料,因此無法描述其功能。準確資訊請以官方網站為準。

ZenVeil

ZenVeil

ZenVeil 是一款面向開發者的安全工具,旨在降低傳統安全工具的複雜性。它支持掃描 GitHub 倉庫、本地代碼庫和 API,以發現密鑰、供應鏈風險和常見安全問題。提供 AI 驅動的解釋、修復指導和優先級排序,並能直接創建包含修復的 pull request。用戶可通過 Web 儀錶板或命令行界面(CLI)使用。

AuditMe

AuditMe是一款面向AI快速開發者的代碼審計工具,通過掃描GitHub倉庫,在60秒內給出生產就緒評分。報告涵蓋關鍵安全問題、缺失錯誤處理、硬編碼密鑰、無速率限制等,並按嚴重程度排序,附通俗解釋。每個發現提供可複製的代碼diff及預寫的PR標題和描述,幫助快速修復問題。

VibeCheck

VibeCheck

VibeCheck 只要兩下就把螢幕錄影、主控台日誌、網路請求與環境資訊打包,把附完整上下文的重現連結交給工程師。

Checkmarx Next-Gen SAST

Checkmarx Next-Gen SAST

Checkmarx Next-Gen SAST 將三層掃描集成於單一引擎:久經考驗的規則基礎層、覆蓋任意語言(含AI生成代碼)的專用LLM,以及新的發現分析引擎(FAE),過濾結果以確認真陽性,讓開發者只關注重要問題。現已向所有Checkmarx One客戶提供,作為現有訂閱的一部分。

開源專案

CyberStrikeAI: 將自然語言轉化為受治理的多智能體安全操作

CyberStrikeAI 是一個基於 Go 語言的開源平臺,將自然語言指令轉化為受治理的多智能體安全操作,集成超過100種工具,並提供審計日誌。

h4cker: 彙集數千資源的開源安全學習庫

h4cker 是 Omar Santos 在 GitHub 上維護的開源專案,收錄了數千條與道德黑客、漏洞賞金、數字取證、事件響應、AI 安全、逆向工程等相關的學習資源,倉庫以 Jupyter Notebook 為主,目前已在 GitHub 獲得近 3 萬星標,適合安全新手和從業者按圖索驥。

pentagi: 多代理自動化滲透測試系統

pentagi 是一個開源的多代理系統,用於在 Docker 沙箱中自動化滲透測試,集成了 20 多種安全工具,並支持向量記憶。項目主要使用 Go 語言開發,遵循 MIT 許可證。根據收集時的數據,該項目在 GitHub 上獲得了 21587 顆星。

reverse-skill: 為AI代理打包逆向與滲透工作流

reverse-skill 是一個基於 PowerShell 的開源項目,採用 MIT 許可證。它將 40 多個逆向工程、滲透測試和 CTF 工作流打包成一個路由系統,適用於 Claude Code、Cursor 和 Cline 等 AI 代理。該項目在採集時獲得了 6574 個 GitHub 星標。

awesome-ai-security:精選AI安全資源庫

awesome-ai-security 是一個GitHub倉庫,專注於整理AI安全領域的必備資源。它匯集了論文、代碼和工具,涵蓋對抗樣本、提示注入、模型隱私和紅隊測試等主題。該項目採用MIT許可證,截至採集時擁有1340個星標,適合安全研究人員和AI開發者快速入門或作為綜合參考。

kodus-ai: 開源AI代碼審查,掌控模型與成本

kodus-ai 是一個開源的AI代碼審查工具,基於TypeScript構建,支持集成GPT和Claude等多種AI模型。它讓開發團隊自主選擇模型,避免供應商鎖定,同時提升代碼審查效率。項目在GitHub上已獲得超過1200顆星,適合追求自主性和成本效益的團隊。