初級

awesome-ai-security厳選されたAIセキュリティリソース集

awesome-ai-security は、AIセキュリティ分野の必須リソースを整理することに特化したGitHubリポジトリです。論文、コード、ツールを集めており、敵対的サンプル、プロンプトインジェクション、モデルのプライバシー、レッドチームテストなどのトピックをカバーしています。このプロジェクトはMITライセンスを採用しており、収集時点で1340のスターを保有しています。セキュリティ研究者やAI開発者にとって、迅速な入門や包括的な参考資料として適しています。

1.3K スター

346 フォーク

130 イシュー

184 閲覧

MIT

登録日2026年8月5日

Githubリポジトリ

プロジェクト概要

awesome-ai-security は、GitHub で広く人気のあるリポジトリで、AI セキュリティ分野の主要リソースを整理することを目的としています。README によると、このプロジェクトは論文、コード、ツールを一箇所にまとめ、敵対的サンプル、プロンプトインジェクション、モデルのプライバシー、レッドチームテストなどの主要トピックをカバーしています。

主要内容

敵対的サンプル：入力の摂動によってモデルを誤分類させる技術と、その防御手法を研究。
プロンプトインジェクション：言語モデルに対する悪意のある命令注入攻撃とその防御を考察。
モデルのプライバシー：モデルの学習データ漏洩やメンバー推論などのプライバシーリスクに関わる。
レッドチームテスト：AI システムのセキュリティを系統的に評価するための実践ガイドとツールを提供。

対象読者

このプロジェクトは、セキュリティ研究者や AI 開発者に特に適しています。迅速な入門を求める場合でも、包括的な参考資料が必要な場合でも、ここで有益な情報を見つけることができます。

ライセンスとステータス

このプロジェクトは MIT ライセンスを採用しており、自由な使用と改変が許可されています。収集時点で、このリポジトリは GitHub で1340個のスターを獲得しており、コミュニティから広く注目されていることを示しています。

AIセキュリティ人工知能セキュリティ敵対的サンプルプロンプトインジェクションオープンソースリソースまとめ機械学習セキュリティモデルのプライバシーセキュリティツールAIセキュリティリソース集脆弱性検出

プロジェクト評価

0.0 (0 レビュー)

ログイン後に評価できます

よくある質問

awesome-ai-security：厳選されたAIセキュリティリソース集とは？

awesome-ai-security：厳選されたAIセキュリティリソース集のライセンスは何ですか？

awesome-ai-security：厳選されたAIセキュリティリソース集はMITライセンスで公開されています。

類似ツール

Digital Heals

公式サイトとウェブ検索でDigital Healsの確認を試みました。調査期間中、サイトにはアクセスできず、信頼できる公開情報も見つからなかったため、機能については説明できません。正確な情報は公式サイトをご確認ください。

BugDaddy

BugDaddy は AI 駆動のデスクトップデバッグツールで、プロジェクトをスキャンして実際のバグを検出し、自動的に修正します。30以上の言語に対応し、3つのスキャンモードと差分プレビューを提供します。現在は完全無料でダウンロードでき、公開ベータテスト段階にあります。

ZenVeil

ZenVeilは開発者向けのセキュリティツールで、従来のセキュリティツールの複雑さを軽減することを目的としています。GitHubリポジトリ、ローカルコードベース、APIをスキャンして、シークレット、サプライチェーンリスク、一般的なセキュリティ問題を発見できます。AIを活用した説明、修正ガイド、優先順位付けを提供し、修正を含むプルリクエストを直接作成できます。ユーザーはWebダッシュボードまたはコマンドラインインターフェース（CLI）から利用できます。

AuditMe

AuditMeは、AIを迅速に開発する開発者向けのコード監査ツールです。GitHubリポジトリをスキャンし、60秒以内に本番準備スコアを提供します。レポートには、重大なセキュリティ問題、エラーハンドリングの欠落、ハードコードされたキー、レート制限の欠如などが含まれ、重大度順に並べられ、分かりやすい説明が添付されます。各発見には、コピー可能なコード差分と、事前に作成されたPRタイトルと説明が提供され、迅速な修正を支援します。

VibeCheck

VibeCheckは、2回のクリックでスクリーン録画、コンソールログ、ネットワークリクエスト、実行環境をまとめてパッケージし、完全なコンテキスト付きの再現リンクをエンジニアに直接送れます。

Checkmarx Next-Gen SAST

Checkmarx Next-Gen SAST は、3層スキャンを単一エンジンに統合しています。実績のあるルールベース層、あらゆる言語（AI生成コードを含む）をカバーする専用LLM、そして新しい発見分析エンジン（FAE）により、結果をフィルタリングして真陽性を確認し、開発者が重要な問題だけに集中できるようにします。現在、Checkmarx One の全顧客に、既存サブスクリプションの一部として提供されています。