フレームワーク
AI Red Teaming
AI Red Teaming
定義
AIシステムの安全性、悪用耐性、プロンプト耐性、データ漏えいリスクを攻撃者視点で検証する評価活動。
詳細解説
AI Red Teamingは攻撃手順の公開ではなく、リスクを発見し改善するための管理された評価です。対象範囲、禁止事項、記録、修正計画を明確にします。
ポイント
- AIシステムのリスクを検証する
- 管理された範囲で実施する
- 結果をガードレール改善へつなげる
関連用語
よくある質問
AI Red Teamingとは？
AIシステムの安全性、悪用耐性、プロンプト耐性、データ漏えいリスクを攻撃者視点で検証する評価活動。
AI Red Teamingについて詳しく知るには？
AI Red Teamingは攻撃手順の公開ではなく、リスクを発見し改善するための管理された評価です。対象範囲、禁止事項、記録、修正計画を明確にします。
AI Red Teamingのポイントは？
AIシステムのリスクを検証する 管理された範囲で実施する 結果をガードレール改善へつなげる
同じカテゴリの用語（フレームワーク）
Access Certification
Access Certification
利用者のアクセス権が現在も必要で妥当かを、管理者や業務オーナーが定期的に確認・承認するプロセス。…
Access Package
Access Package
アプリ、グループ、サイトなど複数の権限を業務単位でまとめ、申請・承認・期限付きで付与する単位。…
Access Recertification
Access Recertification
既存のアクセス権が現在も必要かを、所有者や上長が定期的に再確認するプロセス。権限棚卸しの実務手法の一つ。…
Access Review
Access Review
ユーザー、グループ、管理者、外部共有、OAuthアプリなどのアクセス権が現在も妥当かを定期的に確認する活動。…
Asset Criticality
Asset Criticality
資産が事業やセキュリティに与える重要度。脆弱性対応、監視、復旧順序の優先度判断に使う。…
Asset Inventory
Asset Inventory
組織が保有・利用する端末、サーバー、SaaS、クラウド資産、データ、アカウントを一覧化した台帳。脆弱性管理や権限棚卸しの…