フレームワーク
Model Risk Management
Model Risk Management
定義
AIや機械学習モデルの誤出力、偏り、説明不能性、データ漏えい、運用逸脱などのリスクを管理する枠組み。
詳細解説
生成AI導入では、精度だけでなく用途、データ、評価、監査、責任者、停止条件を決める必要があります。セキュリティ部門は技術リスクと業務リスクを分けて扱います。
ポイント
- モデルの用途と制限を明確にする
- 評価・監査・変更管理を行う
- 誤出力やデータ漏えいもリスクに含める
関連用語
関連コンテンツ
よくある質問
Model Risk Managementとは？
AIや機械学習モデルの誤出力、偏り、説明不能性、データ漏えい、運用逸脱などのリスクを管理する枠組み。
Model Risk Managementについて詳しく知るには？
生成AI導入では、精度だけでなく用途、データ、評価、監査、責任者、停止条件を決める必要があります。セキュリティ部門は技術リスクと業務リスクを分けて扱います。
Model Risk Managementのポイントは？
モデルの用途と制限を明確にする 評価・監査・変更管理を行う 誤出力やデータ漏えいもリスクに含める
同じカテゴリの用語（フレームワーク）
Access Certification
Access Certification
利用者のアクセス権が現在も必要で妥当かを、管理者や業務オーナーが定期的に確認・承認するプロセス。…
Access Package
Access Package
アプリ、グループ、サイトなど複数の権限を業務単位でまとめ、申請・承認・期限付きで付与する単位。…
Access Recertification
Access Recertification
既存のアクセス権が現在も必要かを、所有者や上長が定期的に再確認するプロセス。権限棚卸しの実務手法の一つ。…
Access Review
Access Review
ユーザー、グループ、管理者、外部共有、OAuthアプリなどのアクセス権が現在も妥当かを定期的に確認する活動。…
AI Red Teaming
AI Red Teaming
AIシステムの安全性、悪用耐性、プロンプト耐性、データ漏えいリスクを攻撃者視点で検証する評価活動。…
Asset Criticality
Asset Criticality
資産が事業やセキュリティに与える重要度。脆弱性対応、監視、復旧順序の優先度判断に使う。…