モデルインバージョン
定義
モデルの出力やアクセス可能な情報から、学習データに含まれる特徴や代表的な入力情報を推定・再構成しようとするプライバシー上の脅威。
詳細解説
モデルインバージョンは学習データをそのまま取得できることを常に意味しませんが、機密属性や個人に関する情報が推定される可能性を評価します。データ最小化、出力制限、プライバシー評価、アクセス監視、保持方針を組み合わせます。
ポイント
- 防御目的では「モデルの答えから、学習時の特徴や情報を逆に推定されるリスク」と捉える
- メンバーシップ推論は特定データが学習に使われたか、モデルインバージョンは特徴の再構成に焦点がある
- 検証は同意と許可のあるデータ・モデルだけで行い、個人情報を再識別しない
関連用語
関連コンテンツ
公式情報・参考情報
よくある質問
モデルインバージョンとは？
モデルの出力やアクセス可能な情報から、学習データに含まれる特徴や代表的な入力情報を推定・再構成しようとするプライバシー上の脅威。
モデルインバージョンについて詳しく知るには？
モデルインバージョンは学習データをそのまま取得できることを常に意味しませんが、機密属性や個人に関する情報が推定される可能性を評価します。データ最小化、出力制限、プライバシー評価、アクセス監視、保持方針を組み合わせます。
モデルインバージョンのポイントは？
防御目的では「モデルの答えから、学習時の特徴や情報を逆に推定されるリスク」と捉える メンバーシップ推論は特定データが学習に使われたか、モデルインバージョンは特徴の再構成に焦点がある 検証は同意と許可のあるデータ・モデルだけで行い、個人情報を再識別しない
同じカテゴリの用語（攻撃手法）
侵害済みアカウント、VPN認証情報、RDPアクセスなどを入手・販売し、別の攻撃者へ初期アクセスを渡す主体。…
第三者が利用者アカウントを不正に支配する状態。漏えいパスワード、フィッシング、セッション窃取、OAuth同意悪用などが原…
攻撃者が正規サービスと利用者の間に入り、認証情報やセッションを中継・窃取するフィッシング手法。…
国家支援組織や高度な技術を持つ攻撃グループによる長期・潜伏型の標的型攻撃。数ヶ月〜数年かけて侵入・維持・情報収集を行う。…
取引先や経営者になりすまして送金、請求書変更、機密情報送付を促すビジネスメール詐欺。…
APIなどで、利用者がアクセスしてよいオブジェクトかを十分に確認せず、他者データへアクセスできてしまう認可不備。…