メンバーシップ推論
定義
モデルの出力や確信度などを観察し、特定のデータがそのモデルの学習に使われたかどうかを推定しようとするプライバシー上の脅威。
詳細解説
メンバーシップ推論は、医療や利用履歴などのデータが学習集合に含まれた事実自体が機微情報となる場合に問題になります。データ最小化、過学習の抑制、出力制限、差分プライバシー、アクセス監視をリスクに応じて検討します。
ポイント
- 防御目的では「ある人のデータが学習に使われたかを、モデルの反応から推定されるリスク」と捉える
- モデルインバージョンは特徴の再構成、メンバーシップ推論は学習集合への所属推定に焦点がある
- 評価には個人情報を含まない許可済みデータを使い、外部モデルへ無断で照会しない
関連用語
公式情報・参考情報
よくある質問
メンバーシップ推論とは？
モデルの出力や確信度などを観察し、特定のデータがそのモデルの学習に使われたかどうかを推定しようとするプライバシー上の脅威。
メンバーシップ推論について詳しく知るには？
メンバーシップ推論は、医療や利用履歴などのデータが学習集合に含まれた事実自体が機微情報となる場合に問題になります。データ最小化、過学習の抑制、出力制限、差分プライバシー、アクセス監視をリスクに応じて検討します。
メンバーシップ推論のポイントは？
防御目的では「ある人のデータが学習に使われたかを、モデルの反応から推定されるリスク」と捉える モデルインバージョンは特徴の再構成、メンバーシップ推論は学習集合への所属推定に焦点がある 評価には個人情報を含まない許可済みデータを使い、外部モデルへ無断で照会しない
同じカテゴリの用語（攻撃手法）
侵害済みアカウント、VPN認証情報、RDPアクセスなどを入手・販売し、別の攻撃者へ初期アクセスを渡す主体。…
第三者が利用者アカウントを不正に支配する状態。漏えいパスワード、フィッシング、セッション窃取、OAuth同意悪用などが原…
攻撃者が正規サービスと利用者の間に入り、認証情報やセッションを中継・窃取するフィッシング手法。…
国家支援組織や高度な技術を持つ攻撃グループによる長期・潜伏型の標的型攻撃。数ヶ月〜数年かけて侵入・維持・情報収集を行う。…
取引先や経営者になりすまして送金、請求書変更、機密情報送付を促すビジネスメール詐欺。…
APIなどで、利用者がアクセスしてよいオブジェクトかを十分に確認せず、他者データへアクセスできてしまう認可不備。…