モデル抽出
定義
機械学習モデルへの多数の問い合わせと応答を利用し、元モデルの振る舞いや能力を近似する別モデルを構築しようとする脅威。防御では利用監視と出力制御を重視する。
詳細解説
モデル抽出は内部パラメータを直接盗む場合だけでなく、API応答から機能を近似する行為も含みます。防御では認証、レート制限、異常な問い合わせ系列の検知、出力精度の制御、契約・利用規約、モデル資産の分類を組み合わせます。
ポイント
- 防御目的では「大量の入出力からモデルの機能を複製されるリスク」と捉える
- 単純な回数制限だけでなく、アカウント横断のパターンと高価値機能へのアクセスを監視する
- 検知検証は許可されたモデルと環境に限定し、第三者サービスへ大量問い合わせしない
関連用語
公式情報・参考情報
よくある質問
モデル抽出とは？
機械学習モデルへの多数の問い合わせと応答を利用し、元モデルの振る舞いや能力を近似する別モデルを構築しようとする脅威。防御では利用監視と出力制御を重視する。
モデル抽出について詳しく知るには？
モデル抽出は内部パラメータを直接盗む場合だけでなく、API応答から機能を近似する行為も含みます。防御では認証、レート制限、異常な問い合わせ系列の検知、出力精度の制御、契約・利用規約、モデル資産の分類を組み合わせます。
モデル抽出のポイントは？
防御目的では「大量の入出力からモデルの機能を複製されるリスク」と捉える 単純な回数制限だけでなく、アカウント横断のパターンと高価値機能へのアクセスを監視する 検知検証は許可されたモデルと環境に限定し、第三者サービスへ大量問い合わせしない
同じカテゴリの用語（攻撃手法）
侵害済みアカウント、VPN認証情報、RDPアクセスなどを入手・販売し、別の攻撃者へ初期アクセスを渡す主体。…
第三者が利用者アカウントを不正に支配する状態。漏えいパスワード、フィッシング、セッション窃取、OAuth同意悪用などが原…
攻撃者が正規サービスと利用者の間に入り、認証情報やセッションを中継・窃取するフィッシング手法。…
国家支援組織や高度な技術を持つ攻撃グループによる長期・潜伏型の標的型攻撃。数ヶ月〜数年かけて侵入・維持・情報収集を行う。…
取引先や経営者になりすまして送金、請求書変更、機密情報送付を促すビジネスメール詐欺。…
APIなどで、利用者がアクセスしてよいオブジェクトかを十分に確認せず、他者データへアクセスできてしまう認可不備。…