ツールポイズニング
定義
AIエージェントが利用するツールの説明、メタデータ、実装、更新経路を不正または危険な内容へ変え、意図しない権限行使やデータ送信を誘導する脅威。
詳細解説
ツールポイズニングは、利用者の入力だけでなくエージェントが信頼するツール定義や供給経路を狙います。防御では許可リスト、署名・来歴確認、最小権限、重要操作の承認、ツール定義変更の監査を組み合わせます。
ポイント
- 防御目的では「AIが使う道具の説明や中身が、信頼できる状態かを確認する脅威」と捉える
- ツールを追加・更新した日時、提供元、権限差分をレビューする
- ツール説明を信頼境界の外から取得する場合は、内容を命令として無条件に採用しない
関連用語
公式情報・参考情報
よくある質問
ツールポイズニングとは？
AIエージェントが利用するツールの説明、メタデータ、実装、更新経路を不正または危険な内容へ変え、意図しない権限行使やデータ送信を誘導する脅威。
ツールポイズニングについて詳しく知るには？
ツールポイズニングは、利用者の入力だけでなくエージェントが信頼するツール定義や供給経路を狙います。防御では許可リスト、署名・来歴確認、最小権限、重要操作の承認、ツール定義変更の監査を組み合わせます。
ツールポイズニングのポイントは？
防御目的では「AIが使う道具の説明や中身が、信頼できる状態かを確認する脅威」と捉える ツールを追加・更新した日時、提供元、権限差分をレビューする ツール説明を信頼境界の外から取得する場合は、内容を命令として無条件に採用しない
同じカテゴリの用語（攻撃手法）
侵害済みアカウント、VPN認証情報、RDPアクセスなどを入手・販売し、別の攻撃者へ初期アクセスを渡す主体。…
第三者が利用者アカウントを不正に支配する状態。漏えいパスワード、フィッシング、セッション窃取、OAuth同意悪用などが原…
攻撃者が正規サービスと利用者の間に入り、認証情報やセッションを中継・窃取するフィッシング手法。…
国家支援組織や高度な技術を持つ攻撃グループによる長期・潜伏型の標的型攻撃。数ヶ月〜数年かけて侵入・維持・情報収集を行う。…
取引先や経営者になりすまして送金、請求書変更、機密情報送付を促すビジネスメール詐欺。…
APIなどで、利用者がアクセスしてよいオブジェクトかを十分に確認せず、他者データへアクセスできてしまう認可不備。…