攻撃手法
Prompt Injection
Prompt Injection
定義
LLMへの入力に、意図しない指示や制約回避を混ぜ込み、モデルの出力や判断を操作しようとする攻撃・誤用パターン。
詳細解説
Prompt Injectionはアプリ設計上のリスクとして扱います。防御では権限分離、ツール実行前の検証、出力検査、機密情報をプロンプトへ入れない設計が重要です。
ポイント
- LLMへの指示を操作しようとする
- 権限あるツール実行と組み合わさると危険
- 入力検査だけで完全防御はできない
関連用語
よくある質問
Prompt Injectionとは？
LLMへの入力に、意図しない指示や制約回避を混ぜ込み、モデルの出力や判断を操作しようとする攻撃・誤用パターン。
Prompt Injectionについて詳しく知るには？
Prompt Injectionはアプリ設計上のリスクとして扱います。防御では権限分離、ツール実行前の検証、出力検査、機密情報をプロンプトへ入れない設計が重要です。
Prompt Injectionのポイントは？
LLMへの指示を操作しようとする 権限あるツール実行と組み合わさると危険 入力検査だけで完全防御はできない
同じカテゴリの用語（攻撃手法）
Access Broker
Access Broker
侵害済みアカウント、VPN認証情報、RDPアクセスなどを入手・販売し、別の攻撃者へ初期アクセスを渡す主体。…
Account Takeover
Account Takeover
第三者が利用者アカウントを不正に支配する状態。漏えいパスワード、フィッシング、セッション窃取、OAuth同意悪用などが原…
AiTM
Adversary-in-the-Middle
攻撃者が正規サービスと利用者の間に入り、認証情報やセッションを中継・窃取するフィッシング手法。…
APT
Advanced Persistent Threat
国家支援組織や高度な技術を持つ攻撃グループによる長期・潜伏型の標的型攻撃。数ヶ月〜数年かけて侵入・維持・情報収集を行う。…
BEC
Business Email Compromise
取引先や経営者になりすまして送金、請求書変更、機密情報送付を促すビジネスメール詐欺。…
BOLA
Broken Object Level Authorization
APIなどで、利用者がアクセスしてよいオブジェクトかを十分に確認せず、他者データへアクセスできてしまう認可不備。…