攻撃手法
Prompt Injection
Prompt Injection
定義
LLMへの入力に、意図しない指示や制約回避を混ぜ込み、モデルの出力や判断を操作しようとする攻撃・誤用パターン。
詳細解説
Prompt Injectionはアプリ設計上のリスクとして扱います。防御では権限分離、ツール実行前の検証、出力検査、機密情報をプロンプトへ入れない設計が重要です。
ポイント
- LLMへの指示を操作しようとする
- 権限あるツール実行と組み合わさると危険
- 入力検査だけで完全防御はできない
関連用語
よくある質問
Prompt Injectionとは？
LLMへの入力に、意図しない指示や制約回避を混ぜ込み、モデルの出力や判断を操作しようとする攻撃・誤用パターン。
Prompt Injectionについて詳しく知るには？
Prompt Injectionはアプリ設計上のリスクとして扱います。防御では権限分離、ツール実行前の検証、出力検査、機密情報をプロンプトへ入れない設計が重要です。
Prompt Injectionのポイントは？
LLMへの指示を操作しようとする 権限あるツール実行と組み合わさると危険 入力検査だけで完全防御はできない
同じカテゴリの用語（攻撃手法）
AiTM
Adversary-in-the-Middle
攻撃者が正規サービスと利用者の間に入り、認証情報やセッションを中継・窃取するフィッシング手法。…
APT
Advanced Persistent Threat
国家支援組織や高度な技術を持つ攻撃グループによる長期・潜伏型の標的型攻撃。数ヶ月〜数年かけて侵入・維持・情報収集を行う。…
BEC
Business Email Compromise
取引先や経営者になりすまして送金、請求書変更、機密情報送付を促すビジネスメール詐欺。…
Brand Impersonation
Brand Impersonation
実在ブランド、取引先、社内組織になりすまし、利用者に誤操作や情報入力を促す攻撃。…
Credential Harvesting
Credential Harvesting
ログインID、パスワード、トークン、MFAコードなどの認証情報を大量または継続的に収集する行為。…
Credential Stuffing
Credential Stuffing
他サービスから漏えいしたIDとパスワードの組み合わせを使い、別サービスへのログインを試す攻撃。…