定義
LLMアプリケーションの入出力やツール呼び出しを検査し、機密情報、危険な指示、ポリシー違反、異常な利用を検知・制御する中間防御層の総称。
詳細解説
LLMファイアウォールは確立した単一標準や万能製品を意味せず、入力検査、出力制御、レート制限、データ損失防止、ツール権限確認などの組み合わせです。誤検知、言語差、迂回可能性を前提に、アプリ側の認可と人の確認を残します。
ポイント
- 初心者向けには「AIへの入力と出力を点検する関所」と捉えるが、完全防御とは考えない
- プロンプト検査だけでなく、ツール呼び出し時の認可と出力先の制御が重要になる
- 遮断理由を記録し、個人情報を含む入力を不要に外部送信しない
関連用語
関連コンテンツ
同じカテゴリの用語（防御・対策）
Admin Consent Workflow
Admin Consent Workflow
利用者が求めたOAuthアプリ権限を、管理者が審査して承認・却下するための運用フロー。…
Admin Portal Exposure
Admin Portal Exposure
管理画面や管理APIがインターネットから到達可能な状態。認証強度や脆弱性次第で重大リスクになる。…
Admission Controller
Admission Controller
Kubernetesでリソース作成・更新リクエストを受け付ける前に、検証や変更を行う制御ポイント。…
Admission Policy
Admission Policy
Kubernetesなどでリソース作成前に、署名、権限、ラベル、セキュリティ設定を検査して許可・拒否するポリシー。…
AI Asset Inventory
AI Asset Inventory
組織で利用しているAIサービス、モデル、エージェント、APIキー、データ連携、責任者を一覧化した台帳。…
AIセキュリティポスチャ管理
AI Security Posture Management (AI-SPM)
組織が利用・開発するAIモデル、データ、エージェント、接続先、権限、設定を継続的に可視化し、セキュリティ上の不備とリスク…
関連するレッスン
防御戦略レッスン
組織を守る実践的な防御策を学ぶ
レッスン一覧を見る →