フレームワーク
RAG
Retrieval-Augmented Generation
定義
外部文書やデータベースから関連情報を検索し、その内容を使ってLLMに回答させる構成。
詳細解説
RAGは社内ナレッジ活用に有効ですが、検索対象の権限、データ鮮度、出典表示、機密情報混入、間接プロンプト注入を管理する必要があります。
ポイント
- 検索結果を使ってLLM回答を補強する
- 権限と出典表示が重要
- 外部文書の指示を信用しすぎない
関連用語
よくある質問
RAGとは？
外部文書やデータベースから関連情報を検索し、その内容を使ってLLMに回答させる構成。
RAGについて詳しく知るには？
RAGは社内ナレッジ活用に有効ですが、検索対象の権限、データ鮮度、出典表示、機密情報混入、間接プロンプト注入を管理する必要があります。
RAGのポイントは？
検索結果を使ってLLM回答を補強する 権限と出典表示が重要 外部文書の指示を信用しすぎない
同じカテゴリの用語（フレームワーク）
Access Package
Access Package
アプリ、グループ、サイトなど複数の権限を業務単位でまとめ、申請・承認・期限付きで付与する単位。…
Access Review
Access Review
ユーザー、グループ、管理者、外部共有、OAuthアプリなどのアクセス権が現在も妥当かを定期的に確認する活動。…
AI Red Teaming
AI Red Teaming
AIシステムの安全性、悪用耐性、プロンプト耐性、データ漏えいリスクを攻撃者視点で検証する評価活動。…
Attack Complexity
Attack Complexity
脆弱性の悪用に必要な条件や難しさを示す評価軸。条件が少ないほど悪用されやすい可能性がある。…
Attack Vector
Attack Vector
攻撃が成立する経路や到達条件を示す概念。CVSSではNetwork、Adjacent、Local、Physicalなどで…
Audit Trail
Audit Trail
操作、承認、変更、アクセスなどの履歴を時系列で追跡できるようにした監査証跡。…