フレームワーク
RAG
Retrieval-Augmented Generation
定義
外部文書やデータベースから関連情報を検索し、その内容を使ってLLMに回答させる構成。
詳細解説
RAGは社内ナレッジ活用に有効ですが、検索対象の権限、データ鮮度、出典表示、機密情報混入、間接プロンプト注入を管理する必要があります。
ポイント
- 検索結果を使ってLLM回答を補強する
- 権限と出典表示が重要
- 外部文書の指示を信用しすぎない
関連用語
よくある質問
RAGとは？
外部文書やデータベースから関連情報を検索し、その内容を使ってLLMに回答させる構成。
RAGについて詳しく知るには？
RAGは社内ナレッジ活用に有効ですが、検索対象の権限、データ鮮度、出典表示、機密情報混入、間接プロンプト注入を管理する必要があります。
RAGのポイントは？
検索結果を使ってLLM回答を補強する 権限と出典表示が重要 外部文書の指示を信用しすぎない
同じカテゴリの用語（フレームワーク）
Access Certification
Access Certification
利用者のアクセス権が現在も必要で妥当かを、管理者や業務オーナーが定期的に確認・承認するプロセス。…
Access Package
Access Package
アプリ、グループ、サイトなど複数の権限を業務単位でまとめ、申請・承認・期限付きで付与する単位。…
Access Recertification
Access Recertification
既存のアクセス権が現在も必要かを、所有者や上長が定期的に再確認するプロセス。権限棚卸しの実務手法の一つ。…
Access Review
Access Review
ユーザー、グループ、管理者、外部共有、OAuthアプリなどのアクセス権が現在も妥当かを定期的に確認する活動。…
AI Red Teaming
AI Red Teaming
AIシステムの安全性、悪用耐性、プロンプト耐性、データ漏えいリスクを攻撃者視点で検証する評価活動。…
Asset Criticality
Asset Criticality
資産が事業やセキュリティに与える重要度。脆弱性対応、監視、復旧順序の優先度判断に使う。…