RAG の検索方式

類似度で探すか、
目次で探すか

ベクトル検索 RAG類似度で検索。速い・安い・大量文書向き。
ツリー検索 RAG文書を目次ツリーにして LLM が辿る。長い 1 文書の位置特定向き。

仕組み

ベクトル検索 RAG

年次報告書 300 頁 #1 #2 #3 #4 #5 … … #900 512 トークンずつ分割 埋め込み → ベクトル DB 類似度の上位 k 件 LLM 3 件で回答
  1. 1固定長で分割章の境界を無視。文脈が切れる。
  2. 2埋め込みベクトル DB に保存。
  3. 3近傍検索上位 k 件。別年度の文(赤)も混入。
  4. 4回答根拠は類似度スコアのみ。

ツリー検索 RAG

例: PageIndex
見出しを解析 年次報告書 Part I 事業 Part II 財務 Part III 統治 Item 7 MD&A Item 8 財務諸表 流動性と資本 p.41–46・要約付き 年次報告書 Part II 財務 Item 7 MD&A 流動性と資本 LLM p.43 付きで回答
  1. 1構造で分割章・節単位。チャンク分割なし。
  2. 2ツリー生成LLM が要約・ページ範囲付き JSON を作成。DB 不要。
  3. 3推論で探索LLM が枝を選んで下る。外れたら戻る。
  4. 4回答根拠は経路とページ番号。

比較

観点ベクトル検索 RAGツリー検索 RAG
検索基準類似度LLM の推論
分割単位固定長チャンク章・節
基盤埋め込みモデル + ベクトル DBLLM + JSON ツリー
索引作成埋め込みのみLLM で全文を要約
検索 1 回ミリ秒、ほぼ無料秒単位、LLM 課金
根拠類似度スコア経路 + ページ番号
相互参照追えない追える
得意大量の短文書(FAQ・チケット・記事)長い構造化文書(決算書・規程・契約・論文)
苦手言い換え、年度・数値の取り違え見出しなし文書、大量文書、低遅延要件

選び方

ベクトル検索 RAG

  • 文書が数千件以上
  • 1 件が短く、構造なし
  • 速度・コスト優先

ツリー検索 RAG

  • 長い文書内の正確な位置が必要
  • 章立てがある
  • ページ番号の根拠が必要(監査・法務・金融)