检索与知识接入：私域知识怎么进入模型

01 · 进上下文还是进权重

事实进上下文、行为进权重——微调学分布不学事实，默认先 prompt 再检索

%%{init: {"flowchart": {"wrappingWidth": 230}}}%%
flowchart LR
    Q["模型不知道的这件事，是什么类型？"] --> F{"是<b>事实</b>（知道什么）<br/>还是<b>行为</b>（怎么做）？"}
    F -- "事实" --> C["<b>进上下文</b><br/>每秒变的（库存、工单）→ 工具直接查<br/>每天变的（政策、文档）→ 检索<br/>有 schema 的（客户、订单、关系）→ SQL / 本体"]
    F -- "行为" --> B["<b>先用便宜的，再考虑权重</b><br/>术语、格式、风格 → few-shot + 术语表<br/>流程性技能 → SKILL.md<br/>稳定且仍不够 → 微调（SFT）"]
    C -. "回答有可核对的来源，<br/>更新当天生效" .-> R["共同点"]
    B -. "微调学的是分布，<br/>不是事实" .-> R

要点

四问任一为是 → 进上下文不进权重

02 · 三类检索：coding agent 为什么只用 grep

词法、向量、结构化各有前提——coding agent 只用 grep 是前提全中

%%{init: {"flowchart": {"wrappingWidth": 300}}}%%
flowchart TB
    Q["一条查询"] --> L & V & S
    subgraph L["词法 / 精确：grep、BM25"]
        direction TB
        L1["前提：有精确标识符"] --> L2["买到：零过期、可解释"] --> L3["付出：词汇不匹配"]
    end
    subgraph V["向量 / 语义：embedding + ANN"]
        direction TB
        V1["前提：问法 ≠ 写法"] --> V2["买到：语义召回"] --> V3["付出：索引要维护"]
    end
    subgraph S["结构化：SQL、API、图谱"]
        direction TB
        S1["前提：有 schema、问关系"] --> S2["买到：精确关系查询"] --> S3["付出：要 schema"]
    end
    L & V & S --> H["生产系统几乎总是混用"]

要点

三类检索各有前提——代码词法全中所以只用 grep

常见误区

• 「Claude Code 不用向量库所以向量检索过时了」——代码满足词法三前提，企业文档不满足
• 「向量索引比 grep 省 token」——检索结果作为上下文进每轮，噪声多时更费

03 · 文档解析与分块：检索失败的上游

解析规则→布局模型→VLM 按需升级；三个静默失败在检索之前

%%{init: {"flowchart": {"wrappingWidth": 190}}}%%
flowchart LR
    subgraph PARSE["解析梯级"]
        direction TB
        F["文件<br/>PDF · Office · 扫描件"] --> P{"梯级"}
        P -->|"数字"| R1["① 规则抽取"]
        P -->|"表格"| R2["② 布局模型"]
        P -->|"扫描"| R3["③ 视觉 OCR"]
        R1 & R2 & R3 --> S["结构化文本"]
    end
    S --> C["分块+前缀"] --> M["元数据"] --> I["索引（第四篇）"]

    classDef step fill:#fff7e0,stroke:#c98a00,stroke-width:2px,color:#222
    classDef dec fill:#eef6ff,stroke:#5b8fd6,color:#222
    class F,R1,R2,R3,S,C,M,I step
    class P dec

要点

解析按需升级；分块按结构不切函数

常见误区

• 「直接调 OCR API」——开放文档 VLM 更准更便宜；先规则抽取按需升级

04 · 索引、混合检索与 rerank

BM25 + 向量 RRF 是默认形态；rerank 只精排 top-20 是性价比最高一步

%%{init: {"flowchart": {"wrappingWidth": 200}}}%%
flowchart LR
    Q["查询"] --> B["BM25 top-50"] & V["向量 top-50"]
    B & V --> R["RRF（k = 60）→ top-20"] --> RR["rerank → top-5"] --> G["进上下文"]
    P["权限过滤"] -. "在召回时" .-> B & V

常见误区

• 「rerank 太慢不要」——只精排 top-20，几十到几百毫秒，且降 k 省钱

05 · 从流水线到 agentic retrieval

流水线可控无多跳、agentic 多跳但成本不定——最常见是级联兜底

%%{init: {"flowchart": {"wrappingWidth": 460}}}%%
flowchart TB
    subgraph P["流水线 RAG"]
        direction TB
        P1["query"] --> P2["混合召回 + rerank"] --> P3["top-k 进 prompt"] --> P4["生成"]
    end
    subgraph AG["agentic retrieval"]
        direction TB
        A1["决定先查什么"] --> A2["调 search_docs / sql"] --> A3["够不够？"] --> A1
        A3 -- "够了" --> A4["生成（带引用）"]
    end
    P -. "确定、成本固定" .-> X["取舍"]
    AG -. "多跳、不可预测" .-> X

要点

流水线可控；agentic 多跳但成本延迟不定

06 · 结构化知识：SQL、本体与 GraphRAG

text-to-SQL 裸 schema 只有两成要语义层；GraphRAG 只对全局/多跳

%%{init: {"flowchart": {"wrappingWidth": 440}}}%%
flowchart TB
    Q["答案在「关系」里"] --> W{"数据什么样？"}
    W -- "有 schema" --> S["<b>text-to-SQL + 语义层</b>"]
    W -- "对象关系 + 动作" --> O["<b>本体</b><br/>对象导航替代 join"]
    W -- "实体关系" --> G["<b>GraphRAG</b><br/>实体关系建图"]
    S & O & G --> C["不替代向量检索：<br/>先线索，再结构导航"]

要点

裸 schema 只两成——要语义层；建图看多跳比

07 · 检索评测与运营：没找到 vs 找到了没说对

检索与生成分开评——没找到 vs 找到了没说对，药完全不同

要点

检索与生成分开评——药完全不同

常见误区

• 「合成评测集就够了」——措辞贴合原文高估 recall
• 「只看端到端准确率」——分不清检索还是生成；三个数字