07 · 数据飞轮与物理世界的上线
预防的事故:系统不变好;车队更新出事。结论:飞轮六环三判据;微调在末端做行为优化(bad case 不直接微调,筛过的好例子);四道门;物理世界分阶段准入 + 安全案例 + 分批 OTA;高风险 agent 的发布应更像 OTA。
%%{init: {"flowchart": {"wrappingWidth": 180}}}%%
flowchart LR
U["使用<br/>真实流量"] --> F["反馈<br/>隐式(采纳 / 修改 / 重试 / 放弃)· 显式(点踩)· 系统(错误 / 卫士 / 拒答)<br/>全部带 trace id"]
F --> Q["bad case 队列<br/>owner · SLA · 分类 · 去重"]
Q --> E["评测集<br/>每周补 · hold-out · 版本绑定"]
E --> I["改进<br/>prompt · 检索 · 工具描述 · 策略 · 路由"]
I --> G["门禁 → 影子 → 灰度<br/>(L5 第四篇 · 第六篇)"]
G --> U
E -->|"几千条真实(输入,理想输出)对"| FT["微调小模型<br/>行为优化:编译规则、降成本、提一致性"]
FT --> G
U -->|"授权 · 隔离 · 脱敏 · 可退出"| D["用户数据治理(第五篇)"]
D -.-> F
classDef step fill:#fff7e0,stroke:#c98a00,stroke-width:2px,color:#222
classDef gate fill:#eef6ff,stroke:#5b8fd6,color:#222
class U,F,Q,E,I,FT step
class G,D gate
COMMENTS
评论存放在 GitHub Discussions, 用 GitHub 账号登录即可发表,支持 Markdown。 想针对正文某句话说?选中那段文字,点浮出的「评论」即可划线评论;觉得哪里写错了,发表时勾上「同时提交 Issue」。 有人回复你时 GitHub 会按你的通知设置发邮件,不用守在这里。