阿甘的博客 | Arganzheng's Blog

LLM 时代的经典机器学习（11）：系列总结与通关自测

Classical Machine Learning in the LLM Era: Series Recap and Final Self-Test

十篇正文回答了一个问题：LLM 工作里的哪些问题其实是经典机器学习的老问题，它们的经典解法在 LLM 上还成立吗。第一篇讲什么是学习与泛化；第二、三篇讲线性回归与逻辑回归并指出奖励模型就是后者；第四到六篇从三个基础分类器到 SVM 到树的集成，并算清数据过滤为什么用小模型；第七、八篇讲聚类与降维；第九篇把 MinHash 与 LSH 的概率算清楚；第十篇讲评估——一切结论是否成立的最后一道关。十篇合起来对应《AI 算法工程师学习地图》的 L2 层，也是总纲那张”重现表”的逐行展开。本文不讲新内容，做三件事：把十篇压成一张表与十段回顾，把贯穿十篇的几条线拎出来，然后给一套三段式的通关自测——判断与计算、跨篇综合、面试题。各篇末尾的自测检验的是”这一篇读懂了没有”，...

Posted by arganzheng | March 9, 2026

LLM 时代的经典机器学习（10）：评估——从混淆矩阵到 judge 的一致性

Evaluation: Confusion Matrices, Thresholds, Calibration, Paired Tests, and Every LLM Pitfall They Predict

前九篇训了很多模型，每次都报一个”准确率”。这一篇专门讲怎么评估——准确率什么时候会骗人，一个分类器的”好”怎么拆成几个能各自回答问题的数，一个概率输出可不可信，两个模型差 3 个点算不算真的差。每个概念都用几行 NumPy 手写一遍、与 scikit-learn 对数，然后对到 LLM 评测里那些反复出现的坑：过滤器的漏放与误杀、奖励模型准确率的上限是什么、judge 的一致性与位置偏差、benchmark 分数的置信区间、”20 个 benchmark 里领先 12 个”。全篇的核心问题是：一个安全分类器准确率 95%，能上线吗？1 LLM-as-judge 与人的一致率 80%，够不够？2 两个模型在 20 个 benchmark 上比，领先 1...

Posted by arganzheng | March 9, 2026

LLM 时代的经典机器学习（09）：去重——MinHash 与 LSH 的概率

Deduplication: Jaccard, MinHash as an Unbiased Estimator, and the LSH S-Curve

预训练语料里有大量重复：同一篇文章的几十个转载、改了几个词的模板页、复制粘贴的代码。重复的数据让模型记忆而不是学习，去重是数据工程里收益最确定的一步。精确去重（对整段文本取 hash）只能抓完全一样的副本；近似去重要处理”大部分一样”的文本，标准做法是 MinHash + LSH。它是无监督学习里”相似度估计”的一个漂亮应用——三个经典元素（集合相似度、随机化估计、用概率分桶换掉两两比较）没有一个是深度学习，但在 15T token 上做去重，没有它寸步难行。这一篇把它的概率算清楚，每一步都有一个能手算的例子和几十行能跑的代码。全篇的核心问题是：两段文本”相似”到什么程度算重复？1 MinHash 的阈值怎么定？2 为什么不用两两比较？3 一、总览...

Posted by arganzheng | March 8, 2026

LLM 时代的经典机器学习（08）：降维——PCA、SVD、t-SNE / UMAP 与 embedding 的各向异性

Dimensionality Reduction: PCA, SVD, t-SNE / UMAP, and the Anisotropy of Embedding Spaces

上一篇的句向量有 896 维，一个 LLM 的 hidden state 有 4096 维。人看不了 896 维的东西，但可以问两个问题：这些维度里真正有信息的有几个？能不能把它们画在纸上？降维回答这两个问题。主角是 PCA（主成分分析）——找数据方差最大的几个方向，把数据投影上去。它简单到四行代码，但连着三件后面反复出现的事：它就是《算法工程师的数学（03）：正交与旋转、特征值与 SVD——从 RoPE 到 LoRA》的 SVD；它给出的”有效维度”是 LoRA 低秩假设的直觉来源；用它看一眼 embedding，会发现一个让”余弦相似度 0.8”失去含义的陷阱。全篇的核心问题是： PCA 的”方差最大的方向”到底在找什么，为什么它等于 SVD？1 ...

Posted by arganzheng | March 7, 2026

LLM 时代的经典机器学习（07）：聚类——K-Means、DBSCAN 与「这批语料里有什么」

Clustering: K-Means, DBSCAN, Hierarchical Clustering, and What a Corpus Looks Like in Embedding Space

前六篇的模型都需要标签。无监督学习没有标签，只有 \(x\)，要回答的问题是”这批数据里有什么结构”。聚类是其中最常用的一种：把相似的样本归成一堆。在 LLM 的数据工程里它回答一个具体问题——这个几十 T 的语料里有哪些主题、各占多少、哪些是垃圾。这一篇讲三个聚类算法（K-Means、DBSCAN、层次聚类）各自怎么工作、假设什么、什么时候失效，手写 K-Means 并看它一步步收敛，最后用一个真实的小语料（78 句话过一个 0.5B 的语言模型得到句向量）把”每簇抽几条看看”跑一遍。全篇的核心问题是： K-Means 那两步为什么一定收敛，收敛到的一定是最好的吗？1 怎么知道一个语料里有什么主题、\(k\) 该取多少？2 一、总览 1. 三个算...

Posted by arganzheng | March 6, 2026

LLM 时代的经典机器学习（06）：集成——随机森林、梯度提升与数据质量分类器的算力账

Ensembles: Random Forests, Gradient Boosting, and Why Data Filters Use Small Models

第四篇结尾留下一个问题：决策树方差极大、天生过拟合，怎么办？答案是很多棵树。两种组织方式：随机森林并行地训几百棵各不相同的树再投票——第一篇”集成只降方差”的直接应用；梯度提升则一棵接一棵地训，每棵树专门修正前面所有树加起来还没解释的部分（残差）。后者是至今表格数据上最强的模型（XGBoost、LightGBM、CatBoost 都是它），也是预训练数据工程里质量分类器的常用工具之一。最后算一笔账：给 15T token 打质量分，为什么用这些小模型而不是 LLM 自己。全篇的核心问题是：很多棵都过拟合的树平均起来为什么反而不过拟合？1 梯度提升”逐棵拟合残差”到底在做什么，为什么叫”梯度”？2 预训练数据过滤为什么用 fastText 与 GBDT ...

Posted by arganzheng | March 5, 2026

LLM 时代的经典机器学习（05）：SVM 与核方法——最大间隔、核技巧与 attention 的远亲

Support Vector Machines and Kernels: Maximum Margin, the Kernel Trick, and Why Attention Is a Kernel Smoother

逻辑回归画一条直线把两类分开，但能分开的直线有无数条，它选的是让交叉熵最小的那条。支持向量机（SVM，support vector machine）换了一个标准：选离两类都最远的那条——间隔最大。这个标准只由离边界最近的几个点决定，其余点删掉也不影响结果。然后是它最漂亮的部分——核技巧：不改变算法，只把”两个点的内积”换成一个相似度函数，直线就变成了任意形状的曲线。核方法在深度学习时代退出了主流，但它的两个思想活得很好：间隔（对比学习的 margin loss）与”相似度加权”（attention 就是一个核平滑器，本文会把两个公式对到一位小数不差）。全篇的核心问题是：能分开两类的直线有无数条，SVM 凭什么选”间隔最大”的那条？1 核技巧为什么能不增...

Posted by arganzheng | March 4, 2026

LLM 时代的经典机器学习（04）：三个基础分类器——朴素贝叶斯、KNN 与决策树

Three Basic Classifiers: Naive Bayes Computes Probabilities, KNN Finds Neighbours, Decision Trees Ask Questions

前两篇的模型都画一条直线（超平面）把两类分开。这一篇看三个思路完全不同的分类器：朴素贝叶斯用概率算”这个样本更像哪一类”，KNN 什么都不学、预测时找最像的几个训练样本投票，决策树像医生问诊一样一个问题一个问题地问下去。三个都能用几十行 NumPy 写出来，本文各写一个并与 scikit-learn 对数；它们各自的假设与失效方式，也就是后面 SVM（第五篇）与树的集成（第六篇）要解决的问题。全篇的核心问题是： “朴素”贝叶斯朴素在哪，假设不成立时会怎样？1 一个不训练的分类器为什么在 LLM 工作里到处都是？2 决策树为什么一定过拟合？3 一、总览 1. 七个分类器的地图本文与后两篇（SVM、集成）共用一张地图。同一份 5000 样本、20 ...

Posted by arganzheng | March 3, 2026

LLM 时代的经典机器学习（03）：逻辑回归与奖励模型——每个分类头的原型

Logistic Regression and Reward Models: The Skeleton of Every Classification Head

上一篇的线性回归预测一个数。把这个数过一个 sigmoid 函数压到 0 到 1 之间，它就变成了一个概率——这就是逻辑回归，最简单的分类器。它简单，但每一个神经网络的最后一层都是它：前面所有层在做特征提取，最后一层是一个逻辑回归（两类）或 softmax 回归（多类）。奖励模型也不例外：一个 8B 的 LLM 提特征，上面接一个 \(4096 \to 1\) 的线性头，Bradley-Terry 的 loss 就是逻辑回归的 loss 作用在两个回答的分差上。看清这一点，奖励模型的一切性质——需要多少数据、怎么过拟合、准确率上限在哪——都可以用逻辑回归的语言想。全篇的核心问题是：一个预测数的模型怎么变成预测概率的模型，loss 为什么要换成交叉熵？1...

Posted by arganzheng | March 2, 2026

LLM 时代的经典机器学习（02）：线性回归——最小二乘、梯度下降与 Ridge / Lasso

Linear Regression: Least Squares, Gradient Descent, and Why Ridge Is Weight Decay

线性回归是最简单的模型：用一条直线（高维时是一个平面）预测一个数。它简单到有闭式解——写出公式就能算出最优参数——但它同时是后面一切的原型：每一个神经网络的最后一层都是它（或它的分类版本），weight decay 就是它的 Ridge 正则，梯度下降、学习率、特征缩放、共线这些深度学习里天天遇到的问题，都可以在它身上用两个参数画出来看清楚。这一篇从 20 个点拟合一条直线开始，把这些概念一个一个建立起来。全篇的核心问题是： lstsq 那一行到底解了什么方程，为什么它一步就能算出答案？1 梯度下降为什么有时候要几百步、有时候直接发散？2 LLM 训练配置里的 weight_decay=0.1 和一百年前的 Ridge 回归是什么关系？3 一、总览 ...

Posted by arganzheng | March 1, 2026

Arganzheng's Blog