程序员 on Liangweidong's blog

简明数学手册：符号、概念与公式速查

Fri, 15 Dec 2017 00:00:00 +0800

为什么放编程分类

这篇不是大学数学课本的目录——而是程序员的数学工具书。做技术博客分类时，我没把它放进「数学/科学」大类，而是放在「编程」下面，理由有三：

公式不是用来考试——是写代码时查表用的。看到 Σ、∂、lim 就知道在写什么，看到 T(n) = O(n²) 就能在 code review 里挑出性能 bug
数学是计算机的母语——所有算法、数据结构、机器学习、图形学、密码学底层都是这一套符号 + 公式。不会这套符号就读不懂 RFC、论文、源码注释
学习路径配套——本站点「算法 / 数据结构」「机器学习」「密码学」「游戏开发」等分类的前置知识就是这一页。先建索引，再深入分支

所以这篇的定位是：

放办公桌的"数学速查表"——遇到不熟的符号翻 30 秒，回到 IDE 继续写代码。

下面这张表汇总了 5 个最常见的工程场景对应的数学分支，方便按需跳转：

场景	用到的数学	跳转
哈希表 / 布隆过滤器	概率、模运算	哈希
密码学 / RSA	数论、模逆、欧拉函数	数论基础
数据校验 / CRC	异或、有限域	CRC / 校验
图像 / 音视频处理	三角函数、傅里叶	三角恒等式
机器学习 / 深度学习	线性代数、概率、梯度	线性代数 / 概率统计

常用数学符号

符号	含义
$\in$	属于
$\notin$	不属于
$\subseteq$	子集
$\cup$	并集
$\cap$	交集
$\emptyset$	空集
$\forall$	全称量词（任意）
$\exists$	存在量词（存在）
$\nexists$	不存在
$\Rightarrow$	推出
$\Leftrightarrow$	等价
$\sum$	求和
$\prod$	求积
$\int$	积分
$\partial$	偏导数
$\nabla$	梯度 / 散度
$\infty$	无穷
$\approx$	约等于
$\equiv$	恒等于
$\propto$	成正比

集合与逻辑

集合运算律

交换律：$A \cup B = B \cup A$，$A \cap B = B \cap A$
结合律：$(A \cup B) \cup C = A \cup (B \cup C)$
分配律：$A \cap (B \cup C) = (A \cap B) \cup (A \cap C)$
德摩根：$\overline{A \cup B} = \overline{A} \cap \overline{B}$

命题逻辑

命题	符号	含义
合取	$P \land Q$	P 且 Q
析取	$P \lor Q$	P 或 Q
否定	$\neg P$	非 P
蕴含	$P \Rightarrow Q$	P 蕴含 Q
等价	$P \Leftrightarrow Q$	P 等价 Q

初等代数

乘法公式

$$(a \pm b)^2 = a^2 \pm 2ab + b^2$$

$$(a + b)(a - b) = a^2 - b^2$$

$$(a \pm b)^3 = a^3 \pm 3a^2 b + 3ab^2 \pm b^3$$

$$a^3 \pm b^3 = (a \pm b)(a^2 \mp ab + b^2)$$

一元二次方程 $ax^2 + bx + c = 0$

判别式：$\Delta = b^2 - 4ac$
根：$x = \frac{-b \pm \sqrt{\Delta}}{2a}$
韦达：$x_1 + x_2 = -\frac{b}{a}$，$x_1 x_2 = \frac{c}{a}$

指数

$$a^m \cdot a^n = a^{m+n}$$

$$\frac{a^m}{a^n} = a^{m-n}$$

$$(a^m)^n = a^{mn}$$

$$a^{-n} = \frac{1}{a^n}$$

$$a^0 = 1 \quad (a \neq 0)$$

对数

$$\log_a(xy) = \log_a x + \log_a y$$

$$\log_a \frac{x}{y} = \log_a x - \log_a y$$

$$\log_a x^n = n \log_a x$$

$$\log_a b = \frac{\ln b}{\ln a}$$

$$\ln e = 1, \quad \log_{10} 10 = 1$$

三角恒等式

基本关系：

$$\sin^2 x + \cos^2 x = 1$$

$$\tan x = \frac{\sin x}{\cos x}$$

和差角：

$$\sin(\alpha \pm \beta) = \sin\alpha \cos\beta \pm \cos\alpha \sin\beta$$

$$\cos(\alpha \pm \beta) = \cos\alpha \cos\beta \mp \sin\alpha \sin\beta$$

二倍角：

$$\sin 2x = 2 \sin x \cos x$$

$$\cos 2x = \cos^2 x - \sin^2 x = 1 - 2\sin^2 x = 2\cos^2 x - 1$$

半角：

$$\sin^2 \frac{x}{2} = \frac{1 - \cos x}{2}$$

$$\cos^2 \frac{x}{2} = \frac{1 + \cos x}{2}$$

和差化积：

$$\sin \alpha + \sin \beta = 2 \sin \frac{\alpha + \beta}{2} \cos \frac{\alpha - \beta}{2}$$

$$\cos \alpha + \cos \beta = 2 \cos \frac{\alpha + \beta}{2} \cos \frac{\alpha - \beta}{2}$$

解三角形

正弦定理：$\frac{a}{\sin A} = \frac{b}{\sin B} = \frac{c}{\sin C} = 2R$
余弦定理：$c^2 = a^2 + b^2 - 2ab \cos C$
三角形面积：$S = \frac{1}{2}ab \sin C = \frac{abc}{4R}$

解析几何

直线

点斜式：$y - y_0 = k(x - x_0)$
斜截式：$y = kx + b$
一般式：$Ax + By + C = 0$
两点距离：$d = \sqrt{(x_2-x_1)^2 + (y_2-y_1)^2}$
点到直线：$d = \frac{|Ax_0 + By_0 + C|}{\sqrt{A^2 + B^2}}$

圆

标准：$(x-a)^2 + (y-b)^2 = r^2$
一般：$x^2 + y^2 + Dx + Ey + F = 0$
圆心：$(-\frac{D}{2}, -\frac{E}{2})$，$r = \frac{\sqrt{D^2 + E^2 - 4F}}{2}$

椭圆 $\frac{x^2}{a^2} + \frac{y^2}{b^2} = 1$

$a > b > 0$
离心率 $e = c/a = \sqrt{1 - b^2/a^2}$
焦点 $F_1(-c, 0)$，$F_2(c, 0)$

双曲线 $\frac{x^2}{a^2} - \frac{y^2}{b^2} = 1$

离心率 $e = c/a = \sqrt{1 + b^2/a^2}$
渐近线 $y = \pm \frac{b}{a} x$

抛物线 $y^2 = 2px$

焦点 $(\frac{p}{2}, 0)$，准线 $x = -\frac{p}{2}$

微积分

极限

$$\lim_{x \to 0} \frac{\sin x}{x} = 1$$

$$\lim_{x \to 0} \frac{1 - \cos x}{x^2} = \frac{1}{2}$$

$$\lim_{x \to \infty} \left(1 + \frac{1}{x}\right)^x = e$$

常用导数

$f(x)$	$f’(x)$
$c$	$0$
$x^n$	$nx^{n-1}$
$e^x$	$e^x$
$a^x$	$a^x \ln a$
$\ln x$	$1/x$
$\log_a x$	$\frac{1}{x \ln a}$
$\sin x$	$\cos x$
$\cos x$	$-\sin x$
$\tan x$	$\sec^2 x$
$\arcsin x$	$\frac{1}{\sqrt{1-x^2}}$
$\arctan x$	$\frac{1}{1+x^2}$

常用积分

$f(x)$	$\int f(x) , dx$
$0$	$C$
$x^a$	$\frac{x^{a+1}}{a+1} + C$
$1/x$	$\ln
$e^x$	$e^x + C$
$\sin x$	$-\cos x + C$
$\cos x$	$\sin x + C$
$\sec^2 x$	$\tan x + C$
$\frac{1}{\sqrt{1-x^2}}$	$\arcsin x + C$
$\frac{1}{1+x^2}$	$\arctan x + C$

微分中值定理

罗尔：$f(a) = f(b)$，$\exists \xi \in (a, b)$，$f’(\xi) = 0$
拉格朗日：$\exists \xi$，$f’(\xi) = \frac{f(b)-f(a)}{b-a}$
柯西：$\exists \xi$，$\frac{f’(\xi)}{g’(\xi)} = \frac{f(b)-f(a)}{g(b)-g(a)}$

泰勒公式

$$f(x) = \sum_{n=0}^{\infty} \frac{f^{(n)}(x_0)}{n!}(x - x_0)^n$$

常用展开：

$$e^x = 1 + x + \frac{x^2}{2!} + \frac{x^3}{3!} + \cdots$$

$$\sin x = x - \frac{x^3}{3!} + \frac{x^5}{5!} - \cdots$$

$$\cos x = 1 - \frac{x^2}{2!} + \frac{x^4}{4!} - \cdots$$

$$\ln(1+x) = x - \frac{x^2}{2} + \frac{x^3}{3} - \cdots$$

$$\frac{1}{1-x} = 1 + x + x^2 + x^3 + \cdots$$

线性代数

矩阵

行列式（2x2）：$\begin{vmatrix} a & b \ c & d \end{vmatrix} = ad - bc$
矩阵乘法：$(AB){ij} = \sum_k A{ik} B_{kj}$
矩阵转置：$(A^T){ij} = A{ji}$
矩阵求逆：$A^{-1} = \frac{1}{\det A} A^$（$A^$ 是伴随矩阵）

特征值与特征向量

$$A \mathbf{v} = \lambda \mathbf{v}$$$$\det(A - \lambda I) = 0$$

重要矩阵

单位矩阵 $I$：对角线 1
零矩阵 $O$：全 0
对角矩阵 $\text{diag}(d_1, d_2, \ldots, d_n)$
对称矩阵 $A^T = A$
正交矩阵 $A^T A = I$

概率统计

概率公式

条件概率：$P(A|B) = \frac{P(AB)}{P(B)}$
全概率：$P(A) = \sum_i P(B_i) P(A|B_i)$
贝叶斯：$P(B_j|A) = \frac{P(B_j) P(A|B_j)}{\sum_i P(B_i) P(A|B_i)}$

常见分布

分布	期望	方差
0-1 (B(1, p))	$p$	$p(1-p)$
二项 B(n, p)	$np$	$np(1-p)$
泊松 P(λ)	$λ$	$λ$
指数 Exp(λ)	$1/λ$	$1/λ^2$
正态 N(μ, σ²)	$μ$	$σ^2$
均匀 U(a, b)	$(a+b)/2$	$(b-a)^2/12$

期望 / 方差性质

$E(c) = c$，$E(aX + b) = aE(X) + b$
$D(c) = 0$，$D(aX + b) = a^2 D(X)$
独立：$E(XY) = E(X)E(Y)$，$D(X+Y) = D(X) + D(Y)$

离散数学

集合

$|A \cup B| = |A| + |B| - |A \cap B|$
$|A \cup B \cup C| = |A|+|B|+|C| - |A \cap B| - |B \cap C| - |A \cap C| + |A \cap B \cap C|$

排列组合

排列：$P(n, k) = \frac{n!}{(n-k)!}$
组合：$C(n, k) = \binom{n}{k} = \frac{n!}{k!(n-k)!}$
性质：$C(n, k) = C(n, n-k)$，$C(n+1, k) = C(n, k) + C(n, k-1)$

鸽巢原理

把 $n+1$ 个物品放入 $n$ 个盒子，至少有一个盒子包含至少 2 个物品。

程序员常用

浮点数（IEEE 754）

单精度：32 位（1 符号 + 8 指数 + 23 尾数）
双精度：64 位（1 符号 + 11 指数 + 52 尾数）
精度：$2^{-23} \approx 1.19 \times 10^{-7}$（单精度）
舍入模式：最近偶数舍入（默认）

哈希

期望冲突：$\frac{k(k-1)}{2n}$（$k$ 个 key，$n$ 个 slot）
生日悖论：50% 冲突需要 $\approx 1.18\sqrt{n}$ 个 key

复杂度

主定理：$T(n) = aT(n/b) + f(n)$
- 若 $f(n) = O(n^{\log_b a - \epsilon})$，$T(n) = \Theta(n^{\log_b a})$
- 若 $f(n) = \Theta(n^{\log_b a})$，$T(n) = \Theta(n^{\log_b a} \log n)$
- 若 $f(n) = \Omega(n^{\log_b a + \epsilon})$，$T(n) = \Theta(f(n))$

在 5 个工程场景的应用

这一节给上面零散的公式穿上工程外衣——每个场景都对应到具体的代码 / 库 / 工具，让公式不再停留在纸面。

场景 1：哈希表与布隆过滤器

哈希函数的核心是把任意 key 映射到 [0, n) 的 slot：

1
2
3
4
5
6
7
8
9


# Python dict 用的是开放寻址 + SipHash（防 hash flooding 攻击）
# 期望冲突数：E[collisions] = k(k-1) / (2n) # k 个 key, n 个 slot
# 50% 冲突概率：k ≈ 1.177√n # 生日悖论

import hashlib

def my_hash(key: str, n: int) -> int:
 h = hashlib.sha256(key.encode()).digest()
 return int.from_bytes(h[:4], 'big') % n

布隆过滤器用 k 个哈希函数 + m 位数组，假阳率：

$$P_{fp} = \left(1 - e^{-kn/m}\right)^k$$

场景 2：密码学 / RSA

RSA 依赖三个数论核心：

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12


# 1. 模逆：a*x ≡ 1 (mod p) → 用扩展欧几里得算法
def modinv(a, p):
 return pow(a, p - 2, p) # 费马小定理，p 是质数

# 2. 欧拉函数：φ(n) = n * Π(1 - 1/p_i)
# 3. RSA：c = m^e mod n，m = c^d mod n (其中 d = modinv(e, φ(n)))

# 实际用 PyCryptodome
from Crypto.PublicKey import RSA
key = RSA.generate(2048)
cipher = key.encrypt(b"hello", None)
plain = key.decrypt(cipher)

关键定理：欧拉定理 $a^{\phi(n)} \equiv 1 \pmod n$、费马小定理 $a^{p-1} \equiv 1 \pmod p$（p 是质数）。

场景 3：CRC / 校验和

CRC（Cyclic Redundancy Check）= 多项式除法的余数。以太网、ZIP、PNG 全用它。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14


# CRC-32 (以太网)
import zlib

data = b"hello world"
crc = zlib.crc32(data) & 0xffffffff # 0x0d4a1185

# 手动算 CRC-8 (多项式 x^8 + x^2 + x + 1 = 0x07)
def crc8(data: bytes, poly=0x07, init=0x00) -> int:
 crc = init
 for byte in data:
 crc ^= byte
 for _ in range(8):
 crc = (crc >> 1) ^ (poly & -(crc & 1))
 return crc & 0xff

关键数学：有限域 GF(2⁸) 上的多项式模 2 除法。

场景 4：图像 / 音视频处理

旋转、缩放、JPEG 压缩、音频 EQ——全是三角函数 + 傅里叶变换。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13


# 2D 旋转（围绕原点）
import math

def rotate(x, y, theta_deg):
 t = math.radians(theta_deg)
 return (x * math.cos(t) - y * math.sin(t),
 x * math.sin(t) + y * math.cos(t))

# 离散傅里叶变换（手写太慢，用 numpy）
import numpy as np

def spectrum(signal):
 return np.abs(np.fft.fft(signal)) # 时域 → 频域

关键公式：

欧拉公式：$e^{i\theta} = \cos\theta + i\sin\theta$
离散傅里叶：$X_k = \sum_{n=0}^{N-1} x_n \cdot e^{-2\pi i kn/N}$

场景 5：机器学习 / 深度学习

ML/DL 整个底层都依赖线性代数 + 概率 + 微积分。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22


# 1. 矩阵乘法：神经网络的前向传播
import numpy as np

X = np.random.randn(64, 784) # 64 个样本，784 维
W1 = np.random.randn(784, 128)
h = np.maximum(0, X @ W1) # ReLU 激活

# 2. 梯度下降：∂L/∂W = (∂L/∂h) · (∂h/∂W)
# PyTorch 替你算
import torch
import torch.nn as nn

model = nn.Linear(784, 10)
loss_fn = nn.CrossEntropyLoss()
optimizer = torch.optim.SGD(model.parameters(), lr=0.01)

for x, y in dataloader:
 pred = model(x)
 loss = loss_fn(pred, y)
 loss.backward() # 反向传播（链式法则）
 optimizer.step() # 梯度下降
 optimizer.zero_grad()

关键概念：

链式法则：$\frac{\partial L}{\partial x} = \frac{\partial L}{\partial y} \cdot \frac{\partial y}{\partial x}$（autograd 的数学基础）
Softmax：$\sigma(z_i) = \frac{e^{z_i}}{\sum_j e^{z_j}}$（多分类概率化）
交叉熵：$H(p, q) = -\sum_i p_i \log q_i$（分类损失）

场景 6（赠送）：素数判定

密码学、哈希、布隆过滤器都依赖大素数：

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21


# Miller-Rabin 素性测试
import random

def is_prime(n, k=20):
 if n < 2: return False
 for p in [2, 3, 5, 7, 11, 13, 17, 19, 23, 29]:
 if n % p == 0: return n == p
 d, r = n - 1, 0
 while d % 2 == 0:
 d //= 2
 r += 1
 for _ in range(k):
 a = random.randrange(2, n - 1)
 x = pow(a, d, n)
 if x == 1 or x == n - 1: continue
 for _ in range(r - 1):
 x = pow(x, 2, n)
 if x == n - 1: break
 else:
 return False
 return True

上面 6 个场景的代码没有一个是"为了学数学而学数学"——全都是生产代码里会碰到的真实问题。数学不是装饰品，是工具。

下一步

微积分体系，看 2017-09-15《高等数学知识体系》
算法 / 数据结构，看 2012-08-17《常见排序算法完全指南》

参考资料

《数学手册》高等教育出版社
程序员数学入门：https://math.erucireu.dev/
Wolfram MathWorld：https://mathworld.wolfram.com/

离散数学与初等数论入门：素数、对数、集合与图论精要

Fri, 15 Jan 2016 00:00:00 +0800

背景：程序员的数学基础课——素数判定、对数反运算、集合论、图论、代数结构、组合数学、数理逻辑。本文用 7 大离散数学分支 + 5 大数论核心 + 4 大图论应用，把"程序员必备数学"做一次系统梳理。

Why 2016 年：2015-2016 是国内"程序员数学基础"觉醒期——LeetCode 中文站上线、《算法导论》第 3 版翻译、《数学之美》《程序员的数学》系列书热销。本文写给"想补数学基础的工程师"。

一、素数（质数）：自然数的"原子"

1.1 定义

素数（Prime）：在大于 1 的自然数中，除了 1 和该数自身外，无法被其他自然数整除的数；否则称为合数（Composite）。

1

2, 3, 5, 7, 11, 13, 17, 19, 23, 29, 31, 37, 41, 43, 47, 53, 59, 61, 67, 71, 73, 79, 83, 89, 97...

1.2 素数的 5 个性质

性质	说明
唯一性	1 既不是素数也不是合数（特例）
2 是唯一偶素数	其他素数都是奇数
素数无穷	欧几里得 2000 多年前证明：素数有无穷多个
素数定理	π(x) ~ x / ln(x)（x 越小越准，100 内有 25 个，1000 内有 168 个）
算术基本定理	任何大于 1 的整数都能唯一分解为素数乘积（如 12 = 2² × 3）

1.3 程序员最常用的素数判定

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19


import math

def is_prime(n: int) -> bool:
 """素数判定：试除法 O(√n)"""
 if n < 2:
 return False
 if n == 2:
 return True
 if n % 2 == 0:
 return False
 # 只需检查到 √n
 for i in range(3, int(math.isqrt(n)) + 1, 2):
 if n % i == 0:
 return False
 return True

# 测试
for n in [2, 3, 4, 17, 25, 97, 100, 997]:
 print(f"{n}: {is_prime(n)}")

1
2
3
4
5
6
7
8
9


# 输出
2: True
3: True
4: False
17: True
25: False
97: True
100: False
997: True

性能优化：

6k±1 优化：所有 >3 的素数都形如 6k+1 或 6k-1（因为 6k+0/2/3/4 必被 2/3 整除）

Miller-Rabin：O(k log³n) 概率算法，大数判定（>10^18）首选

AKS：O(log^6 n) 确定算法，2002 年发现，理论突破但实际慢

1.4 素数在程序员世界的应用

应用	原理
RSA 加密	大素数乘积难分解（密码学基石）
哈希表大小	素数大小让哈希分布更均匀（避免聚集）
布隆过滤器	多哈希函数选素数种子
一致性哈希	2^N 环设计避免素数依赖，但部分实现用素数
雪花 ID	基于时间戳 + 序列号（与素数无关，但雪花的"位运算分配"思想类似）

二、对数：指数的"反函数"

2.1 定义

对数（Logarithm）：是对求幂的逆运算，正如除法是乘法的逆运算。如果 a^x = N（a > 0，且 a ≠ 1），那么数 x 叫做以 a 为底 N 的对数，记作 x = log_a(N)。

名称	a（底数）	N（真数）	x（对数）
常用对数	10	100	2（因为 10² = 100）
自然对数	e ≈ 2.718	7.389	2（因为 e² ≈ 7.389）
二进制对数	2	8	3（因为 2³ = 8）

2.2 程序员最常用的 3 个对数

 1
 2
 3
 4
 5
 6
 7
 8
 9
10


import math

# 自然对数（ln）：e 为底
print(math.log(7.389)) # 2.0

# 常用对数（lg）：10 为底
print(math.log10(100)) # 2.0

# 二进制对数（lb）：2 为底（算法复杂度分析最常用！）
print(math.log2(1024)) # 10.0（二分 10 次找到 1024 内的数）

2.3 对数在算法分析中的 5 大应用

应用	例子
二分查找	O(log n)：100 万数据最多 20 次比较（log₂ 10⁶ ≈ 20）
二叉树高度	n 个节点的平衡二叉树高度 = ⌈log₂ n⌉
堆/优先队列	插入/删除 O(log n)
B+ 树索引	数据库索引查找 O(log n)（n 是记录数）
归并排序	递归深度 O(log n)

2.4 4 条核心对数运算法则

1
2
3
4


换底公式：log_a(b) = log_c(b) / log_c(a)
对数幂：log(a^n) = n · log(a)
对数乘积：log(a·b) = log(a) + log(b)
对数商：log(a/b) = log(a) - log(b)

三、离散数学 7 大分支

离散数学（Discrete mathematics）是研究离散量的结构及其相互关系的数学学科，是现代数学的一个重要分支。离散的含义是指不同的连接在一起的元素，主要是研究基于离散量的结构和相互间的关系。

它的对象一般是有限个或可数个元素（连续数学研究的是实数区间这样的连续量）。

3.1 离散数学在 CS 课程中的位置

 1
 2
 3
 4
 5
 6
 7
 8
 9
10


程序设计语言
数据结构
操作系统
编译技术
人工智能
数据库
算法设计与分析
理论计算机科学基础
↑
都依赖 离散数学

3.2 7 大分支速览

分支	核心内容	程序员应用
集合论	集合运算、二元关系、函数、自然数集、基数	SQL JOIN、Map/Set 数据结构
图论	图、欧拉/哈密顿图、树、矩阵、平面图、图着色	网络拓扑、依赖分析、社交网络
代数结构	半群、独异点、群、环、域、格、布尔代数	密码学、自动机理论
组合数学	组合存在性、计数公式、组合定理	算法复杂度、概率分析
数理逻辑	命题逻辑、一阶谓词演算、消解原理	形式化验证、AI 推理
数论	素数、同余、模运算、欧拉函数	RSA 加密、哈希、雪花 ID
计算模型	自动机、图灵机、可计算性	编译原理、算法理论

四、集合论（Set Theory）

4.1 5 大核心概念

概念	符号	说明
集合	`{a, b, c}`	元素的无序整体
子集	A ⊆ B	A 的所有元素都在 B 中
并集	A ∪ B	属于 A 或 B 的所有元素
交集	A ∩ B	同时属于 A 和 B 的元素
差集	A - B	属于 A 但不属于 B 的元素

4.2 程序员对应实现

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15


// Java
Set<Integer> a = new HashSet<>(Arrays.asList(1, 2, 3));
Set<Integer> b = new HashSet<>(Arrays.asList(3, 4, 5));

// 并集
Set<Integer> union = new HashSet<>(a);
union.addAll(b); // [1, 2, 3, 4, 5]

// 交集
Set<Integer> intersection = new HashSet<>(a);
intersection.retainAll(b); // [3]

// 差集
Set<Integer> difference = new HashSet<>(a);
difference.removeAll(b); // [1, 2]

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12


-- SQL：集合的并集（UNION）、交集（INTERSECT）、差集（EXCEPT）
SELECT id FROM table_a
UNION
SELECT id FROM table_b;

SELECT id FROM table_a
INTERSECT
SELECT id FROM table_b;

SELECT id FROM table_a
EXCEPT
SELECT id FROM table_b;

4.3 集合论 3 大基础

主题	核心内容
集合及其运算	并、交、差、补、笛卡尔积
二元关系与函数	关系的性质（自反/对称/传递）、函数（单射/满射/双射）
自然数与自然数集	皮亚诺公理、归纳法、超限归纳

五、图论（Graph Theory）

5.1 6 大基本概念

概念	说明
图的基本概念	顶点（V）、边（E）、邻接、度、路径
欧拉图	经过每条边恰好一次的回路（七桥问题）
哈密顿图	经过每个顶点恰好一次的回路（旅行商问题）
树	无环连通图，n 个顶点有 n-1 条边
图的矩阵表示	邻接矩阵、关联矩阵、距离矩阵
平面图	可画在平面上边不相交（欧拉公式 V-E+F=2）

5.2 5 类图着色问题

1
2
3
4
5


支配集：选出最少的顶点"监视"所有顶点
覆盖集：选出最少的边"覆盖"所有顶点
独立集：选出最多的顶点两两不相邻
匹配：选出最多的边两两不共享顶点
带权图：边上加权（最短路径、最小生成树）

5.3 程序员最常用的 5 个图算法

算法	应用	复杂度
Dijkstra	最短路径（Google 地图）	O(V²) 或 O((V+E)logV)
Floyd-Warshall	全对最短路径	O(V³)
A*	启发式搜索（游戏寻路）	取决于启发函数
BFS/DFS	拓扑排序、连通分量	O(V+E)
Kruskal/Prim	最小生成树（网络布线）	O(E log E)

5.4 图在程序员世界的 7 大应用

应用	图模型
社交网络	用户=顶点，好友=边
互联网路由	路由器=顶点，链路=边
编译依赖	模块=顶点，import=边
数据库 JOIN	表=顶点，关联=边
知识图谱	实体=顶点，关系=边
任务调度	任务=顶点，依赖=边
推荐系统	用户-商品二分图

六、代数结构

6.1 5 大基本结构

结构	性质	例子
半群	封闭 + 结合	正整数加法、字符串拼接
独异点（幺半群）	半群 + 单位元	整数加法（0 是单位元）
群	独异点 + 逆元	整数加法、置换群
环	加法群 + 乘法半群	整数环、多项式环
域	环 + 乘法逆元	有理数域、有限域 GF(2ⁿ)

6.2 4 个衍生结构

结构	性质	例子
格	两个运算满足吸收律、结合律、交换律	幂集（按包含序）
布尔代数	有补格	开关电路、SQL 谓词
代数系统	集合 + 运算 + 关系	自然数、整数
半群/独异点/群/环/域/格	一层层严格	抽象代数主线

6.3 程序员最常用：有限域 GF(2⁸)

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16


# AES 加密用 GF(2^8) 域
def gf_mult(a, b):
 """GF(2^8) 上的多项式乘法（不可约多项式 x^8 + x^4 + x^3 + x + 1 = 0x11B）"""
 p = 0
 for _ in range(8):
 if b & 1:
 p ^= a
 hi_bit = a & 0x80
 a = (a << 1) & 0xFF
 if hi_bit:
 a ^= 0x1B # 不可约多项式
 b >>= 1
 return p

# 测试
print(hex(gf_mult(0x57, 0x83))) # AES 中的核心运算

七、组合数学

7.1 4 大计数公式

公式	表达式	适用
排列 P	P(n, k) = n! / (n-k)!	顺序敏感
组合 C	C(n, k) = n! / (k!(n-k)!)	顺序无关
重复组合	C(n+k-1, k)	允许重复
错排	D(n) = n!(1 - 1/1! + 1/2! - 1/3! + …)	都不在原位

7.2 5 大计数定理

定理	说明
鸽巢原理	n+1 个物体放 n 个抽屉，至少 1 个抽屉有 2 个
二项式定理	(a+b)ⁿ = Σ C(n,k) aⁿ⁻ᵏ bᵏ
容斥原理	\|A∪B∪C\| = Σ\|Aᵢ\| - Σ\|Aᵢ∩Aⱼ\| + \|A∩B∩C\|
生成函数	用多项式系数表示组合数
递推关系	斐波那契 f(n) = f(n-1) + f(n-2)

7.3 程序员应用

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15


# 二项式系数：Pascal 三角形
def binomial_coefficient(n, k):
 if k < 0 or k > n:
 return 0
 if k == 0 or k == n:
 return 1
 return binomial_coefficient(n-1, k-1) + binomial_coefficient(n-1, k)

# 错排：5 个人各写 1 张贺卡，都不寄给自己
def derangement(n):
 if n == 0: return 1
 if n == 1: return 0
 return (n - 1) * (derangement(n-1) + derangement(n-2))

print(derangement(5)) # 44

八、数理逻辑

8.1 3 大核心

主题	核心内容
命题逻辑	命题、联结词（∧ ∨ ¬ → ↔）、真值表、永真式
一阶谓词演算	量词（∀ ∃）、谓词、函数、推理规则
消解原理	Robinson 1965，机器定理证明的通用算法

8.2 5 大经典推理规则

名称	形式	例子
假言推理	(P→Q, P) ⊢ Q	如果下雨，地会湿；下雨了；所以地湿了
拒取式	(P→Q, ¬Q) ⊢ ¬P	如果下雨，地会湿；地没湿；所以没下雨
假言三段论	(P→Q, Q→R) ⊢ P→R	下雨→地湿；地湿→滑；所以下雨→滑
析取三段论	(P∨Q, ¬P) ⊢ Q	买可乐或雪碧；不买可乐；所以买雪碧
全称实例化	∀x P(x) ⊢ P(a)	所有动物会死；苏格拉底是动物；所以苏格拉底会死

8.3 程序员应用：SQL 谓词逻辑

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11


-- 谓词演算 → SQL WHERE
-- ∀x (学生(x) → 选课(x))
SELECT s.id
FROM student s
WHERE EXISTS (SELECT 1 FROM course_selection c WHERE c.student_id = s.id);

-- ∃x (学生(x) ∧ 成绩(x) >= 90)
SELECT s.id, s.name
FROM student s
JOIN score sc ON sc.student_id = s.id
WHERE sc.score >= 90;

九、5 个数学基础速查表

9.1 自然数对数表

n	log₂ n	log₁₀ n	ln n
10	3.32	1.00	2.30
100	6.64	2.00	4.61
1000	9.97	3.00	6.91
10⁶	19.93	6.00	13.82
10⁹	29.90	9.00	20.72

9.2 常用数学符号

符号	含义	例子
∈	属于	3 ∈ {1, 2, 3}
⊆	子集	{1,2} ⊆ {1,2,3}
∪ ∩	并集交集	A ∪ B, A ∩ B
∀ ∃	全称存在	∀x P(x), ∃x P(x)
→ ↔	蕴含等价	P→Q, P↔Q
∧ ∨ ¬	与或非	P∧Q, P∨Q, ¬P
Σ Π	求和求积	Σᵢ₌₁ⁿ i = n(n+1)/2
∫ ∂ ∇	积分偏导梯度	（连续数学）

9.3 初等代数恒等式

1
2
3
4


完全平方：(a±b)² = a² ± 2ab + b²
立方和：a³ + b³ = (a+b)(a² - ab + b²)
立方差：a³ - b³ = (a-b)(a² + ab + b²)
二次方程求根：x = (-b ± √(b² - 4ac)) / 2a

9.4 几何基础

图形	面积	周长
圆	πr²	2πr
矩形	a·b	2(a+b)
三角形	√(s(s-a)(s-b)(s-c))	a+b+c
球	4πr²	-
立方体	6a²	12a

9.5 概率统计速查

公式	表达式
加法	P(A∪B) = P(A) + P(B) - P(A∩B)
乘法	P(A∩B) = P(A)·P(B\|A)
全概率	P(B) = Σ P(B\|Aᵢ)·P(Aᵢ)
贝叶斯	P(A\|B) = P(B\|A)·P(A) / P(B)
期望	E[X] = Σ x·P(x)
方差	Var(X) = E[X²] - (E[X])²

十、4 大推荐教材

教材	适用	难度
《程序员的数学》（结城浩）	入门	★★
《数学之美》（吴军）	应用视角	★★
《算法导论》（CLRS）	算法+数学	★★★★
《离散数学及其应用》（Rosen）	系统学习	★★★

十一、参考与延伸

Prime Pages（素数数据库）：https://primes.utm.edu/
Wolfram MathWorld：https://mathworld.wolfram.com/
图论算法可视化：https://visualgo.net/zh
MIT 6.042J 离散数学（OCW）：https://ocw.mit.edu/courses/6-042j-mathematics-for-computer-science-fall-2010/
陶哲轩《实分析》：https://terrytao.wordpress.com/books/

下一步：先把《程序员的数学》通读一遍（2-3 周），再选《算法导论》部分章节深入；接下来在 LeetCode 上有意识地用数学思维（如用对数法分析时间复杂度、用素数优化哈希）。

十二、2024+ 视角：8 年后，程序员的数学基础变了吗？

本文写于 2016 年 1 月。8 年后（2024-2026）回望，7 大离散数学分支 + 5 大数论核心 + 4 大图论应用——这套"老菜单"依然有效，但每道菜都多了一层"AI 时代"的浇头。下面逐条对照。

12.1 素数：8 年后的新角色

2016 年我写"素数 = RSA + 哈希表"。2024-2026 素数的新角色：

后量子密码学（Post-Quantum Cryptography, PQC）——2024-08 NIST 正式发布 PQC 标准
- ML-KEM（原 Kyber，格密码 / Lattice-based）——核心仍依赖有限域运算 + 素数
- ML-DSA（原 Dilithium）——签名算法，基于模运算 + 拒绝采样
- SLH-DSA（原 SPHINCS+）——哈希签名，只依赖哈希函数（无素数）
国密算法 SM2/SM3/SM4——等保 2.0 三级强制要求，SM2 基于 256 位素数域椭圆曲线
零知识证明（ZKP）——zk-SNARK、zk-STARK 在区块链 + 隐私计算中爆发，核心数学是素数域 + 多项式承诺
RSA 仍在用——2024-2026 仍是 80% HTTPS 站点的主流算法，2048 位 / 4096 位 RSA 是事实标准

关键变化：素数从"经典密码学"扩展到"后量子密码 + 零知识证明 + 国产化合规"——8 年后素数仍是程序员必须懂的"硬数学"。

12.2 对数：LLM 时代的新复杂度

2016 年我写"对数 = O(log n) 时间复杂度"。2024-2026 对数有了新战场：

Transformer 复杂度：
- 标准 Attention：O(n²)（n 是序列长度）——128K 上下文就是 163 亿次运算
- FlashAttention：O(n log n) 显存、实际计算仍是 O(n²)——2022-2024 主流优化
- Linear Attention（Performer / Mamba）：O(n)——2024-2026 正在突破的方向
Token 经济学：
- LLM 推理时 KV Cache 占显存 O(n²)——各种压缩方案都在用对数技巧
- 上下文长度 1M（Llama 4 2025 目标）需要 Sub-quadratic 算法——对数是关键
时间复杂度面试新题：
- 2024 面试题：“为什么 Attention 是 O(n²)？”
- 2024 面试题：“如何把 Attention 优化到 O(n log n)？”
- 2024 面试题：“KV Cache 怎么压缩？”

关键变化：对数从"二分查找"扩展到"LLM 复杂度分析"——8 年后对数仍是计算机科学的"复杂度语言"。

12.3 集合论 / 图论：RAG 与知识图谱的基础

2016 年我写"集合论 = SQL 基础"。2024-2026 集合论 / 图论的新角色：

RAG（检索增强生成）——本质是集合论 + 向量空间：
- 文档 → Embedding → 集合 Top-K 查询
- 关系代数（UNION / INTERSECT / JOIN）在 RAG pipeline 里反复出现
知识图谱——图论 + Embedding：
- Microsoft GraphRAG（2024 发布）——基于 LLM 抽取实体关系，建图
- Neo4j 5.x + LangChain——2024-2026 知识图谱 + LLM 主流方案
- 实体关系（Entity-Relation） = 图论里的"边"+“顶点”
图神经网络（GNN）——图论 + 深度学习：
- 药物发现（分子结构 = 图）——2024-2026 大爆发
- 推荐系统（用户-商品二分图）——几乎所有大厂都在用
- 社交网络分析——Facebook / 微信的"朋友推荐"
数据库 JOIN 优化——图论 + 关系代数的回旋镖：
- 2024-2026 图数据库（Neo4j / TigerGraph / NebulaGraph）爆发
- SQL + Graph Hybrid 成为新趋势

关键变化：集合论 / 图论从"数据库基础"扩展到"RAG + 知识图谱 + GNN"——8 年后图论成为 AI 时代"数据建模"的核心语言。

12.4 代数结构 / 数理逻辑：形式化验证与 AI 推理

2016 年我写"代数结构 = 密码学"。2024-2026 新角色：

形式化验证（Formal Verification）：
- Lean 4 + Mathlib（2024-2026 爆发）——用数理逻辑证明数学定理
- Coq / Isabelle / TLA+——形式化验证工业软件
- AWS 用 TLA+ 验证 S3 正确性——经典案例
AI 自动定理证明：
- DeepMind AlphaProof（2024-07，IMO 银牌）——AI 解数学题
- OpenAI o1/o3 系列——Chain-of-Thought 推理的工业化
- Lean Copilot（2024）——AI + Lean 4 证明助手
约束求解（SMT Solver）：
- Z3——程序分析、编译器优化、形式化验证的核心
- SMT-LIB——形式化逻辑标准语言
格密码（Lattice-based Cryptography）：
- LWE / RLWE 问题——后量子密码学基础
- 格理论（Lattice Theory） = 离散数学的"现代分支"

关键变化：代数结构 / 数理逻辑从"教科书理论"走向"AI 推理 + 形式化验证"——8 年后数理逻辑成为 AI 推理的"形式化底层"。

12.5 组合数学：算法竞赛 → AI 推理

2016 年组合数学主要用于"算法竞赛 + 概率分析"。2024-2026 新场景：

AI 推理的组合优化：
- Chain-of-Thought 路径搜索 = 图搜索 + 组合
- Tree-of-Thoughts / Graph-of-Thoughts（2023-2024）= 显式的组合搜索
密码学协议：
- 安全多方计算（MPC）——基于秘密分享 + 组合数学
- 同态加密——基于格 + 模运算 + 组合优化
生成式 AI：
- 采样算法（MCMC / 拒绝采样 / 重要性采样）= 组合数学 + 概率

关键变化：组合数学从"竞赛技巧"扩展到"AI 推理路径搜索"——8 年后组合数学成为 AI 系统设计的"组合优化"工具。

12.6 计算模型：图灵机 → 神经网络的"可计算性"

2016 年我说"图灵机 = 理论 CS 的基础"。2024-2026 新思考：

大语言模型能"计算"吗？——这是个 2023-2026 仍在争论的哲学问题
Transformer 是图灵完备的（已被严格证明）——但它的"计算范式"和图灵机完全不同
神经图灵机 / 神经 RAM（2024-2026 探索中）——结合神经网络 + 外部记忆
可解释性 / 形式化推理——2024-2026 在"AI 可解释"领域，数理逻辑 + 计算模型仍是基础

关键变化：计算模型从"理论 CS 课程"扩展到"AI 系统的可计算性 / 可解释性"——8 年后计算模型成为 AI 系统的"理论根基"。

12.7 8 年对照表

分支	2016 应用	2024-2026 应用
素数	RSA / 哈希	后量子密码 / SM 国密 / ZKP
对数	`O(log n)` / 二分查找	LLM 复杂度 / Token 经济学 / KV Cache
集合论	SQL / 关系代数	RAG / Embedding 集合 / 向量库
图论	网络拓扑 / 依赖分析	知识图谱 / GNN / 图数据库
代数结构	密码学 / 有限域	格密码 / 同态加密 / MPC
数理逻辑	谓词逻辑 / Prolog	形式化验证 / Lean 4 / AI 推理
组合数学	算法竞赛 / 概率	AI 推理路径搜索 / MCMC
计算模型	图灵机 / 自动机	Transformer 可计算性 / AI 解释

12.8 8 年升级版书单

2016 年我推荐 4 本书。2024 年我会加 3 本：

教材	主题	2024 价值
《Mathematics for Machine Learning》（MML Book）	线性代数 + 概率 + 优化	入门 ML 必备数学
《Information Theory, Inference, and Learning Algorithms》（David MacKay）	信息论 + 编码 + 推理	理解 LLM 原理
《Computational Complexity: A Modern Approach》（Arora, Barak）	计算复杂性理论	深入 AI 系统的理论极限

外加 3 个免费在线资源：

3Blue1Brown（YouTube / B 站）——线性代数 / 微积分 / 信息论可视化
MIT 18.065 Matrix Methods in Data Analysis（OCW）——线性代数应用
Distill.pub（归档前存档）——深度学习可视化讲解

12.9 8 年前 vs 8 年后：写给"想补数学基础"的工程师

2016 年的建议：

“想补数学基础 → 读 Rosen 离散数学 → 读 CLRS 算法导论 → 在 LeetCode 上用数学思维”

2024 年的升级版建议：

“想补数学基础 → 读 Rosen 离散数学（仍是基础）→ 读 MML Book 入门 ML 数学 → 读《Lean 4 定理证明导论》入门形式化 → 在 LLM 应用上用数学思维（RAG / Embedding / 知识图谱）”

核心变化：8 年后离散数学没变，ML 数学 + 形式化验证是新基础。RAG 时代补数学，MML Book + 信息论 + 一点 Lean 4 比单纯啃 CLRS 更实用。

12.10 写在最后

2016 年我写"想补数学基础的工程师从 LeetCode 开始"。8 年后我想说：

LeetCode 仍然是好起点，但终点已经变了——
2016 年终点是"写出高效的算法"
2024 年终点是"用数学理解 LLM 的能力边界"

离散数学、线性代数、概率论、数理逻辑——这 4 门课是 8 年不变的"硬基础"；信息论、计算复杂性、形式化验证——这 3 门是 2024-2026 的"新基础"。

8 年前我担心"被数学卡住 5 分钟"，
8 年后我担心"被 AI 系统的数学基础卡住 5 小时"。

数学不会变老，只是换了个地方等我们回来。