一、数学期望
期望(均值)刻画随机变量的平均取值。离散型按取值加权平均,连续型按积分:
$$E[X]=\sum_i x_i p_i\quad(\text{离散});\qquad E[X]=\int_{-\infty}^{+\infty}x\,f(x)\,dx\quad(\text{连续})$$
一般函数 $Y=g(X)$ 的期望:$E[g(X)]=\sum_i g(x_i)p_i$ 或 $\int g(x)f(x)\,dx$。线性性质:$E[aX+b]=aE[X]+b$。更一般地,对随机向量 $E[aX+bY]=aE[X]+bE[Y]$。
二、方差与标准差
方差度量取值相对均值的偏离程度,标准差为其平方根:
$$D[X]=E\!\big[(X-E[X])^2\big]=E[X^2]-\big(E[X]\big)^2$$
$$\sigma_X=\sqrt{D[X]}$$
常用性质:$D[aX+b]=a^2D[X]$;$D(X+Y)=D(X)+D(Y)+2\operatorname{Cov}(X,Y)$;若独立则 $D(X+Y)=D(X)+D(Y)$。
三、矩
原点矩与中心矩是对分布形状的更精细刻画:
$$k\text{ 阶原点矩: }\nu_k=E[X^k]$$
$$k\text{ 阶中心矩: }\mu_k=E\!\big[(X-E[X])^k\big]$$
一阶原点矩即期望 $\nu_1=E[X]$;二阶中心矩即方差 $\mu_2=D[X]$。三阶中心矩(标准化后)刻画偏度,四阶刻画峰度。
四、协方差矩阵
对随机向量 $\mathbf X=(X_1,\dots,X_n)^T$:
$$\Sigma_{ij}=\operatorname{Cov}(X_i,X_j)=E[(X_i-\mu_i)(X_j-\mu_j)]$$
对角元 $\Sigma_{ii}=D(X_i)$ 为各分量方差;$\Sigma$ 对称半正定。它是多维数字特征的核心,广泛用于主成分分析、高斯过程等。
五、切比雪夫不等式
对任意随机变量 $X$(只要方差存在),偏离均值超过 $\varepsilon$ 的概率被方差所控制:
$$P\!\big(|X-\mu|\ge\varepsilon\big)\le\frac{\sigma^2}{\varepsilon^2},\qquad \mu=E[X],\ \sigma^2=D[X]$$
等价形式:$P(|X-\mu|\lt\varepsilon)\ge1-\sigma^2/\varepsilon^2$。它是大数定律的理论基础,也是不需知道分布具体形式即可给出的概率上界。
六、常见分布的期望与方差
| 分布 | 期望 | 方差 |
|---|---|---|
| 二项 $B(n,p)$ | $np$ | $np(1-p)=npq$ |
| 泊松 $P(\lambda)$ | $\lambda$ | $\lambda$ |
| 均匀 $U(a,b)$ | $\dfrac{a+b}{2}$ | $\dfrac{(b-a)^2}{12}$ |
| 指数 $\operatorname{Exp}(\lambda)$ | $1/\lambda$ | $1/\lambda^2$ |
| 正态 $N(\mu,\sigma^2)$ | $\mu$ | $\sigma^2$ |
正态的参数 $(\mu,\sigma^2)$ 正好就是期望与方差——这是正态分布的方便之处:知其二即知全貌。
七、例题与解答
例题1 · 求期望与方差
设 $X\sim B(10,0.3)$,求 $E[X]$ 与 $D[X]$。
解:由二项分布的公式:
$$E[X]=np=10\times0.3=3,\qquad D[X]=npq=10\times0.3\times0.7=2.1.$$
例题2 · 切比雪夫估计概率上界
设 $E[X]=2$,$D[X]=1$。估计 $P(|X-2|\ge3)$ 的上界。
解:取 $\varepsilon=3$,由切比雪夫不等式:
$$P(|X-2|\ge3)\le\frac{D[X]}{\varepsilon^2}=\frac{1}{9}\approx0.111.$$
即在不知分布的情况下,可断言该概率不超过约 $11.1\%$。
八、本章小结
- 期望 $E[X]=\sum x_ip_i$(离散)或 $\int x f(x)\,dx$(连续);方差 $D[X]=E[X^2]-E[X]^2$,标准差 $\sigma=\sqrt{D[X]}$。
- 矩:原点矩 $\nu_k=E[X^k]$,中心矩 $\mu_k=E[(X-E[X])^k]$;$\mu_2=D[X]$。
- 协方差矩阵 $\Sigma_{ij}=\operatorname{Cov}(X_i,X_j)$ 刻画多维离散与相关。
- 切比雪夫不等式:$P(|X-\mu|\ge\varepsilon)\le\sigma^2/\varepsilon^2$,提供无分布假设的概率上界。
- 熟记:二项 $np,npq$;泊松 $\lambda,\lambda$;正态 $\mu,\sigma^2$。
互动演示
拖动下方控件观察动态过程。