一、数学期望

期望(均值)刻画随机变量的平均取值。离散型按取值加权平均,连续型按积分:

$$E[X]=\sum_i x_i p_i\quad(\text{离散});\qquad E[X]=\int_{-\infty}^{+\infty}x\,f(x)\,dx\quad(\text{连续})$$

一般函数 $Y=g(X)$ 的期望:$E[g(X)]=\sum_i g(x_i)p_i$ 或 $\int g(x)f(x)\,dx$。线性性质:$E[aX+b]=aE[X]+b$。更一般地,对随机向量 $E[aX+bY]=aE[X]+bE[Y]$。

二、方差与标准差

方差度量取值相对均值的偏离程度,标准差为其平方根:

$$D[X]=E\!\big[(X-E[X])^2\big]=E[X^2]-\big(E[X]\big)^2$$

$$\sigma_X=\sqrt{D[X]}$$

常用性质:$D[aX+b]=a^2D[X]$;$D(X+Y)=D(X)+D(Y)+2\operatorname{Cov}(X,Y)$;若独立则 $D(X+Y)=D(X)+D(Y)$。

三、矩

原点矩与中心矩是对分布形状的更精细刻画:

$$k\text{ 阶原点矩: }\nu_k=E[X^k]$$

$$k\text{ 阶中心矩: }\mu_k=E\!\big[(X-E[X])^k\big]$$

一阶原点矩即期望 $\nu_1=E[X]$;二阶中心矩即方差 $\mu_2=D[X]$。三阶中心矩(标准化后)刻画偏度,四阶刻画峰度。

四、协方差矩阵

对随机向量 $\mathbf X=(X_1,\dots,X_n)^T$:

$$\Sigma_{ij}=\operatorname{Cov}(X_i,X_j)=E[(X_i-\mu_i)(X_j-\mu_j)]$$

对角元 $\Sigma_{ii}=D(X_i)$ 为各分量方差;$\Sigma$ 对称半正定。它是多维数字特征的核心,广泛用于主成分分析、高斯过程等。

五、切比雪夫不等式

对任意随机变量 $X$(只要方差存在),偏离均值超过 $\varepsilon$ 的概率被方差所控制:

$$P\!\big(|X-\mu|\ge\varepsilon\big)\le\frac{\sigma^2}{\varepsilon^2},\qquad \mu=E[X],\ \sigma^2=D[X]$$

等价形式:$P(|X-\mu|\lt\varepsilon)\ge1-\sigma^2/\varepsilon^2$。它是大数定律的理论基础,也是不需知道分布具体形式即可给出的概率上界。

六、常见分布的期望与方差

分布期望方差
二项 $B(n,p)$$np$$np(1-p)=npq$
泊松 $P(\lambda)$$\lambda$$\lambda$
均匀 $U(a,b)$$\dfrac{a+b}{2}$$\dfrac{(b-a)^2}{12}$
指数 $\operatorname{Exp}(\lambda)$$1/\lambda$$1/\lambda^2$
正态 $N(\mu,\sigma^2)$$\mu$$\sigma^2$

正态的参数 $(\mu,\sigma^2)$ 正好就是期望与方差——这是正态分布的方便之处:知其二即知全貌。

七、例题与解答

例题1 · 求期望与方差

设 $X\sim B(10,0.3)$,求 $E[X]$ 与 $D[X]$。

解:由二项分布的公式:

$$E[X]=np=10\times0.3=3,\qquad D[X]=npq=10\times0.3\times0.7=2.1.$$

例题2 · 切比雪夫估计概率上界

设 $E[X]=2$,$D[X]=1$。估计 $P(|X-2|\ge3)$ 的上界。

解:取 $\varepsilon=3$,由切比雪夫不等式:

$$P(|X-2|\ge3)\le\frac{D[X]}{\varepsilon^2}=\frac{1}{9}\approx0.111.$$

即在不知分布的情况下,可断言该概率不超过约 $11.1\%$。

八、本章小结

  • 期望 $E[X]=\sum x_ip_i$(离散)或 $\int x f(x)\,dx$(连续);方差 $D[X]=E[X^2]-E[X]^2$,标准差 $\sigma=\sqrt{D[X]}$。
  • 矩:原点矩 $\nu_k=E[X^k]$,中心矩 $\mu_k=E[(X-E[X])^k]$;$\mu_2=D[X]$。
  • 协方差矩阵 $\Sigma_{ij}=\operatorname{Cov}(X_i,X_j)$ 刻画多维离散与相关。
  • 切比雪夫不等式:$P(|X-\mu|\ge\varepsilon)\le\sigma^2/\varepsilon^2$,提供无分布假设的概率上界。
  • 熟记:二项 $np,npq$;泊松 $\lambda,\lambda$;正态 $\mu,\sigma^2$。

互动演示

拖动下方控件观察动态过程。