公式整理（持续更新，至数学期望）_2021秋季《概率论与数理统计》

特殊的离散分布

二项分布 b ( n , p ) b(n,p) b(n,p)

binomial
P ( X = k ) = C n k p k ( 1 − p ) n − k P(X=k)=C_n^kp^k(1-p)^{n-k} P(X=k)=Cnkpk(1−p)n−k

可加性

相互独立的随机变量 X , Y X,Y X,Y满足 X ∼ b ( n , p ) , Y ∼ b ( m , p ) X\sim b(n,p),Y\sim b(m,p) X∼b(n,p),Y∼b(m,p)，则 Z = X + Y ∼ b ( n + m , p ) Z=X+Y\sim b(n+m,p) Z=X+Y∼b(n+m,p).

多项分布

P ( X 1 = n 1 , ⋯ , X r = n r ) = { n ! p 1 n 1 ⋯ p r n r n 1 ! ⋯ n r ! , ∑ i = 1 r n i = n 0 , 其他 P(X_1=n_1,\cdots,X_r=n_r)= \begin{cases} \frac{n! p_1^{n_1}\cdots p_r^{n_r}}{n_1!\cdots n_r!}, & \sum_{i=1}^r n_i=n \\ 0,& 其他 \end{cases} P(X1=n1,⋯,Xr=nr)={n1!⋯nr!n!p1n1⋯prnr,0,∑i=1rni=n其他

几何分布 G e ( p ) Ge(p) Ge(p)

geometric
P ( X = k ) = p ( 1 − p ) k − 1 P(X=k)=p(1-p)^{k-1} P(X=k)=p(1−p)k−1

无记忆性

负二项分布 N b ( r , p ) Nb(r,p) Nb(r,p)

negative binomial
P ( X = k ) = C k − 1 r − 1 p r ( 1 − p ) k − r P(X=k)=C_{k-1}^{r-1}p^r(1-p)^{k-r} P(X=k)=Ck−1r−1pr(1−p)k−r

泊松分布 P ( λ ) P(\lambda) P(λ)

poisson
P ( X = k ) = λ k k ! e − λ P(X=k)=\frac{\lambda^k}{k!}e^{-\lambda} P(X=k)=k!λke−λ

当 n n n充分大、 p p p充分小、 0.1 ≤ n p ≤ 10 0.1\leq np\leq 10 0.1≤np≤10时，
C n k p k ( 1 − p ) n − k ≈ ( n p ) k k ! e − n p C_n^kp^k(1-p)^{n-k}\approx \frac{{(np)}^k}{k!}e^{-{np}} Cnkpk(1−p)n−k≈k!(np)ke−np

可加性

相互独立的随机变量 X , Y X,Y X,Y满足 X ∼ P ( λ 1 ) , Y ∼ P ( λ 2 ) X\sim P(\lambda_1),Y\sim P(\lambda_2) X∼P(λ1),Y∼P(λ2)，则 Z = X + Y ∼ P ( λ 1 + λ 2 ) Z=X+Y\sim P(\lambda_1+\lambda_2) Z=X+Y∼P(λ1+λ2).
$$

$$

超几何分布 h ( n , N , M ) h(n,N,M) h(n,N,M)

hypergeometric
P ( X = k ) = C M k C N − M n − k C N n P(X=k)=\frac{C_M^k C_{N-M}^{n-k}}{C_N^n} P(X=k)=CNnCMkCN−Mn−k

多维超几何分布

P ( X 1 = n 1 , ⋯ , X r = n r ) = { C N 1 n 1 ⋯ C N r n r C N n , ∑ i = 1 r n i = n 0 , 其他 P(X_1=n_1,\cdots,X_r=n_r)= \begin{cases} \frac{C_{N_1}^{n_1}\cdots C_{N_r}^{n_r}}{C_N^n}, & \sum_{i=1}^r n_i=n \\ 0,& 其他 \end{cases} P(X1=n1,⋯,Xr=nr)={CNnCN1n1⋯CNrnr,0,∑i=1rni=n其他

特殊的连续分布

正态分布 N ( μ , σ 2 ) N(\mu,\sigma^2) N(μ,σ2)

Normal
p ( x ) = 1 2 π σ e x p { − ( x − μ ) 2 2 σ 2 } , − ∞ < x < ∞ p(x)=\frac{1}{\sqrt{2\pi}\sigma}{\rm exp}\{-\frac{(x-\mu)^2}{2\sigma^2}\},-\infin<x<\infin p(x)=2π σ1exp{−2σ2(x−μ)2},−∞<x<∞

标准正态分布

N ( 0 , 1 ) N(0,1) N(0,1)

概率密度函数

ϕ ( x ) = 1 2 π e − x 2 / 2 \phi(x)=\frac{1}{\sqrt{2\pi}}e^{-x^2/2} ϕ(x)=2π 1e−x2/2

分布函数

Φ ( x ) \Phi(x) Φ(x)

性质

线性不变性

若 X ∼ N ( μ , σ 2 ) X\sim N(\mu,\sigma^2) X∼N(μ,σ2)，则当 a ≠ 0 a\ne 0 a=0时，
Y = a X + b ∼ N ( a μ + b , a 2 σ 2 ) Y=aX+b\sim N(a\mu+b,a^2\sigma^2) Y=aX+b∼N(aμ+b,a2σ2)
有限个相互独立的正态随机变量的线性组合仍然服从正态分布。
特殊地，若相互独立的随机变量 X i ∼ N ( μ i , σ i 2 ) , i = 1 , ⋯ , n X_i\sim N(\mu_i,\sigma_i^2),i=1,\cdots ,n Xi∼N(μi,σi2),i=1,⋯,n，则
Z = ∑ i = 1 n a i X i ∼ N ( ∑ i = 1 n a i μ i , ∑ i = 1 n a i 2 σ i 2 ) Z=\sum_{i=1}^n a_i X_i \sim N(\sum_{i=1}^n a_i\mu_i,\sum_{i=1}^n a_i^2\sigma_i^2) Z=i=1∑naiXi∼N(i=1∑naiμi,i=1∑nai2σi2)
特殊地，若 X ∼ N ( μ , σ 2 ) X\sim N(\mu,\sigma^2) X∼N(μ,σ2)，则

Y = X − μ σ ∼ N ( 0 , 1 ) , F ( y ) = Φ ( x − μ σ ) Y=\frac{X-\mu}{\sigma}\sim N(0,1),\quad F(y)=\Phi(\frac{x-\mu}{\sigma}) Y=σX−μ∼N(0,1),F(y)=Φ(σx−μ)

二维正态分布 N ( μ 1 , σ 1 2 ; μ 2 , σ 2 2 ; ρ ) N(\mu_1,\sigma_1^2;\mu_2,\sigma_2^2;\rho) N(μ1,σ12;μ2,σ22;ρ)

p ( x , y ) = 1 2 π σ 1 σ 2 c e x p { − 1 2 c 2 ( a 2 + b 2 − 2 ρ a b ) } , − ∞ < x , y < ∞ p(x,y)=\frac{1}{2\pi \sigma_1\sigma_2 c}{\rm exp}\{-\frac{1}{2c^2}(a^2+b^2-2\rho ab)\},\quad -\infin<x,y<\infin p(x,y)=2πσ1σ2c1exp{−2c21(a2+b2−2ρab)},−∞<x,y<∞

其中
a = x − μ 1 σ 1 , b = y − μ 2 σ 2 , c = 1 − ρ 2 a=\frac{x-\mu_1}{\sigma_1},b=\frac{y-\mu_2}{\sigma_2},c=\sqrt{1-\rho^2} a=σ1x−μ1,b=σ2y−μ2,c=1−ρ2

若 ρ = 0 \rho=0 ρ=0，则 X , Y X,Y X,Y相互独立。
若随机变量 ( X , Y ) (X,Y) (X,Y)满足上述二维正态分布，则
Z = X + Y ∼ N ( μ 1 + μ 2 , σ 1 2 + σ 2 2 + 2 ρ σ 1 σ 2 ) Z=X+Y\sim N(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2+2\rho\sigma_1\sigma_2) Z=X+Y∼N(μ1+μ2,σ12+σ22+2ρσ1σ2)

均匀分布 U ( a , b ) U(a,b) U(a,b)

uniform
p ( x ) = { 1 b − a , a ≤ x ≤ b 0 , x < a 或 x > b p(x)= \begin{cases} \frac{1}{b-a}, & a\leq x\leq b \\ 0, & x<a或x>b \end{cases} p(x)={b−a1,0,a≤x≤bx<a或x>b

二维均匀分布 U ( D ) U(D) U(D)

D ⊂ R 2 D\subset R^2 D⊂R2且 0 < ∬ D d x d y < ∞ 0<\iint_D {\rm d}x{\rm d}y<\infin 0<∬Ddxdy<∞
p ( x , y ) = { 1 S D , ( x , y ) ∈ D 0 , 其他 p(x,y)= \begin{cases} \frac{1}{S_D}, & (x,y)\in D \\ 0,& 其他 \end{cases} p(x,y)={SD1,0,(x,y)∈D其他

G a m m a {\rm Gamma} Gamma分布 G a ( α , λ ) Ga(\alpha,\lambda) Ga(α,λ)

指数分布 E x p ( λ ) Exp(\lambda) Exp(λ)

p ( x ) = { λ e − λ x , x > 0 0 , x ≤ 0 p(x)= \begin{cases} \lambda e^{-\lambda x}, & x>0 \\ 0,& x\leq 0 \end{cases} p(x)={λe−λx,0,x>0x≤0

无记忆性

离散型随机变量函数的分布

Z = g ( x , y ) Z=g(x,y) Z=g(x,y)
P ( Z = z k ) = ∑ ( i , j ) : g ( x i , y j ) = z k p i j P(Z=z_k)=\sum_{(i,j):g(x_i,y_j)=z_k} p_{ij} P(Z=zk)=(i,j):g(xi,yj)=zk∑pij

卷积公式

随机变量 Z = X + Y Z=X+Y Z=X+Y的分布列为
P ( Z = z k ) = ∑ i P ( X = x i , Y = z k − x i ) = ∑ j P ( X = z k − y j , Y = y j ) P(Z=z_k)=\sum_i P(X=x_i,Y=z_k-x_i)=\sum_j P(X=z_k-y_j,Y=y_j) P(Z=zk)=i∑P(X=xi,Y=zk−xi)=j∑P(X=zk−yj,Y=yj)

连续型随机变量函数的分布

设 y = f ( x ) y=f(x) y=f(x)严格单调递增，且其反函数 x = h ( y ) x=h(y) x=h(y)有连续的导函数，则 Y = f ( X ) Y=f(X) Y=f(X)的概率密度函数为
p Y ( y ) = { p X ( h ( y ) ) ∣ h ′ ( y ) ∣ , a < y < b 0 , 其他 p_Y(y)= \begin{cases} p_X(h(y))|h'(y)|, & a<y<b \\ 0, & 其他 \end{cases} pY(y)={pX(h(y))∣h′(y)∣,0,a<y<b其他
其中 a = m i n { f ( ∞ ) , f ( − ∞ ) } , b = m a x { f ( ∞ ) , f ( − ∞ ) } a={\rm min}\{f(\infin),f(-\infin)\},b={\rm max}\{f(\infin),f(-\infin)\} a=min{f(∞),f(−∞)},b=max{f(∞),f(−∞)}

卷积公式( Z = X + Y Z=X+Y Z=X+Y)

Z = X + Y Z=X+Y Z=X+Y的概率密度函数
p Z ( z ) = ∫ − ∞ ∞ p ( x , z − x ) d x = ∫ − ∞ ∞ p ( z − y , y ) d y p_Z(z)=\int_{-\infin}^{\infin} p(x,z-x){\rm d}x=\int_{-\infin}^{\infin}p(z-y,y){\rm d}y pZ(z)=∫−∞∞p(x,z−x)dx=∫−∞∞p(z−y,y)dy

Z = Y X , Z = X Y Z=\frac{Y}{X},Z=XY Z=XY,Z=XY

p Y / X ( z ) = ∫ − ∞ ∞ ∣ x ∣ p ( x , x z ) d x p_{Y/X}(z)=\int_{-\infin}^{\infin}|x|p(x,xz){\rm d}x pY/X(z)=∫−∞∞∣x∣p(x,xz)dx

p X Y ( z ) = ∫ − ∞ ∞ 1 ∣ x ∣ p ( x , z x ) d x p_{XY}(z)=\int_{-\infin}^{\infin}\frac{1}{|x|}p(x,\frac{z}{x}){\rm d}x pXY(z)=∫−∞∞∣x∣1p(x,xz)dx

M = m a x { X , Y } ， N = m i n { X , Y } M={\rm max}\{X,Y\}，N={\rm min}\{X,Y\} M=max{X,Y}，N=min{X,Y}

若== X , Y X,Y X,Y相互独立==，则
F m a x ( z ) = F X ( z ) F Y ( z ) F_{\rm max}(z)=F_X(z)F_Y(z) Fmax(z)=FX(z)FY(z)

F m i n ( z ) = 1 − [ 1 − F X ( z ) ] [ 1 − F Y ( z ) ] F_{\rm min}(z)=1-[1-F_X(z)][1-F_Y(z)] Fmin(z)=1−[1−FX(z)][1−FY(z)]

推广到 n n n个相互独立的随机变量情况，
F m a x ( z ) = ∏ i F X i ( z ) F_{\rm max}(z)=\prod_{i}F_{X_i}(z) Fmax(z)=i∏FXi(z)

F m i n ( z ) = 1 − ∏ i ( 1 − F X i ( z ) ) F_{\rm min}(z)=1-\prod_{i}(1-F_{X_i}(z)) Fmin(z)=1−i∏(1−FXi(z))

数学期望

E ( X ) = ∑ k = 1 + ∞ x k p k E(X)=\sum_{k=1}^{+\infin}x_k p_k E(X)=k=1∑+∞xkpk

E ( X ) = ∫ − ∞ + ∞ x f ( x ) d x E(X)=\int_{-\infin}^{+\infin} xf(x){\rm d}x E(X)=∫−∞+∞xf(x)dx

性质

E ( C ) = C E(C)=C E(C)=C
E ( C X ) = C E ( X ) E(CX)=CE(X) E(CX)=CE(X)
E ( X + Y ) = E ( X ) + E ( Y ) E(X+Y)=E(X)+E(Y) E(X+Y)=E(X)+E(Y)（有限个）
X , Y X,Y X,Y独立， E ( X Y ) = E ( X ) E ( Y ) E(XY)=E(X)E(Y) E(XY)=E(X)E(Y)（有限个）

特殊的期望

二项分布

E ( X ) = n p E(X)=np E(X)=np

指数分布

E ( X ) = 1 λ E(X)=\frac{1}{\lambda} E(X)=λ1

正态分布

X ∼ N ( 0 , 1 ) X\sim N(0,1) X∼N(0,1)

奇偶性
E ( Y ) = 0 E(Y)=0 E(Y)=0

E ( ∣ Y ∣ ) = 2 π E(|Y|)=\sqrt{\frac{2}{\pi}} E(∣Y∣)=π2

X ∼ ( 0 , σ 2 ) X\sim(0,\sigma^2) X∼(0,σ2)

线性关系
E ( ∣ X ∣ ) = σ 2 π E(|X|)=\sigma \sqrt{\frac{2}{\pi}} E(∣X∣)=σπ2

X ∼ N ( μ , σ 2 ) X\sim N(\mu,\sigma^2) X∼N(μ,σ2)

线性关系
E ( Y ) = μ E(Y)=\mu E(Y)=μ

随机变量的函数

一维

E ( X ) = ∑ k = 1 + ∞ g ( x k ) p k E(X)=\sum_{k=1}^{+\infin}g(x_k) p_k E(X)=k=1∑+∞g(xk)pk

E ( X ) = ∫ − ∞ + ∞ g ( x ) f ( x ) d x E(X)=\int_{-\infin}^{+\infin} g(x)f(x){\rm d}x E(X)=∫−∞+∞g(x)f(x)dx

二维

E ( Z ) = E ( g ( X , Y ) ) = ∑ i = 1 + ∞ ∑ j = 1 + ∞ g ( x i , y j ) p i j E(Z)=E(g(X,Y))=\sum_{i=1}^{+\infin}\sum_{j=1}^{+\infin} g(x_i,y_j)p_{ij} E(Z)=E(g(X,Y))=i=1∑+∞j=1∑+∞g(xi,yj)pij

E ( Z ) = E ( g ( X , Y ) ) = ∫ − ∞ + ∞ ∫ − ∞ + ∞ g ( x , y ) f ( x , y ) d x d y E(Z)=E(g(X,Y))=\int_{-\infin}^{+\infin}\int_{-\infin}^{+\infin}g(x,y)f(x,y){\rm d}x{\rm d}y E(Z)=E(g(X,Y))=∫−∞+∞∫−∞+∞g(x,y)f(x,y)dxdy