单因素方差分析(ANOVA)及其Python库

文章目录

模型描述
利用`python`求解

单因素方差分析（one-way analysis of variance, ANOVA)用于确定３个及其以上的数据组之间的均值是否具有统计差异，此外，单因素方差分析也可以用于分析两组数据之间的统计差异，这种情况下等价于利用ｔ检验比较独立样本的均值。本文讲介绍单因素方差分析的基本假设以及何时该使用单因素方差分析。

模型描述

单因素方差分析的基本思想是比较组间方差和组内方差，我们首先给出问题的描述。假设某个因素有ｓ个分组，对应的观测值分别为：

Group 1: x 11 x_{11} x11, x 12 x_{12} x12, … , x 1 n 1 x_{1n_1} x1n1
Group 2: x 11 x_{11} x11, x 12 x_{12} x12, … , x 1 n 2 x_{1n_2} x1n2
⋮ \vdots ⋮
Group s: x 11 x_{11} x11, x 12 x_{12} x12, … , x 1 n s x_{1n_s} x1ns

注意这里每组数据的个数可以是不同的

单因素的方差的基本假设是：

每组的观测值是独立的且服从正态分布 N ( μ i , σ 2 ) N(\mu_i, \sigma^2) N(μi,σ2)；
每组的方差是相同的；

我们要假设的空假设是： H 0 : μ 1 = μ 2 = ⋯ = μ s H_0: \mu_1=\mu_2 = \dots = \mu_s H0:μ1=μ2=⋯=μs ，接下来定义统计量

首先定义第ｉ组数据的均值为 x ˉ i . = 1 n i ∑ j n i x i j \bar{x}_{i.}=\frac{1}{n_i}\sum_{j}^{n_i}{x_{ij}} xˉi.=ni1∑jnixij，所有样本的均值为 1 n ∑ i = 1 s ∑ j = 1 n i x i j \frac{1}{n}\sum_{i=1}^{s}\sum_{j=1}^{n_i}x_{ij} n1∑i=1s∑j=1nixij，其中 n = ∑ i = 1 s n i n = \sum_{i=1}^{s} n_i n=∑i=1sni

我们定义组内平方和与组间平方和如下：
S E = ∑ i = 1 s ∑ j = 1 n i ( x i j − x ˉ i . ) 2 S A = ∑ i = 1 s n i ( x ˉ i . − x ˉ ) 2 S T = ∑ i = 1 s ∑ j = 1 n i ( x i j − x ˉ ) 2 S_E = \sum_{i=1}^{s}\sum_{j=1}^{n_i}{(x_{ij}-\bar{x}_{i.})}^2 \\ S_A = \sum_{i=1}^{s}n_i{(\bar{x}_{i.}-\bar{x})}^2　\\ S_T = \sum_{i=1}^{s}\sum_{j=1}^{n_i}{(x_{ij}-\bar{x})}^2 \\ SE=i=1∑sj=1∑ni(xij−xˉi.)2SA=i=1∑sni(xˉi.−xˉ)2　ST=i=1∑sj=1∑ni(xij−xˉ)2
容易证明 S T = S A + S E S_T=S_A+S_E ST=SA+SE
易知 ∑ j = 1 n i ( x i j − x ˉ i . ) \sum_{j=1}^{n_i}{(x_{ij}-\bar{x}_{i.})} ∑j=1ni(xij−xˉi.) ~ χ ( n i − 1 ) \chi(n_i-1) χ(ni−1)，各组之间相互独立，易得 S E S_E SE ~ χ ( n − s ) \chi(n-s) χ(n−s)。
如果空假设成立， S T S_T ST ~ χ ( n − 1 ) \chi(n-1) χ(n−1)，则有 S A S_A SA ~ χ ( s − 1 ) \chi(s-1) χ(s−1)。且如果空假设不成立，那么 S Ａ S_Ａ SＡ会较大，则可以设统计量
F = S A / ( s − 1 ) S E / ( n − s ) F = \frac{S_A/(s-1)}{S_E/(n-s)} F=SE/(n−s)SA/(s−1)
拒绝域为 F > F 1 − α ( s − 1 , n − s ) F>F_{1-\alpha}(s-1, n-s) F>F1−α(s−1,n−s)

利用`python`求解

使用到的python函数是scipy.stats.f_oneway