经典正交多项式介绍及其应用

1 正交多项式的定义

1.1 正交多项式定义

定义：一个多项式序列 pn(x)n=0∞{ {p_n}(x)} _{n = 0}^{\infty}pn(x)n=0∞，其阶数为 [pn(x)]=n[{p_n}(x)] = n[pn(x)]=n ，对于每一个 nnn，这个多项式序列在开区间 (a,b)(a,b)(a,b) 上关于权函数 w(x)w(x)w(x) 正交，如果：

∫abw(x)pm(x)pn(x)dx=hnδmn\int_a^b {w(x){p_m}(x){p_n}(x)dx = } {h_n}{\delta _{mn}}∫abw(x)pm(x)pn(x)dx=hnδmn

这里 δmn{\delta _{mn}}δmn为狄拉克函数，且 hnh_nhn 为常数。

这里的权函数 w(x)w(x)w(x) 在区间 (a,b)(a,b)(a,b) 是连续且正的以使得下式存在：

μn=∫abw(x)xndx,n=0,1,2,⋯{\mu _n}{\rm{ = }}\int_a^b {w(x){x^n}dx,{\rm{ }}n = 0,1,2, \cdots } μn=∫abw(x)xndx,n=0,1,2,⋯

则多项式 fff 和多项式 ggg 的内积定义为：
⟨f,g⟩:=∫abw(x)f(x)g(x)dx\left\langle {f,g} \right\rangle : = \int_a^b {w(x)f(x)g(x)dx} ⟨f,g⟩:=∫abw(x)f(x)g(x)dx

区间 (a,b)(a,b)(a,b) 称为正交区间，正交区间未必是有限区间。

例1 三角函数的正交性
对于三角函数序列 1,sin(θ),cos(θ),sin(2θ),cos(2θ),...,cos(nθ)1,sin(\theta),cos(\theta),sin(2\theta),cos(2\theta),...,cos(n\theta)1,sin(θ),cos(θ),sin(2θ),cos(2θ),...,cos(nθ)，n=1,2,...,∞n=1,2,...,\inftyn=1,2,...,∞，他们在区间 (0,2π)(0,2\pi)(0,2π) 的正交性为：

∫02πsin⁡(nθ)cos⁡(mθ)dθ=δmn\int_0^{2\pi } {\sin (n\theta )\cos (m\theta )d\theta } = {\delta _{mn}}∫02πsin(nθ)cos(mθ)dθ=δmn

图1展现了 sin(θ)sin(\theta)sin(θ) 和 cos(θ)cos(\theta)cos(θ) 在区间 (0,2π)(0,2\pi)(0,2π) 上的正交性，图中蓝线为 sin(θ)∗cos(θ)sin(\theta)*cos(\theta)sin(θ)∗cos(θ) 的值，对其积分就相当于求图中阴影部分的面积，很明显，阴影部分的面积加上符号后求和为0。

图1. 三角函数的正交性示意图

1.2 施密特正交化（Schmidt orthogonalization）

施密特正交化方法是将一组线性无关的向量组正交化的方法，对正交化后的向量组进行标准化处理，可进一步得到一组标准正交基。施密特正交化的处理步骤如下：
β1=α1β2=α2−⟨α2,β1⟩⟨β1,β1⟩β1⋯βn=αn−⟨αn,β1⟩⟨β1,β1⟩β1−⟨αn,β2⟩⟨β2,β2⟩β2−⋯−⟨αn,βn−1⟩⟨βn−1,βn−1⟩βn−1\begin{array}{l} {\beta _1} = {\alpha _1} \\ {\beta _2} = {\alpha _2} - \frac{{\left\langle {{\alpha _2},{\beta _1}} \right\rangle }}{{\left\langle {{\beta _1},{\beta _1}} \right\rangle }}{\beta _1} \\ \cdots \\ {\beta _n} = {\alpha _n} - \frac{{\left\langle {{\alpha _n},{\beta _1}} \right\rangle }}{{\left\langle {{\beta _1},{\beta _1}} \right\rangle }}{\beta _1} - \frac{{\left\langle {{\alpha _n},{\beta _2}} \right\rangle }}{{\left\langle {{\beta _2},{\beta _2}} \right\rangle }}{\beta _2} - \cdots - \frac{{\left\langle {{\alpha _n},{\beta _{n - 1}}} \right\rangle }}{{\left\langle {{\beta _{n - 1}},{\beta _{n - 1}}} \right\rangle }}{\beta _{n - 1}} \\ \end{array} β1=α1β2=α2−⟨β1,β1⟩⟨α2,β1⟩β1⋯βn=αn−⟨β1,β1⟩⟨αn,β1⟩β1−⟨β2,β2⟩⟨αn,β2⟩β2−⋯−⟨βn−1,βn−1⟩⟨αn,βn−1⟩βn−1

例子：将三维空间中的一组线性无关向量 a,b,c{a,b,c}a,b,c 用施密特正交化方法处理得到正交向量组 x,y,z{x,y,z}x,y,z。

步骤如下：
x=ay=b−⟨b,x⟩⟨x,x⟩x=∣b∣cos⁡(θ)∣a∣az=c−⟨c,x⟩⟨x,x⟩x−⟨c,y⟩⟨y,y⟩y\begin{array}{l} x = a \\ y = b - \frac{{\left\langle {b,x} \right\rangle }}{{\left\langle {x,x} \right\rangle }}x = \frac{{\left| b \right|\cos (\theta )}}{{\left| a \right|}}a \\ z = c - \frac{{\left\langle {c,x} \right\rangle }}{{\left\langle {x,x} \right\rangle }}x - \frac{{\left\langle {c,y} \right\rangle }}{{\left\langle {y,y} \right\rangle }}y \\ \end{array}x=ay=b−⟨x,x⟩⟨b,x⟩x=∣a∣∣b∣cos(θ)az=c−⟨x,x⟩⟨c,x⟩x−⟨y,y⟩⟨c,y⟩y

三维空间中施密特正交化方法的几何描述如图2所示

图2. 施密特正交化几何示意图

2 经典正交多项式

经典的正交多项式有雅克比多项式，切比雪夫多项式，勒让德多项式，拉盖尔多项式，伯恩斯坦多项式，球谐多项式等。

2.1 雅克比多项式

雅克比多项式是定义在 (−1,1)(-1,1)(−1,1) 上，关于权函数 (1−x)α(1+x)β(1-x)^\alpha(1+x)^\beta(1−x)α(1+x)β 正交的多项式，其中 α,β>−1\alpha,\beta >-1α,β>−1

雅克比多项式的表达式为：

为伽马函数（gamma function）。

雅克比多项式的递推公式为：

雅克比多项式的正交性：
∫−11(1−x)α(1+x)βPm(α,β)(x)Pn(α,β)(x)dx=2α+β+12n+α+β+1Γ(α+n+1)Γ(β+n+1)n!Γ(α+β+n+1)δmn\begin{array}{l} \int_{ - 1}^1 {{{(1 - x)}^\alpha }{{(1 + x)}^\beta }P_m^{(\alpha ,\beta )}(x)P_n^{(\alpha ,\beta )}(x)dx} \\ = \frac{{{2^{\alpha + \beta + 1}}}}{{2n + \alpha + \beta + 1}}\frac{{\Gamma (\alpha + n + 1)\Gamma (\beta + n + 1)}}{{n!\Gamma (\alpha + \beta + n + 1)}}{\delta _{mn}} \\ \end{array}∫−11(1−x)α(1+x)βPm(α,β)(x)Pn(α,β)(x)dx=2n+α+β+12α+β+1n!Γ(α+β+n+1)Γ(α+n+1)Γ(β+n+1)δmn

2.2 勒让德多项式

勒让德多项式是定义在区间 (−1,1)(-1,1)(−1,1) 上关于权函数1正交的多项式。勒让德多项式实际上是雅克比多项式在 α=β=0\alpha=\beta=0α=β=0 时的特殊情况。

勒让德多项式的表达式为：
Pn(x)=12nn!dndxn[(x2−1)n]{P_n}(x) = \frac{1}{{{2^n}n!}}\frac{{{d^n}}}{{d{x^n}}}\left[ {{{({x^2} - 1)}^n}} \right]Pn(x)=2nn!1dxndn[(x2−1)n]

勒让德多项式的递推公式为：
(n+1)Pn+1(x)=(2n+1)xPn(x)−nPn−1(x)(n + 1){P_{n + 1}}(x) = (2n + 1)x{P_n}(x) - n{P_{n - 1}}(x)(n+1)Pn+1(x)=(2n+1)xPn(x)−nPn−1(x)

勒让德多项式的正交性：
∫−11Pm(x)Pn(x)dx=22n+1δmn\int_{ - 1}^1 {{P_m}(x){P_n}(x)dx} = \frac{2}{{2n{\rm{ + }}1}}{\delta _{mn}}∫−11Pm(x)Pn(x)dx=2n+12δmn

前6阶勒让德多项式：
P0(x)=1{P_0}(x) = 1 P0(x)=1
P1(x)=x{P_1}(x) = x P1(x)=x
P2(x)=32x2−12{P_2}(x) = \frac{3}{2}{x^2} - \frac{1}{2} P2(x)=23x2−21
P3(x)=52x3−32x{P_3}(x) = \frac{5}{2}{x^3} - \frac{3}{2}x P3(x)=25x3−23x
P4(x)=358x4−154x2+38{P_4}(x) = \frac{{35}}{8}{x^4} - \frac{{15}}{4}{x^2} + \frac{3}{8} P4(x)=835x4−415x2+83
P5(x)=638x5−354x3+158x{P_5}(x) = \frac{{63}}{8}{x^5} - \frac{{35}}{4}{x^3} + \frac{{15}}{8}x P5(x)=863x5−435x3+815x
P6(x)=23116x6−31516x4+10516x2−516{P_6}(x) = \frac{{231}}{{16}}{x^6} - \frac{{315}}{{16}}{x^4} + \frac{{105}}{{16}}{x^2} - \frac{5}{{16}} P6(x)=16231x6−16315x4+16105x2−165

前6阶多项式图像：

图3. 前6项勒让德多项式

2.3 切比雪夫多项式

切比雪夫多项式是定义在区间 (−1,1)(-1,1)(−1,1) 上关于权函数 11−x2\frac{1}{{\sqrt {1 - {x^2}} }}1−x21 正交的多项式。

2.3.1 第一类切比雪夫多项式

第一类切比雪夫多项式的表达式为：
Tn(x)=cos⁡(nθ){T_n}(x) = \cos (n\theta )Tn(x)=cos(nθ)

令 x=cos(θ)x=cos(\theta)x=cos(θ)，则 Tn(x)=cos⁡(narccos⁡(x)){T_n}(x) = \cos (n\arccos (x))Tn(x)=cos(narccos(x))，
第一类切比雪夫多项式的正交性为：
KaTeX parse error: Unknown column alignment: * at position 90: …{\begin{array}{*̲{20}{c}} {0\…

第一类切比雪夫多项式的递推公式：
Tn+1(x)=2xTn(x)−Tn−1(x){T_{n + 1}}(x) = 2x{T_n}(x) - {T_{n - 1}}(x)Tn+1(x)=2xTn(x)−Tn−1(x)

第一类切比雪夫多项式的前6项：
T0(x)=1{T_0}(x) = 1T0(x)=1
T1(x)=x{T_1}(x) = xT1(x)=x
T2(x)=2x2−1{T_2}(x) = 2{x^2} - 1T2(x)=2x2−1
T3(x)=4x3−3x{T_3}(x) = 4{x^3} - 3x T3(x)=4x3−3x
T4(x)=8x4−8x2+1{T_4}(x) = 8{x^4} - 8{x^2} + 1 T4(x)=8x4−8x2+1
T5(x)=16x5−20x3+5x{T_5}(x) = 16{x^5} - 20{x^3} + 5x T5(x)=16x5−20x3+5x
T6(x)=32x6−48x4+18x2−1{T_6}(x) = 32{x^6} - 48{x^4} + 18{x^2} - 1T6(x)=32x6−48x4+18x2−1

第一类切比雪夫多项式的图像

2.3.2 第二类切比雪夫多项式

第二类切比雪夫多项式的表达式为：
Un(x)=sin⁡[(n+1)θ]sin⁡θ{U_n}(x) = \frac{{\sin [(n + 1)\theta ]}}{{\sin \theta }}Un(x)=sinθsin[(n+1)θ]

第二类切比雪夫多项式的正交性为：
KaTeX parse error: Unknown column alignment: * at position 78: …{\begin{array}{*̲{20}{c}} {0m…

第二类切比雪夫多项式的递推公式：
Un+1(x)=2xUn(x)−Un−1(x){U_{n + 1}}(x) = 2x{U_n}(x) - {U_{n - 1}}(x)Un+1(x)=2xUn(x)−Un−1(x)

第二类切比雪夫多项式的前6项：
U0(x)=1{U_0}(x) = 1 U0(x)=1
U1(x)=2x{U_1}(x) = 2x U1(x)=2x
U2(x)=4x2−1{U_2}(x) = 4{x^2} - 1 U2(x)=4x2−1
U3(x)=8x3−4x{U_3}(x) = 8{x^3} - 4x U3(x)=8x3−4x
U4(x)=16x4−12x2+1{U_4}(x) = 16{x^4} - 12{x^2} + 1 U4(x)=16x4−12x2+1
U5(x)=32x5−32x3+6x{U_5}(x) = 32{x^5} - 32{x^3} + 6x U5(x)=32x5−32x3+6x
U6(x)=64x6−80x4+24x2−1{U_6}(x) = 64{x^6} - 80{x^4} + 24{x^2} - 1 U6(x)=64x6−80x4+24x2−1

第二类切比雪夫多项式的图像：

图4. 前6项切比雪夫多项式

2.4 拉盖尔多项式

拉盖尔多项式是定义在区间 (0,+∞)(0,+\infty)(0,+∞) 上关于权函数 e−xxαe^{-x}x^\alphae−xxα 正交的多项式，

拉盖尔多项式的正交关系：
∫0+∞xαe−xLm(α)(x)Ln(α)(x)dx=(n+α)!n!δmn\int_0^{ + \infty } {{x^\alpha }{e^{ - x}}L_m^{(\alpha )}(x)L_n^{(\alpha )}(x)dx} = \frac{{\left( {n + \alpha } \right)!}}{{n!}}{\delta _{mn}}∫0+∞xαe−xLm(α)(x)Ln(α)(x)dx=n!(n+α)!δmn

拉盖尔多项式的递推关系（α=0\alpha =0α=0）：
Ln+1(x)=(2n+1−x)Ln(x)−nLn−1(x)n+1{L_{n + 1}}(x) = \frac{{(2n + 1 - x){L_n}(x) - n{L_{n - 1}}(x)}}{{n + 1}}Ln+1(x)=n+1(2n+1−x)Ln(x)−nLn−1(x)

前6项拉盖尔多项式（α=0\alpha =0α=0）:
L0(x)=1{L_0}(x) = 1 L0(x)=1
L1(x)=−x+1{L_1}(x) = - x + 1 L1(x)=−x+1
L2(x)=12x2−2x+1{L_2}(x) = \frac{1}{2}{x^2} - 2x + 1 L2(x)=21x2−2x+1
L3(x)=−16x3+32x2−3x+1{L_3}(x) = - \frac{1}{6}{x^3} + \frac{3}{2}{x^2} - 3x + 1 L3(x)=−61x3+23x2−3x+1
L4(x)=124x4−23x3+3x2−4x+1{L_4}(x) = \frac{1}{{24}}{x^4} - \frac{2}{3}{x^3} + 3{x^2} - 4x + 1 L4(x)=241x4−32x3+3x2−4x+1
L5(x)=−1120x5+524x4−53x3+5x2−5x+1{L_5}(x) = - \frac{1}{{120}}{x^5} + \frac{5}{{24}}{x^4} - \frac{5}{3}{x^3} + 5{x^2} - 5x + 1 L5(x)=−1201x5+245x4−35x3+5x2−5x+1
L6(x)=1720x6−120x5+58x4−103x3+152x2−6x+1{L_6}(x) = \frac{1}{{720}}{x^6} - \frac{1}{{20}}{x^5} + \frac{5}{8}{x^4} - \frac{{10}}{3}{x^3} + \frac{{15}}{2}{x^2} - 6x + 1 L6(x)=7201x6−201x5+85x4−310x3+215x2−6x+1

前6项拉盖尔多项式的图像：

图5. 前6项拉盖尔多项式

2.5 埃尔米特多项式

埃尔米特多项式是定义在区间 (−∞,+∞)(-\infty,+\infty)(−∞,+∞) 上关于权函数 e−x2e^{-x^2}e−x2 正交的多项式。

埃尔米特多项式分为概率论中的埃尔米特多项式和物理中的埃尔米特多项式，这里只介绍物理学中使用的埃尔米特多项式。

埃尔米特多项式的表达式为：
Hn(x)=(−1)nex2dndxne−x2{H_n}(x) = {( - 1)^n}{e^{{x^2}}}\frac{{{d^n}}}{{d{x^n}}}{e^{ - {x^2}}}Hn(x)=(−1)nex2dxndne−x2

埃尔米特多项式的正交性：
∫−∞+∞Hm(x)Hn(x)e−x2dx=π2nn!δmn\int_{ - \infty }^{ + \infty } {{H_m}(x){H_n}(x){e^{ - {x^2}}}dx} = \sqrt \pi {2^n}n!{\delta _{mn}}∫−∞+∞Hm(x)Hn(x)e−x2dx=π2nn!δmn

埃尔米特多项式的递推公式：
Hn+1(x)=2xHn(x)−2nHn−1(x){H_{n + 1}}(x) = 2x{H_n}(x) - 2n{H_{n - 1}}(x)Hn+1(x)=2xHn(x)−2nHn−1(x)

前6项埃尔米特多项式为：
H0(x)=1{H_0}(x) = 1 H0(x)=1
H2(x)=2x{H_2}(x) = 2x H2(x)=2x
H3(x)=4x2−2{H_3}(x) = 4{x^2} - 2 H3(x)=4x2−2
H4(x)=16x4−48x2+12{H_4}(x) = 16{x^4} - 48{x^2} + 12 H4(x)=16x4−48x2+12
H5(x)=32x5−160x3+120x{H_5}(x) = 32{x^5} - 160{x^3} + 120x H5(x)=32x5−160x3+120x
H6(x)=64x6−480x4+720x2−120{H_6}(x) = 64{x^6} - 480{x^4} + 720{x^2} - 120 H6(x)=64x6−480x4+720x2−120

前6项埃尔米特多项式图像：

图6. 前6项埃尔米特多项式

3 正交多项式的应用

正交多项式的应用甚广，包括但不限于数值分析，逼近理论，积分，微分方程，复变函数，随机矩阵理论，编码理论等。

这里仅以一个小的例子来说明正交多项式在函数拟合中的应用。

实验中使用的测试函数为 y=4x+3x2+cos(x)+sin(2x)+exy=4x+3x^2+cos(x)+sin(2x)+e^xy=4x+3x2+cos(x)+sin(2x)+ex，定义区间为 (−2,2)(-2,2)(−2,2) ，实验比较了多项式展开3项时不同多项式的拟合均方误差（MSE），归一化均方误差（NMSE）。

图7. 不同多项式拟合结果从拟合结果来看，在展开3项时，埃尔米特多项式的拟合误差较小，其他的多项式拟合误差相当。

测试程序如下：

% 正交多项式测试
clear
clc
% 采样点数
N = 1000 ;
% 正交多项式阶数
M = 3 ;
% 拟合函数区间为（-2,2）
x = linspace(-2,2,N)' ;
% 生成被拟合的函数，包括指数函数，余弦函数，幂函数成分
y =  4*x + 3*x.^2 + cos(x) + exp(x) + sin(2*x);% 生成幂级数组成的基矩阵
P1 = power_p(x,M) ;
% 生成勒让德多项式组成的基矩阵
P2 = legendre_p(N,M) ;
% 生成切比雪夫多项式组成的基矩阵
P3 = chebyshev_p(N,M) ;
% 生成拉盖尔多项式组成的基矩阵
P4 = laguerre_p(N,M) ;
% 生成诶尔米特多项式组成的基矩阵
P5 = hermite_p(N,M) ;%% 用最小二乘拟合y
% c1对应幂级数系数
c1 = P1\y ;
% c2对应勒让德系数
c2 = P2\y ;
% c3对应切比雪夫系数
c3 = P3\y ;
% c4对应拉盖尔系数
c4 = P4\y ;
% c5对应埃尔米特系数
c5 = P5\y ;%% 求MSE和NMSE
MSE_power = norm(y-P1*c1)/N
NMSE_power = norm(y-P1*c1)/norm(y) MSE_legendre = norm(y-P2*c2)/N
NMSE_legendre = norm(y-P2*c2)/norm(y) MSE_chebyshev = norm(y-P3*c3)/N
NMSE_chebyshev = norm(y-P3*c3)/norm(y) MSE_laguerre = norm(y-P4*c4)/N
NMSE_laguerre = norm(y-P4*c4)/norm(y) MSE_hermite = norm(y-P5*c5)/N
NMSE_hermite = norm(y-P5*c5)/norm(y) figure(1)
plot(x,y,'r-',x,P1*c1,'b-',x,P2*c2,'k-',x,P3*c3,'y-',x,P4*c4,'g-',x,P5*c5,'m-')
legend('original','power','legendre','chebyshev','laguerre','hermite')function [P] = power_p(x,M)for m = 1:MP(:,m) = x.^(m-1) ;
end
endfunction [P] = legendre_p(N,NN)
% 本函数生成N*M的勒让德基矩阵
s = linspace(-1,1,N)' ;
P = zeros(N,NN) ;
P(:,1) = ones(N,1) ;
P(:,2) = s ;
for n = 3 : NNP(:,n) = ((2 * n - 3) * s .* P(:,n - 1) - (n - 2) * P(:,n - 2)) / ( n -1 ) ;
end
endfunction [P] = chebyshev_p(N,M)
% 本函数生成N*M的切比雪夫基矩阵
x = linspace(-1,1,N)' ;
P = zeros(N,M) ;
P(:,1) = ones(N,1) ;
P(:,2) = x ;
for k = 3:MP(:,k) = 2*x.*P(:,k-1) - P(:,k-2) ;
end
endfunction [P] = laguerre_p(N,M)
% 本函数生成N*M的拉盖尔基矩阵
x  = linspace(-2,2,N)' ;
P = zeros(N,M) ;
P(:,1) = ones(N,1) ;
P(:,2) = -x + ones(N,1) ;
for m = 3:MP(:,m) = ((2*(m-2)+1-x).*P(:,m-1)-(m-2)*P(:,m-2))./(m-1) ;
end
endfunction [P] = hermite_p(N,M)
% 本函数生成N*M的埃尔米特基矩阵
x = linspace(-2,2,N)' ;
P = zeros(N,M) ;
P(:,1) = ones(N,1) ;
P(:,2) = 2*x ;for m = 2:MP(:,m+1) = 2*x.*P(:,m) - 2*(m-1)*P(:,m-1) ;
end
end

更多精彩内容请关注订阅号优化与算法和加入QQ讨论群1032493483获取更多资料

往期精选：

SISO/MIMO信道估计（channel estimation）原理详细图解
毫米波大规模MIMO的AOA估计
线性降维：主成分分析PCA原理分析与仿真验证
5G+AI：有哪些新的研究方向和新范式？
简述3D点云配准算法
5G为人工智能与工业互联网赋能|79页高清PPT
智能算法|以动物命名的算法
一份超全面的机器学习公共数据集
矩阵填充|奇异值阈值算法
可重构/大规模智能反射表面reconfigurable/large intelligent surface综述
迭代硬阈值类算法总结||IHT/NIHT/CGIHT/HTP
软阈值迭代算法（ISTA）和快速软阈值迭代算法（FISTA）
伍德伯里矩阵恒等式（Woodbury matrix identity）
压缩感知：一种新型亚采样技术