估计理论(6)：如何确定BLUE？

摘自Steven M. Kay，《Fundamentals of Statistical Signal Processing: Estimation Theory》。

6.4 找到BLUE

BLUE估计，其实就是无偏的具有最小方差的线性估计。因此如果MVU估计是线性的，则BLUE就是MVU，否则就不是。并且BLUE有可能不存在。其中根据无偏约束，有
E(θ^)=∑n=1N−1anE(x[n])=θ.(6.2)\tag{6.2} {\rm E}(\hat \theta)=\sum_{n=1}^{N-1}a_n{\rm E}(x[n])=\theta. E(θ^)=n=1∑N−1anE(x[n])=θ.(6.2)θ^\hat \thetaθ^的方差为
var(θ^)=E[(∑n=1N−1anx[n]−E(∑n=1N−1anx[n]))2].{\rm var}({\hat \theta})={\rm E} \left[ \left(\sum_{n=1}^{N-1}a_nx[n] -{\rm E}\left(\sum_{n=1}^{N-1}a_nx[n]\right) \right)^2 \right]. var(θ^)=E⎣⎡(n=1∑N−1anx[n]−E(n=1∑N−1anx[n]))2⎦⎤.令a=[a0a1…aN−1]T{\bf a}=[a_0\ a_1\ \ldots \ a_{N-1}]^{\rm T}a=[a0 a1 … aN−1]T，则θ^=aTx\hat \theta={\bf a}^{\rm T}{\bf x}θ^=aTx，因此可以得到
var(θ^)=E[(aTx−aTE(x))2]=E[(aT(x−E(x)))2]=E[aT(x−E(x))(x−E(x))Ta]=aTCa.(6.3)\tag{6.3} \begin{aligned} {\rm var}({\hat \theta})&={\rm E} \left[ \left({\bf a}^{\rm T}{\bf x}-{\bf a}^{\rm T}{{\rm E}(\bf x)} \right)^2 \right]\\ &={\rm E} \left[ \left({\bf a}^{\rm T}({\bf x}-{{\rm E}(\bf x))} \right)^2 \right]\\ &={\rm E} \left[ {\bf a}^{\rm T}({\bf x}-{{\rm E}(\bf x))} ({\bf x}-{\rm E}(\bf x))^{\rm T}{\bf a} \right]\\ &={\bf a}^{\rm T}{\bf C}{\bf a}. \end{aligned} var(θ^)=E[(aTx−aTE(x))2]=E[(aT(x−E(x)))2]=E[aT(x−E(x))(x−E(x))Ta]=aTCa.(6.3)
由于满足无偏估计，因此E(x[n]){\rm E}(x[n])E(x[n])对于θ\thetaθ一定是线性的，即满足
E(x[n])=s[n]θ,(6.4)\tag{6.4} {\rm E}(x[n])=s[n]\theta, E(x[n])=s[n]θ,(6.4)这里的s[n]s[n]s[n]是已知的。否则就不可能满足无偏约束。例如，如果E(x[n])=cos⁡θE(x[n])=\cos\thetaE(x[n])=cosθ，则无偏估计应该是∑n=0N−1cos⁡anθ=θ\sum_{n=0}^{N-1}\cos a_n\theta=\theta∑n=0N−1cosanθ=θ。显然，不存在能够使得无偏约束成立的系数ana_nan。
注意如果我们将x[n]x[n]x[n]表示为
x[n]=E(x[n])+[x[n]−E(x[n])],x[n]=E(x[n])+[x[n]-E(x[n])], x[n]=E(x[n])+[x[n]−E(x[n])],如果将x[n]−E(x[n])x[n]-E(x[n])x[n]−E(x[n])看作噪声w[n]w[n]w[n]，则有
x[n]=θs[n]+w[n].x[n]=\theta s[n]+w[n]. x[n]=θs[n]+w[n].(6.4)意味着BLUE适用于噪声中对已知信号进行幅度估计。为了让其应用更广泛，我们可以将其进行非线性变换（如前文所述的功率估计的例子。）
基于(6.4)，下面我们来总结估计问题。为了找到BLUE，我们需要满足无偏估计约束条件下，最小化方差
var(θ^)=aTCa.{\rm var}(\hat \theta)={\bf a}^{\rm T}{\bf C}{\bf a}. var(θ^)=aTCa.根据(6.2)和(6.4)，可以得到
∑n=1N−1anE(x[n])=θ\sum_{n=1}^{N-1}a_n{\rm E}(x[n])=\theta n=1∑N−1anE(x[n])=θ∑n=1N−1ans[n]θ=θ\sum_{n=1}^{N-1}a_ns[n]\theta=\theta n=1∑N−1ans[n]θ=θ∑n=1N−1ans[n]=1\sum_{n=1}^{N-1}a_ns[n]=1 n=1∑N−1ans[n]=1aTs=1{\bf a}^{\rm T}{\bf s}=1 aTs=1根据Appendix 6A，可以得到最优解为
aopt=C−1ssTC−1s,{\bf a}_{\rm opt}=\frac{{\bf C}^{-1}{\bf s}}{{\bf s}^{\rm T}{\bf C}^{-1}{\bf s}}, aopt=sTC−1sC−1s,因此BLUE为
θ^=sTC−1xsTC−1s,(6.5)\tag{6.5} \hat \theta=\frac{{\bf s}^{\rm T}{\bf C}^{-1}{\bf x}}{{\bf s}^{\rm T}{\bf C}^{-1}{\bf s}}, θ^=sTC−1ssTC−1x,(6.5)最小方差为
var(θ^)=1sTC−1s.(6.6)\tag{6.6} {\rm var}(\hat \theta)=\frac{1}{{\bf s}^{\rm T}{\bf C}^{-1}{\bf s}}. var(θ^)=sTC−1s1.(6.6)注意到根据(6.4)，由于E(x)=θsE({\bf x})=\theta{\bf s}E(x)=θs，BLUE为无偏的
E(θ^)=sTC−1θssTC−1s=θ.(6.5)\tag{6.5} \begin{aligned} E(\hat \theta)&=\frac{{\bf s}^{\rm T}{\bf C}^{-1}\theta {\bf s}}{{\bf s}^{\rm T}{\bf C}^{-1}{\bf s}}\\ &=\theta. \end{aligned} E(θ^)=sTC−1ssTC−1θs=θ.(6.5)正如前面我们强调的，确定BLUE，只需知道

s\bf ss或者标量均值；
协方差C\bf CC。
或者说一、二阶矩，而非所有PDF。

估计理论(6)：如何确定BLUE？相关推荐

测试信号分析-估计理论的基本原理
估计理论的基本原理随机信号序的统计量估计随机信号序列 x(n),有限长度均值.相关函数.功率谱密度函数的估计式为 m ^ = 1 N ∑ x ( n ) \hat m = \frac{1}{N} ...
【检测与估计理论（Detection and Estimation Theory）】一、估计简介（Introduction of Estimation）
[检测与估计理论(Detection and Estimation Theory)]一.估计简介(Introduction of Estimation) 估计理论的应用估计问题估计量的性能评估参 ...
滤波估计理论（一）——贝叶斯滤波
滤波估计理论(一)--贝叶斯滤波(Bayesian Filtering) 估计问题的建模状态空间模型概率模型贝叶斯估计方法批处理贝叶斯估计预测,滤波还是平滑? 贝叶斯滤波状态预测量测更新 ...
NormalEstimation法向量估计理论和代码---PCL源码笔记
NormalEstimation 确定表面一点法线的问题近似于估计临近点所拟合表面的一个相切面法线的问题,因此转换过来以后就变成了一个最小二乘法平面拟合的问题.因此估计表面法线的解决方案就变成了分析一 ...
信号检测与估计理论_论文解读 | 利用脑功能连接实现疲劳驾驶检测
©PaperWeekly 原创 · 作者|张玮玮学校|东北大学硕士生研究方向|脑电情绪识别论文标题:Driving Fatigue Recognition with Functional Con ...
PCL：点云数据基于法线的边界提取(从最初的法线估计理论推导到最终的边界提取)
该边界提取采用PCL库里边的方法,基于法线估计来实现的边界检测与提取: 首先从原始点云上计算出法线,再由法线结合数据估计出边界.(这样解释还是特别抽像吧) ------------法线求解:(平面的法 ...
信号检测与估计理论 pdf_CVPR2020|行人检测与重识算法推荐论文源码大盘点
本文收集了CVPR 2020 一些行人检测与人员重识别优秀论文,我们知道在视频监控相关领域这些技术方向可以得到很好得广泛应用. 行人检测及人群计数从内容来看主要解决行人与行人.行人与物体间的遮挡透视, ...
信号检测与估计理论 pdf_目标检测的性能上界讨论
加入极市专业CV交流群,与6000+来自腾讯,华为,百度,北大,清华,中科院等名企名校视觉开发者互动交流!更有机会与李开复老师等大牛群内互动! 同时提供每月大咖直播分享.真实项目需求对接.干货资讯汇总 ...
估计理论(3)：充分统计量的完备性
文章目录 1.CRLB [定理3.1:标量参数的CRLB] 2.线性模型 [定理4.1:线性模型的最小方差无偏估计] 3.一般最小方差无偏估计 [定理5.2:Rao-Blackwell-Lehmann ...
【 Notes 】Best linear unbiased estimator(BLUE) approach for time-of-arrival based localisation
目录 Abstract Introduction BLUE-based positioning BLUE-LSC algorithm BLUE-LLS algorithm Abstract A com ...

估计理论(6)：如何确定BLUE？

6.4 找到BLUE

估计理论(6)：如何确定BLUE？相关推荐

最新文章

热门文章