Machine Learning --- zero-mean whiten(data preprocessing)

1.零均值化（消常数项）

往往用于线性回归问题：y=wx+b，消除求参数w时截距b的影响。零均值处理即数据减其均值（x=x-mean(x),y=y-mean(y)）。如何求截距b呢？只要代入最初的均值mean(y)=w*mean(x)+b，b便可知。

matlab:

x=x-mean(x);

y=y-mean(y);

2.白化/空间解相关（消除各分量相关性，去相关加缩放）

一随机信号向量x，其协方阵矩阵为：Cov(x)=E((x-m)*(x-m)')≠I（半正定）。要解除x各分量的相关性就是要找到一个空间解相关矩阵（白化矩阵）B，使得：Cov(Bx)=E(B(x-m)*(x-m)'B')=B*E((x-m)*(x-m)')*B'=I，上式表示x通过B线性变换后，使得Bx的各分量不相关，即x被白化了。

注：求解白化矩阵B

步骤1：对Cov(x)进行特征值（或SVD）分解：Cov(x)=E((x-m)*(x-m)')=QΣQ'。其中：Σ为特征值对角阵，Q为各特征值对应的特征向量阵。

步骤2：白化矩阵B可得：B=Σ^-1/2Q'。因为Cov(Bx)=Σ^-1/2Q'*QΣQ'*QΣ^-1/2=I。

注：白化矩阵B不唯一。

matlab:

R=cov(x');

[U D ~]=svd(R,'econ'); %[U D]=eig(r)

B=inv(sqrt(D))*U';

转载于:https://www.cnblogs.com/jizhiyuan/p/3421278.html

Machine Learning --- zero-mean whiten(data preprocessing)相关推荐

Java Machine Learning Tools Libraries--转载
原文地址:http://www.demnag.com/b/java-machine-learning-tools-libraries-cm570/?ref=dzone This is a list o ...
Paper：《A Few Useful Things to Know About Machine Learning—关于机器学习的一些有用的知识》翻译与解读
Paper:<A Few Useful Things to Know About Machine Learning-关于机器学习的一些有用的知识>翻译与解读目录 <A Fe ...
如何使用Apache的Prediction IO Machine Learning Server构建推荐引擎
by Vaghawan Ojha 通过瓦哈万·欧哈(Vaghawan Ojha) 如何使用Apache的Prediction IO Machine Learning Server构建推荐引擎 (How ...
[导读]7 Steps to Mastering Machine Learning With Python
Step 1: Basic Python Skills ▪ Python The Hard Way by Zed A. Shaw ▪ Google Developers Python Course ...
【github】机器学习(Machine Learning)深度学习(Deep Learning)资料
转自:https://github.com/ty4z2008/Qix/blob/master/dl.md# <Brief History of Machine Learning> 介绍:这 ...
机器学习(Machine Learning)深度学习(Deep Learning)资料汇总
本文来源:https://github.com/ty4z2008/Qix/blob/master/dl.md 机器学习(Machine Learning)&深度学习(Deep Learning ...
机器学习----(Machine Learning)深度学习(Deep Learning)资料(Chapter 1)
文章转至:作者:yf210yf 感谢您提供的资源资料汇总的很多,转载一下也方便自己以后慢慢学习注:机器学习资料篇目一共500条,篇目二开始更新希望转载的朋友,你可以不用联系我．但是一定要保留原 ...
机器学习(Machine Learning)深度学习(Deep Learning)资料【转】
转自:机器学习(Machine Learning)&深度学习(Deep Learning)资料 <Brief History of Machine Learning> 介绍:这是一 ...
机器学习(Machine Learning)深度学习(Deep Learning)资料集合
机器学习(Machine Learning)&深度学习(Deep Learning)资料原文链接:https://github.com/ty4z2008/Qix/blob/master/dl ...

Machine Learning --- zero-mean whiten(data preprocessing)

Machine Learning --- zero-mean whiten(data preprocessing)相关推荐

最新文章

热门文章