PCA,LDA的C++实现（内附代码~）

源代码获取通道：C++实现LDA，实现PCA

pca_z运行结果：

LDA_Z运行结果：

原理简单易懂，用于降维。

Visual C++ 无法解析的外部符号问题

ref:http://blog.csdn.net/huyu107/article/details/51980029
最后采用的方法是，先不管他，在main函数中把代码调对，再封装……然后奇迹般的没有任何报错……

在VS环境下用Eigen进行SVD分解
先输入数组，二维数组，然后转换为MatrixXd类型，然后调用SVD，调用方法是：ja
期间注意两点：
第一：Map函数可将数组映射成矩阵，但是映射规则和MATLAB储存矩阵的方式类似，是按列进行的投射的。比如[ 1,3,3,4,5,1]投射[2*3]的结果是[1,4;3,5;3,1]；
第二：调用SVD时，可以使用Full，Thin两种模式，奇异值分解后得到的前部分是一样的，所以如果只取前面部分，可以不用太care;
SVD原理可以参考：http://blog.csdn.net/yueliangku/article/details/41725905

使用Eigen进行线性方程组的求解

可以参考： http://blog.csdn.net/u013354805/article/details/48250547

STD：

实现矩阵归一化时，Matlab中的mean，和std原理要反复推敲，注意行列关系，比如求均值是对列求，得到一个行向量，std公式根号下前面的系数是（N-1）!

y=std(x) 算出x的标准偏差。 x可以是vector或者一个matrix矩阵。

若x是vector，则y是算x的标准偏差。
若x是matrix，则y是个vector，存放的是算每一列/行的标准偏差。 std (x, flag,dim)
fla表示标注公差时是要除以n还是n－1
flag==0………是除以n－1
flag==1………是除以n
dim表示维数
dim==1……….是按照列分
dim==2……….是按照行分若是三维的矩阵，dim=＝3就按照第三维来分数据

默认std格式是std(x,0,1);

 >>x=[ 1 2 3 4; 4 5 6 1 ]>>std(x)
ans =2.1213    2.1213    2.1213    2.1213>> std(x,1)
ans =1.5000    1.5000    1.5000    1.5000>> std(x,0,2)
ans =1.29102.1602>> std(x,1,2)
ans =1.11801.8708

具体分析：
A=[1,2;3,4];
CC=mean(A,1) %每列求均值

result: 2 3

A=[1,2;3,4];
CC=mean(A,2) % 每行就均值

result: 1.5000
3.5000
A=[1,2;3,4];
CC=mean2(A) % 矩阵均值

result :2.5000

std(x,0,1)与mean(x,1) 其实得到的都是行向量，也即对例进行处理
A=[1,2;3,4];
CC=std(A,0,1) % 矩阵均值
result: 1.4142 1.4142
验证std(A,0,2),其实结果也一样的， 0.7071 0.7071。

然而std2与mean2一样，是对矩阵求均方差。

A=[1,2;3,4];
CC=std2(A)

测试代码运行时间：

在C++中计算运行的时间是调用clock函数，使用clock函数获得程序开始和结束所需的时间，相减就得到程序所花的时间。

clock()是C/C++中的计时函数，而与其相关的数据类型是clock_t。在MSDN中，查得对clock函数定义如下：

clock_t clock(void) ;

简单而言，就是该程序从启动到函数调用占用CPU的时间。这个函数返回从“开启这个程序进程”到“程序中调用clock()函数”时之间的CPU时钟计时单元（clock tick）数，在MSDN中

称之为挂钟时间（wal-clock）；若挂钟时间不可取，则返回-1。其中clock_t是用来保存时间的数据类型。

#include<iostream>
#include<ctime>
using namespace std;  int main()
{  clock_t start,finish;  start=clock();  cout << "HW .... " << endl;  finish=clock();  cout << finish-start   << "/" << CLOCKS_PER_SEC  << " (s) "<< endl;  return 0;
}