LinearAlgebra_4
- 投影矩阵和最小二乘
- 二维空间
- 多维空间
- 正交矩阵和Gram-Schmidt正交化
- 回顾
- 正交基
- 正交矩阵
- 如何变成正交矩阵
- 行列式与其性质
- 行列式公式和代数余子式
- 克拉默法则逆矩阵体积
- 逆矩阵
- 克拉默法则
- box体积
投影矩阵和最小二乘
二维空间
假设二维空间Ax=bAx=b,拟合的直线是b=C+Dt。投影矩阵为b = C+Dt。 投影矩阵为P$,那么有:
P=A(A^TA)^{-1}A^T
- Pb=0Pb=0(如果向量b和矩阵A的列空间垂直的话,ATb=0A^Tb=0)
- Pb=bPb=b(如果向量b在矩阵A的列空间内部的话,b=Axb=Ax)
多维空间
思考最优直线或者最佳投影可以从两种方式思考
一。矩阵空间
矩阵空间,即找到最优的b^\hat{b},也就是找到bb在AA的列空间的投影。
A^TAx=A^Tb
如果A的列满秩的话,那么 ATAA^TA可逆,所以有:
x=(A^TA)^{-1}A^Tb
P=A(A^TA)^{-1}A^T
需要注意的是,ATAA^TA可逆有两种情况:
- ATAx=0A^TAx=0的零空间只有0,左右都乘XTX^T即可。
- AA的列线性无关,相互垂直的单位向量,
orthonomal vectors
。
二。原来的空间
此外,还可以用最小二乘法做,使用微分求解也能得到同样的结果。
正交矩阵和Gram-Schmidt正交化
回顾
正交向量:两个向量点积为0。
正交空间:行空间与零空间。
正交基
正交矩阵
orthogonal
orthonormal
正交矩阵QQ的特性如下:
- QTQ=IQ^TQ=I
- Q−1=QTQ^{-1}=Q^T(如果QQ是方阵的话)
正交矩阵好处很大。
P=Q(Q^TQ)^{-1}Q^T=QQ^T
上式在QQ为方阵的情况下成立。
如何变成正交矩阵
总体思路就是先求出正交的向量,然后根据向量的长度变成正交矩阵。
求正交的向量,可以用
b = b-p=b-Ax=b-A\frac{A^Tb}{A^TA}
行列式与其性质
行列式,是最能够代表矩阵性质的一个数,根据它可以判断矩阵是不是奇异矩阵等。
行列式,是为了求出特征值,它的对象是每个方阵。
共有10条性质,1——3是基础,4——10是推倒。
1。detI=1detI=1
2。每交换一次行,矩阵的行列式乘以−1-1
3a。[tactbd]=t∗[acbd]\begin{bmatrix} ta & tb \\ c & d \end{bmatrix} = t * \begin{bmatrix} a & b \\ c & d \end{bmatrix}
3b。[a+a′cb+b′d]=[acbd]+[a′cb′d]\begin{bmatrix} a + a' & b+b' \\ c & d \end{bmatrix} = \begin{bmatrix} a & b \\ c & d \end{bmatrix} +\begin{bmatrix} a' & b' \\ c & d \end{bmatrix}
4。如果两行相等,行列式为0
5。Substract l*rowI for rowK,行列式不变,所以可以随便消元,不影响行列式
6。有零行存在,行列式是0
7。上三角矩阵的行列式是角上元素的乘积
8。行列式为0是矩阵奇异的充要条件
9。detAB=detA∗detBdetAB=detA*detB, det2A=2mdetAdet2A=2^m detA
10。detAT=detAdetA^T=detA,将行列联系在了一起
此外,有一个问题:7次和10次行交换会得到同样的矩阵么。
A: 置换分为odd和even的。
行列式公式和代数余子式
行列式,是线代里面很小的但是很完整的一部分,之前很重要,现在并不是很重要。它的主要目的是和特征值结合。
代数余子式的意义是可以将大的矩阵的特征值分解成小的矩阵的特征值。
矩阵An∗nA_{n*n}分解后共有nnn^n情况,其中不为0的情况共有n!n!种。
代数余子式(cofactor)值得是aija_{ij}去除第i行和第j列剩下部分的行列式,并且考虑到符号问题。
克拉默法则逆矩阵体积
逆矩阵
A^{-1} = \frac{1}{detA} C^T
其中,CC代表包含符号的代数余子式,CTC^T代表伴随矩阵。
克拉默法则
A−1A^{-1}只用上面的式子是不够的,克拉默法则提供了求逆的代数表达形式,但是一般不用因为太过繁琐,典型的中看不中用,一般使用消元法。
box体积
行列式代表volumn of box
。
正负号的意义是左手坐标系还是右手坐标系。
detQ=1detQ=1
QQT=IQQ^T=I
LinearAlgebra_4相关推荐
最新文章
- android 切换 preferencefragment,Android PreferenceActivity与PreferenceFragment详解及简单实例_Android_脚本之家...
- 计算几个变量之间的相关系数,计算协方差矩阵时:TypeError: cannot perform reduce with flexible type
- 如何避免死锁,我们有什么套路可循?
- c语言有参有类最小公倍数,C语言求最大公约数和最小公倍数算法
- APP功能需求第一版
- Mysql索引会失效的几种情况分析
- centos安装时卡住不动_转子流量计转子或指针停在某一位置不动的原因及处理方法...
- 实现iOS App的在线安装
- python 正则表达式语法大全_Python 之父撰文回忆:为什么要创造 pgen 解析器?
- 2019-03-09-算法-进化(旋转数组)
- oracle 合并函数
- ES6中的迭代器(Iterator)和生成器(Generator)(一)
- HDU 3315 My Brute
- 关于 width;height
- C中二维数组作为参数的几种做法
- python读取npy文件
- rom大小 stm32f205_最小的基于STM32F205VE的系统板
- 戴尔笔记本插入耳机后声音还是外放
- LESS CSS 框架简介
- Top Android App使用的组件(2)
热门文章
- php转java知乎_php程序员来谈谈php和java
- 只用静态图像,就能实时渲染出丝滑3D效果 | CVPR 2021 Oral
- 深度学习中的优化算法与实现
- 微秒时间_Ublox 1PPS时间脉冲精度配置问题
- ‘Link‘ is not exported from ‘react-router‘
- Open Drug Discovery Toolkit
- 第九课.Python文件操作
- python投掷骰子实验_Python小程序--模拟掷骰子
- python与mongo_MongoDB与Python的交互
- qps是什么意思_面试官:说说你之前负责的系统,QPS 能达到多少?