8.1 标量、向量、矩阵和张量
线性代数作为数学的一个分支,广泛用于科学和工程中,掌握好线性代数对于理解和从事机器学习算法相关工作是很有必要的。因此,本书首先探讨一些必备的线性代数知识。学习线性代数,会涉及以下几类数学概念:
8.1.1 标量(scalar)
一个标量就是一个单独的数,它不同于线性代数中研究的其他大部分对象(通常是多个数的数组)。我们用斜体表示标量。标量通常被赋予小写的变量名称。当我们介绍标量时,会明确它们是哪种类型的数。比如在定义实数标量时,我们可能会说“令 s∈R s∈\mathbb R表示一条线的斜率”;在定义自然数标量时,我们可能会说“令 n∈N n∈\mathbb N表示元素的数目”。
8.1.2 向量(vector)
一个向量是一列数。这些数是有序排列的。通过次序中的索引,我们可以确定每个单独的数。通常我们赋予向量粗体的小写变量名称,比如 x x。向量中的元素可以通过带脚标的斜体表示。向量xx的第一个元素是 x1 x_1,第二个元素是 x2 x_2,等等。我们也会注明存储在向量中的元素是什么类型的。如果每个元素都属于 R \mathbb R,并且该向量有 n n个元素,那么该向量属于实数集R\mathbb R的 n n次笛卡尔乘积构成的集合,记为Rn\mathbb R^n。当我们需要明确表示向量中的元素时,我们会将元素排列成一个方括号包围的纵列:
\begin{bmatrix} x_1 \\ x_2 \\ \cdots \\x_n \end{bmatrix}\qquad\qquad\qquad\qquad (8.1)
我们可以把向量看作空间中的点,每个元素时不同坐标轴上的坐标。
有时我们需要索引向量中的一些元素。在这种情况下,我们定义一个包含这些元素索引的集合,然后将该集合写在脚标处。比如,指定 x1 x_1, x3 x_3和 x6 x_6,我们定义集合 S={1,3,6} S=\{1,3,6\},然后写作 xs x_s。我们用符号 − -表示集合的补集中的索引。比如x−1x_{-1}表示 x x中除x1x_1外的所有元素, x−s x_{-s}表示 x x中除x1,x3,x6x_1, x_3, x_6外所有元素构成的向量。
8.1.3 矩阵(matrix)
矩阵是具有相同特征和纬度的对象的集合,表现为一张二维数据表。其意义是一个对象表示为矩阵中的一行,一个特征表示为矩阵中的一列,每个特征都有数值型的取值。
通常会赋予矩阵粗体的大写变量名称,比如 A A。如果一个实数矩阵高度为mm,宽度为 n n,那么定义A∈Rm×nA∈R^{m \times n}。
我们在表示矩阵中的元素时,通常以不加粗的斜体形式使用其名称,索引用逗号间隔。比如, A1,1 A_{1,1}表示左上的元素, Am,n A_{m,n}表示右下的元素。
我们通过用“ : :”表示水平坐标,以表示垂直坐标ii中的所有元素。比如, Ai,: A_{i,:}表示 A A中垂直坐标ii上的一横排元素,这也被称为 A A的第ii行(row)。同样地, A:,j A_{:,j}表示 A A的第jj列(column)。当需要明确表示矩阵中的元素时,可以将它们写在方括号包围起来的数组中:
\begin{bmatrix} A_{1,1} & A_{1,2} \\A_{2,1} & A_{2,2} \end{bmatrix}\qquad\qquad\qquad\qquad (8.2)
有时我们需要矩阵值表达式的索引,而不是单个元素。在这种情况下,我们在表达式后面接下标,但不必将矩阵的变量名称小写化。比如, f(A)i,j f(A)_{i,j}表示函数 f f作用在AA上输出的矩阵的第 i i行第jj列元素。
8.1.4 张量(tensor)
在某些情况下,我们会讨论坐标超过两维的数组。一般地,一个数组中的元素分布在若干维坐标的规则网格中,我们将其称之为张量。使用粗体 A A来表示张量“A”。张量AA中坐标为 (i,j,k) (i, j, k)的元素记作 Ai,j,k A_{i,j,k}。
8.1 标量、向量、矩阵和张量相关推荐
- 深度学习-数学-第一篇-标量,向量,矩阵,张量
这记录一些我刚开始学习所用到的数学 基础从最基础的开始 小知识: 0 ∈ {0 1 {0 1}表示一个集合,里面有0,1两个元素.所以0属于这个集合,就用0 ∈ {0 1}表示了.∈代表属于. {0 ...
- 标量/向量/矩阵求导方法
这篇博客源于在看论文时遇到了一个误差向量欧氏距离的求导,如下: 在看了一堆资料后得出以下结论: 这个结论是怎么来的呢?这就涉及标量/向量/矩阵的求导了.由于标量.向量都可以看做特殊的矩阵,因此就统称为 ...
- 向量大小和归一化(vector magnitude normalization)、向量范数(vector norm)、标量/向量/矩阵/张量
一.向量大小 首先一个向量的长度或者大小一般记为.上图中的平面向量的大小计算如下: 空间向量的大小计算如下: 维复向量的大小计算如下: 二.向量归一化 向量归一化即将向量的方向保持不变,大小归一化到1 ...
- 复数 标量/向量/矩阵 求导
Wirtinger derivative: 对复标量求导 Wirtinger derivative: 令 z=x+jyz=x+jyz=x+jy,则 f(z)f(z)f(z) 对 zzz 和 zzz 的 ...
- 标量、向量、矩阵、张量之间的区别和联系
文章目录 前言 标量 向量 矩阵 张量 标量向量矩阵张量之间的联系 线性代数常用的运算 一.向量的运算 1.点积 代数意义 几何意义 2.外积 3.向量的范数 二.矩阵的运算 1 .转置 2.矩阵的范 ...
- 标量,向量,矩阵和张量的关系
在深度学习中,大家肯定都知道这几个词:标量,向量,矩阵,张量.但是要是让我们具体说下他们,可能一下子找不出头绪.下面介绍一下他们之间的关系: 标量(scalar) 一个标量表示一个单独的数,它不同于 ...
- 一文读懂标量、向量、矩阵、张量的关系
文章目录 一.标量 百度百科和维基百科 二.向量 向量的四种表示方法 代数表示 几何表示 坐标表示 矩阵表示 百度百科和维基百科 三.矩阵 百度百科和维基百科 四.张量 百度百科和维基百科 五.标量. ...
- 标量,向量,矩阵与张量
看到了这方面的介绍,还是依照惯例整理下来吧. 首先是最基本的基础概念:https://blog.csdn.net/testcs_dn/article/details/81185538 来源:云栖社区 ...
- 标量、向量、矩阵、张量及向量和矩阵范数简介
标量.向量.矩阵.张量之间的联系 标量(scalar) 一个标量表示一个单独的数,它不同于线性代数中研究的其他大部分对象(通常是多个数的数组).我们用斜体表示标量.标量通常被赋予小写的变量名称. 向量 ...
- 机器学习笔记 - 标量、向量、矩阵、张量
一.标量.向量.矩阵.张量 标量(Scalar)为一个数字. 向量(Vector)是一个数字数组. 矩阵(Matrix)是二维数组. 张量(Tensor)是一个n维数组n > 2. 标量.向量. ...
最新文章
- JS判断滚动条到底部
- python 私有云_利用Docker+NextCloud搭建私有云盘
- Java 容器之Hashset 详解.
- Java8 HashMap 扩容机制与线程安全分析
- SAP Spartacus i18n 的文本,和翻译相关的话题:internationalization
- Macaca基础原理解析
- 秒杀面试 - 程序员面试宝典
- Cadence Allegro Segments Over Voids 功能介绍图文教程
- 煤炭行业供应链集采系统:数字化推进煤炭产业转型升级
- GPS学习之二:AGPS,GPS,DGPS 认识
- mybatis事务原理与集成spring的事务原理
- 【实习日记】第五天 剖析源码+学习Node.js Typescript基本语法
- fread 快速读入
- html 气泡上升效果,css气泡效果
- nyoj_42 一笔画问题
- 直播系统定制开发中安卓直播间websocket协议破解还原
- android服务无法启动,Android应用程序无法启动服务
- 分子模拟对接教程—带你从 0 到 1
- Axure 团队原型创建
- 计算思维导论——第一章:计算机,计算与计算思维