如何理解线性回归中的常数项

线性模型

线性模型（linear model）试图学得一个通过属性的线性组合来进行预测的函数，即：

f(x)=w1x1+w2x2+…+wdxd+b+e

很容易理解，b是常数项，代表的是截距，而e是误差。

以上图像代表的是一元线性模型，而多元线性模型则使用更多的自变量去描述因变量。
从一元线性模型入手，我们可以发现：
1）误差是实际的数据点和我们回归模型之间的差值，并不一定，有大有小，符合正态分布的规律。
2）常数项解释的是，不被自变量所解释的，长期稳定存在的非随机部分，也可称为信息残留。

常数项的存在帮助我们解决了一个问题：当所有的自变量为0的时候，因变量是什么？然而这样的解释仅具有数学意义。
所谓的拟合过程，追求的是残差项的均值为0，且残差项的平方和最小。以此规则计算得出的各项参数，可以使得一条拟合曲线在我们的数据点中浮动，并最终找到一个位置，是的残差项的均值为0。此时，我们的截距就是常数项。可以说这是对解释变量留下的偏误进行线性修正。本身并不具备可以理解的现实意义。
另外，常数项也被这样解读，它是一个恒为1的虚拟变量的参数。这帮助我们利用了本可能被忽略的因素。
而且，残差项未必总是按标准正态分布，如果它们的均值不为0，而存在一个期望，事实上这个期望会被包括在常数项之中。帮助我们修正这正太分布的均值，使之为0。

理解线性回归中的常数项相关推荐

如何理解线性回归中的“回归”，回归到哪里？
如何理解线性回归中的"回归",回归到哪里?先看看线性回归的英文regression towards the mean.mean在英文中是平均值的意思. 那么平均值又怎么理解呢?个人 ...
多元线性回归模型中的常数项
作者:flyerye 链接:https://www.zhihu.com/question/22450977/answer/250476871 来源:知乎著作权归作者所有.商业转载请联系作者获得授权, ...
线性回归中最大似然法的理解
线性回归中使用最大似然法的文章蛮多的,这两天看了一些,总觉得有些"跳跃"的地方让人难以理解,现在把整个过程记录下来以便日后查阅,好记性不如烂笔头... 关于最大似然法已经写了一篇了 ...
python 回归去掉共线性_线性回归中的多重共线性与岭回归
上篇文章<简单而强大的线性回归详解>(点击跳转)详细介绍了线性回归分析方程.损失方程及求解.模型评估指标等内容,其中在推导多元线性回归使用最小二乘法的求解原理时,对损失函数求导得到参数向量 ...
线性回归中的假设检验
线性回归中的假设检验及Python编程 0 引言 1 一元线性回归模型 2 对于回归方程的检验 F检验 T检验一元线性回归的Python编程实现与 `statsmodels` 包的对比关于多元线 ...
单变量线性回归中的梯度下降法求解代价函数的最小值
1. 什么是代价函数在线性回归中我们有一个像这样的训练集,m代表了训练样本的数量,比如 m = 47.而我们的假设函数, 也就是用来进行预测的函数,是这样的线性函数形式, 则代价函数可以表示为: 我 ...
线性回归中的前提假设
在谈线性回归模型的时候被问到,在线性回归中,有三个假设,是哪三个? 当时回答出来自变量x和因变量y之间是线性变化关系,也就是说,如果x进行线性变化的话,y也会有相应的线性变化. 提到数据样本的时候也答 ...
多元线性回归中多重共线性_多重共线性如何在线性回归中成为问题。
多元线性回归中多重共线性 Linear Regression is one of the simplest and most widely used algorithms for Supervised ...
一元线性回归中loss值的变化分析
1 致谢感谢陈助教的帮助和解答! 2 前言线性回归是我们在机器学习算法中学习到的第一个回归算法,所以我们一定要学习并且掌握清楚,为后续的学习奠定良好的基础. 3 问题描述这几天在做一元线性回归的 ...

理解线性回归中的常数项

如何理解线性回归中的常数项

线性模型

理解线性回归中的常数项相关推荐

最新文章

热门文章