如何简单地理解最小二乘法和线性回归方程？（高中数学知识）

2024-05-13 16:47:08

知识乱弹_01

1. 如何判断两个变量是否相关？

以这两个变量作为坐标轴，画出这两个变量的散点图，如果这两组散点比较集中，那么我们就可以判断这两个变量是相关的。如果这些点集中在一条直线附近，那我们就称这两个变量是线性相关的，反之如果这些点集中在一条曲线附近，那么我们就说这两个变量是非线性相关的。当然了如果这两组散点是不集中的，那么这两个变量就是不相关的。

2. 什么是最小二乘法？

如果有n个点(x1, y1), (x2, y2) … (xn, yn)，可以用如下的图以及公式来刻画这些点与直线y = ax + b的接近程度：

最小二乘法其实就是去找出使得这个接近程度公式的值达到最小的直线！也就是我么常说的回归方程！

3. 如何求出线性回归方程的系数？

当你想用一条直线去描述两个变量之间的关系时，最好的办法就是求解出它们之间的线性回归方程(y = ax + b)。那么怎么求解出这个线性回归方程的参数就是必须要解决的问题了。具体的方法如下：在这其中最需要注意的就是有关系数b的求解。

4. 举一个例题让你感受一下

一般情况下你选择如何去算这道题呢？是不是直接将x = 3代入线性回归方程中呢？其实这样的方法是不正确的，因为这个点很有可能是不在线性回归方程所对应的图像上的。
所以需要我们这么算：因为线性回归方程一定会过的点是x的平均数和y的平均数，在本题中所有的x都是已知的，因此可以求出x的平均数为(1 + 3 + 5+ 7) / 4 = 4，将x的平均数代入线性回归方程中，得到y的平均数为2.75，从而，根据得到的y的平均数可以算出被污染的数据m = 2.75 * 4 - (2 + 3 + 3.5) = 2.5。

5.理解和感悟

利用线性回归方程对总体进行估计，关键在于正确地求出线性回归方程。
利用线性回归方程进行预测和估计时，所得到的结果只是一个估计值，而不是精确值。

欢迎转载，但请注明出处。

如何简单地理解最小二乘法和线性回归方程？（高中数学知识）相关推荐

线性回归方程参数的最小二乘估计
概述一共两个部分,第一,线性模型和最小二乘估计方法的概括.第二, 基于最小二乘估计方法,实现线性回归方程中回归参数的估计.并且和statsmodels中的方法进行对比. 1.线性模型和最小二乘方法 ...
最小二乘法求线性回归方程_规范解题第14期利用“最小二乘法”原理解一道题...
还等什么呢?时间都过去了,话是这么说,但不至于那么快.无论走到哪里,都应该记住,过去都是假的,回忆是一条没有尽头的路,一切以往的春天都一去不复存在,就连那最坚韧而又狂乱的爱情归根结底也不过是一种转瞬即 ...
基于jupyter notebook的python编程-----利用梯度下降算法求解多元线性回归方程，并与最小二乘法求解进行精度对比
基于jupyter notebook的python编程-----利用梯度下降算法求解多元线性回归方程,并与最小二乘法求解进行精度对比目录一.梯度下降算法的基本原理 1.梯度下降算法的基本原理二.题 ...
线性回归介绍及分别使用最小二乘法和梯度下降法对线性回归C++实现
回归:在这类任务中,计算机程序需要对给定输入预测数值.为了解决这个任务,学习算法需要输出函数f:Rn→R.除了返回结果的形式不一样外,这类问题和分类问题是很像的.这类任务的一个示例是预测投保人的索赔金 ...
最小二乘法和梯度下降法有哪些区别？
为什么要比较这两种方法呢?很多人可能不知道,我先简单的介绍一下机器学习有两种,一种是监督学习,另一种是非监督学习.监督学习就是我告诉计算机你把班上同学分个类,分类标准是按照性别,男生和女生:非监督分 ...
线性回归中的最小二乘法和梯度下降法比较
为什么要比较这两种方法呢?很多人可能不知道,我先简单的介绍一下机器学习有两种,一种是监督学习,另一种是非监督学习.监督学习就是我告诉计算机你把班上同学分个类,分类标准是按照性别,男生和女生:非监督分 ...
线性回归_线性回归方程
你的线性回归是指被估参数是线性的回归吗?被估参数是线性是指:把参数视为变量,参数相对于x是线性的.比如:y=kx+b这是典型的线性回归还有:y=ax^2+bx+c,把x^2及x看成a,b的系数的话,a ...
Python基于最小二乘法的一元线性回归方程
基于最小二乘法的一元线性回归方程要求关于房价的,只需要一个自变量一个因变量用到最小二乘,但不是封装好的函数,有算法的具体实现原理最小二乘法我们以最简单的一元线性模型来解释最小二乘法.什么是 ...
最小二乘法构建线性回归方程
目录一. 相关数学知识的定义 1.1 一元线性回归的定义 1.2 相关系数R²的定义二.使用jupyter来做一元线性回归分析 2.1 根据最小二乘法公式手动构建一元线性回归模型 2.2 调用包实 ...

最新文章

热门文章