岭回归——线性回归算法

岭回归：

岭回归(英文名：ridge regression, Tikhonov regularization)是一种专用于共线性数据分析的有偏估计回归方法，实质上是一种改良的最小二乘估计法，通过放弃最小二乘法的无偏性，以损失部分信息、降低精度为代价获得回归系数更为符合实际、更可靠的回归方法，对病态数据的拟合要强于最小二乘法。

通过sklearn机器学习工具库
代码十分简洁，内有详细步骤和解释。
直接复制，带入数据，进行调用即可出结果，模型参数设置见文末

def Ridge_Regression(X_train, Y_train, X_test, Y_test):"""X_train: 特征训练集Y_train: 标注训练集X_test: 特征测试集Y_test: 标注测试集"""# 01.创建模型from sklearn.linear_model import RidgeRidge_model = Ridge(alpha=0.1)# 02.训练模型Ridge_model = Ridge_model.fit(X_train, Y_train)# 03.模型预测Y_pred = Ridge_model.predict(X_test)# 04.模型评价from sklearn.metrics import mean_squared_errorprint('MSE:', mean_squared_error(Y_test, Y_pred))# 05.输出模型参数print('coef:', Ridge_model.coef_)print('intercept:', Ridge_model.intercept_)return

模型参数：

参数alpha：惩罚项系数，取值范围为：0-1，取0时等同于最小二乘法

这里的模型评价指标选择了：
均方误差MSE

在上面代码中都是针对测试集的效果，也可以对训练集进行预测，然后评价训练集的效果，综合比较，可以看看是否会出现过拟合现象。

输出的模型参数：

· coef_：回归系数
· intercept_：常数项(截距)
……
更多的模型参数，见官网

岭回归——线性回归算法相关推荐

python lasso做交叉验证法_标准方程法_岭回归_LASSO算法_弹性网
程序所用文件:https://files.cnblogs.com/files/henuliulei/%E5%9B%9E%E5%BD%92%E5%88%86%E7%B1%BB%E6%95%B0%E6%8 ...
套索回归岭回归_使用kydavra套索选择器进行回归特征选择
套索回归岭回归机器学习(Machine Learning) We all know the Occam's Razor: 我们都知道Occam的剃刀: From a set of solution ...
机器学习-对数几率回归（逻辑回归）算法
文章目录简介激活函数损失函数优化算法代码前些天发现了一个巨牛的人工智能学习网站,通俗易懂,风趣幽默,忍不住分享一下给大家.点击跳转到网站. 简介对数几率回归(Logistic Regre ...
【机器学习入门】(8) 线性回归算法：正则化、岭回归、实例应用(房价预测)附python完整代码和数据集
各位同学好,今天我和大家分享一下python机器学习中线性回归算法的实例应用,并介绍正则化.岭回归方法.在上一篇文章中我介绍了线性回归算法的原理及推导过程:[机器学习](7) 线性回归算法:原理.公式 ...
机器学习--线性回归2（共线性问题、岭回归、lasso算法）
上一节我们讲了线性回归的一元线性回归和多元线性回归,其中多元线性回归在求解的过程中又分为满秩和非满秩的情况,进而引出了的最大释然估计进行处理,后面详细的对回归误差进行了分析,最后误差来源于平方偏置.方 ...
常用的三种线性模型算法--线性回归模型、岭回归模型、套索回归模型
常用的三种线性模型算法–线性回归模型.岭回归模型.套索回归模型线性模型基本概念线性模型的一般预测模型是下面这个样子的,一般有多个变量,也可以称为多个特征x1.x2.x3 - 最简单的线性模型就是一 ...
多元线性回归算法: 线性回归Linear Regression、岭回归Ridge regression、Lasso回归、主成分回归PCR、偏最小二乘PLS
0. 问题描述输入数据:X=(x1,x2,....,xm)\mathbf{X} = (x_1, x_2,...., x_m)X=(x1,x2,....,xm), 相应标签 Y=(y1,y2,. ...
机器学习-分类算法-线性回归、梯度下降，过拟合欠拟合，岭回归11
梯度下降重点正规方程去进行房价预测 from sklearn.datasets import load_boston from sklearn.linear_model import LinearR ...
Machine Learning | (10) 回归算法-岭回归
Machine Learning | 机器学习简介 Machine Learning | (1) Scikit-learn与特征工程 Machine Learning | (2) sklearn数据集 ...

岭回归——线性回归算法

岭回归：

岭回归——线性回归算法相关推荐

最新文章

热门文章