岭回归-sklearn

欠拟合与过拟合：欠拟合是机器学习数据的特点，但是由于学习到的特征过于少，最后导致拟合的效果不佳。过拟合是机器学习过程中，学习到的特征过于多，导致在训练集上的表现较好，但在测试集上的表现不佳。

解决方案：使用岭回归

岭回归：更改损失函数

lamda是一个超参数，表示正则化力度

这样可以在进行回归的时候，尽可能的将参数减少，减少过拟合。

API：

from sklearn.datasets import load_boston
from sklearn.model_selection import train_test_split
from sklearn.linear_model import Ridge
from sklearn.metrics import mean_squared_errorboston = load_boston()
x_train, x_test, y_train, y_test = train_test_split(boston.data, boston.target, random_state=3)estimator = Ridge(normalize=True, alpha=0.0001)
# normalize 表示会对数据进行标准化处理， alpha学习率， solver ‘auto’会根据数据的情况对梯度下降方法进行优化
estimator.fit(x_train, y_train)pre = estimator.predict(x_test)
error = mean_squared_error(y_test, pre)print(error)

18.897652766640018

岭回归-sklearn相关推荐

【机器学习】监督学习--（回归）岭回归
注:数据集放在文章末尾 (1)岭回归 -- 标准方程法 import numpy as np from numpy import genfromtxt import matplotlib.pyplot ...
sklearn 中的线性回归、岭回归、Lasso回归参数配置及示例
文章目录线性回归引入重要参数重要属性重要方法例子岭回归引入重要参数重要属性重要方法示例 Lasso 回归引入重要参数重要属性重要方法示例本文主要讲一些sklearn ...
高斯拟合 vc++代码_使用python+sklearn实现核岭回归和高斯回归的比较
核岭回归(KRR)和高斯回归(GPR)都通过在内部采用"内核技巧"来学习目标函数.KRR学习使用相应核函数(该核函数对应于原始空间中的非线性函数)将目标函数映射到内核空间中的线性函 ...
sklearn之逻辑回归和岭回归
过拟合与欠拟合过拟合:一个假设在训练数据上能够获得比其他假设更好的拟合, 但是在训练数据外的数据集上却不能很好地拟合数据,此时认为这个假设出现了过拟合的现象.(模型过于复杂) 欠拟合:一个假设在训练 ...
python机器学习库sklearn——岭回归（Ridge、RidgeCV）（L2正则化）
分享一个朋友的人工智能教程.零基础!通俗易懂!风趣幽默!还带黄段子!大家可以看看是否对自己有帮助:点击打开 docker/kubernetes入门视频教程全栈工程师开发手册 (作者:栾鹏) pyth ...
殊途同归的两种角度理解岭回归(内含有sklearn例子)
在学习统计学专业课<回归分析技术>时学过岭回归,学机器学习时也涉及到岭回归,但是两个角度的思想方法略有不同,但最后的结果却是殊途同归的,最近准备统计学考研的复试时,对比了两种思路,觉得很有 ...
sklearn机器学习：岭回归Ridge
在sklearn中,岭回归由线性模型库中的Ridge类来调用: Ridge类的格式 sklearn.linear_model.Ridge (alpha=1.0, fit_intercept=True, ...
【skLearn 回归模型】岭回归＜linear_model.Ridge＞
文章目录一.岭回归概念 • 定义 • 岭回归处理多重共线性原理二.linear_model.Ridge 类案例:加利福尼亚房价 ① 读取数据集 ② 划分训练集.测试集 ③ 岭回归训练模型 ④ 使 ...
【sklearn】线性回归、最小二乘法、岭回归、Lasso回归
文章目录机器学习的sklearn库一.回归分析 <1.1>线性回归 1.1.1.Python实现线性回归 <1.2>最小二乘法 1.2.1.MATLAB实现最小二乘法 1. ...

岭回归-sklearn

岭回归-sklearn相关推荐

最新文章

热门文章