0. 写在前面

本博客累积一些关于sklearn中model_selection中常用的函数.

1. 形成测试集和训练集

from sklearn.model_selection import train_test_split
Xtrain,Xtest,Ytrain,Ytest = train_test_split(wine.data,wine.target,test_size=0.3,shuffle=True)

2. 交叉验证

2.1 cross_val_score

Q1: 返回的评价指标是什么？

A1: 默认每次交叉验证，使用estimator本身的评价指标，具体可以参考sklearn对该estimator的介绍。当然也可以通过参数scoring来改变

Q2 ：交叉验证时，使用训练集还是全部的数据集？

A2 ：严谨来说，应该使用训练集。当使用全部数据集时，存在这样一个问题：有一个数据集第一次交叉验证时被作为训练集，第二次被作为验证集，这就相当于提前告诉了模型一些数据信息，使得模型过拟合。所以要使用训练集作为交叉验证的全部数据，在每一次交叉验证时，一份作为验证集，其余作为训练集，在验证集上表现好的，还要再测试集上测试，最后得出答案。

Q3 ：estimator是训练后的还是未训练的

A3 ：未训练的

注意:交叉验证本身就是一个经验技术，帮助我们更好的判断模型的训练效果，但并不是在验证集和测试集上都表现好的模型就是一个好模型，因为我们不确定它们对所有未知数据的预测


from sklearn.model_selection import cross_val_scorecross_val_score(estimator,X,y=None,*,groups=None,scoring=None,cv=None,n_jobs=None,verbose=0,fit_params=None,pre_dispatch='2*n_jobs',error_score=nan,
)
Docstring:
Evaluate a score by cross-validation

顺便提一下，你可以通过以下代码查看所有的评价指标：

import sklearn
sorted(sklearn.metrics.SCORERS.keys())

2.2 KFold

也许你还会碰到KFold对象用来交叉验证，它需要配合cross_val_score来使用，具体的：

cv = KFold(n_splits=5, shuffle = True, random_state=42)
results = cross_val_score(estimator,X,y,cv=cv)

2.3 网格搜索交叉验证GridSearchCV

目的：使用网格搜索法进行穷尽搜索最好的参数对(一般是两个参数)。

使用：GridSearchCV实现了fit和score方法。如果estimator本身实现了predict、predict_proba、decision_function、transform和inverse_transform方法，则GridSearchCV的类对象也可以调用这些方法

GridSearchCV(estimator,     # √param_grid,    # √*,scoring=None,  # √n_jobs=None,iid='deprecated',refit=True,cv=None,       # √verbose=0,pre_dispatch='2*n_jobs',error_score=nan,return_train_score=False,
)

在实际使用中，一般下面的操作：

1. 定义一个字典类型变量param，其中key值是estimator的参数，value是该参数取值范围
2. 定义模型，该模型一定是未经过训练的
3. 定义交叉验证对象，可以使用KFold，该步可有可无
4. 定义GridSearchCV对象
5. 训练等后续操作

sklearn学习——model_selection相关推荐

机器学习Sklearn学习总结
Sklearn学习资料推荐: sklearn中文文档机器学习入门必看:使用 scikit-learn 构建模型的通用模板机器学习神器Scikit-Learn保姆教程! python机器学习_FF_ ...
sklearn学习07——集成学习
sklearn学习07--集成学习前言一.集成学习 1.1.什么是集成学习? 1.2.Boosting 算法二.AdaBoost算法及实现 2.1.AdaBoost算法 2.2.调sklearn ...
sklearn学习04——DecisionTree
sklearn学习04--DecisionTree 前言一.决策树原理 1.1.算法基本流程 1.2.最优划分属性的选择二.sklearn代码实践 2.1.引入库 2.2.查看数据集信息 2.3. ...
SKlearn学习笔记——XGBoost
SKlearn学习笔记--XGBoost 1. 概述 1.1 xgboost库与XGB的sklearn API 1.2 XGBoost的三大板块 2. 梯度提升树 2.1 提升集成算法:重要参数 n_ ...
Sklearn学习-iris数据集学习
Sklearn学习-逻辑回归(iris数据集) 使用load_iris加载数据集,查看包含的keys 查看数据的列名,分类目标的名称获取data和target,并打印各自的shape 拆分训练集和测 ...
sklearn学习05——K-means
sklearn学习05--K-means 前言一.K-means算法思想二.代码实现 K-means算法 2.1.引入相关库 2.2.生成数据集 2.3.训练 + 预测 2.3.惯性指标(iner ...
Sklearn学习笔记3 model_selection模块
3 Model selection and evaluation 1 sklearn.model_selection: Model Selection 1.1 Splitter Classes(分组) ...
sklearn 学习之 model_selection
(1.1) sklearn.model_selection.KFold(n_splits=3, shuffle=False, random_state=None) 这个数据分割器与之前学到的 Grou ...
sklearn pipeline_我的sklearn学习经验
scikit-learn是python进行数据挖掘与分析的重要而有效的工具,学习scikit-learn最重要的资料来源就是它的官网: scikit-learn: machine learning i ...

sklearn学习——model_selection

文章目录