《统计学习方法》——李航学习大纲

最近在学习李航写的统计学习方法概论，每一章都用xmind理清了思路，括号里是书里的公式，第一次写博文，敬请指教~~~~

第一章统计学习方法论

第二章感知机

每个方法其实只需要着重掌握三要素和输入输出就可以了，主要看模型、策略和算法。

感知机主要是二类分类的线性分类模型。

看到后面会注意感知机和支持向量机的区别。

第三章 k近邻法

k近邻算是入门级别的机器学习的方法了。我们在上机器学习课的时候，老师也介绍这是基础的方法，主要核心思想是“物以类聚”，看训练集中离该输入最近的实例多数属于什么类别。

KNN主要掌握三要素，k值的选择、距离度量和分类决策规则。

注意在knn算法实现的部分，有提到kd树，平衡kd树和kd数的搜索的算法都比较重要，有利于KNN的实现。

第四章朴素贝叶斯法

学习朴素贝叶斯法之前，最好看一下贝叶斯定理。

朴素贝叶斯法的精髓在于后验概率最大化，弄清后验概率的含义。

第五章决策树

决策树主要抓住三个步骤：特征选择、决策树的生成和决策树的修剪。

一般决策树主要用于分类。

CART决策树也叫分类与回归决策树，注意掌握生成时最优切分变量和切分点的算法生成的思想。

《统计学习方法》——李航学习大纲相关推荐

统计学习方法-李航（6）
统计学习方法-李航(6) 分类问题评价指标标注问题过程学习标注回归问题过程分类问题在监督学习中,当输出变量Y取有限个离散值时, 预测问题便成为分类问题. 分类问题包括学习和分类两个过 ...
统计学习方法-李航（5）
统计学习方法-李航(5) 生成模型与判别模型监督学习方法生成方法(generative approach) 生成模型(generative model) 判别方法(discriminative a ...
统计学习方法-李航（4）
统计学习方法-李航(第一章4) 泛化能力泛化误差泛化误差上界考虑二分类问题的泛化误差上界泛化误差上界定理泛化误差上界定理证明泛化能力泛化误差学习方法的泛化能力是指由该方法学习到的模型对 ...
统计学习方法-李航（3）
统计学习方法-李航(第一章3) 模型评估与模型选择训练误差与测试误差过拟合与模型选择例如:多项式拟合正则化和交叉验证正则化例如:回归问题交叉验证简单交叉验证 S折交叉验证(S-fold ...
统计学习方法-李航（2）
统计学习方法-李航(第一章2) 如何对经验风险进行矫正经验风险最小化(ERM) 缺点结构风险最小化极大似然估计和贝叶斯估计(PR) 极大似然估计贝叶斯估计如何对经验风险进行矫正在现实中,由 ...
统计学习方法-李航(1)
统计学习方法-李航(第一章1) 第一章统计学习概论 1.1 统计学习 1.2 监督学习 1.3 统计学习的三要素第一章统计学习概论 1.1 统计学习 1.统计学习是关于计算机基于数据构建概论统计 ...
机器学习理论《统计学习方法》学习笔记：第六章逻辑斯谛回归与最大熵模型
机器学习理论<统计学习方法>学习笔记:第六章逻辑斯谛回归与最大熵模型 6 逻辑斯谛回归与最大熵模型 6.1 逻辑斯谛回归模型 6.1.1 逻辑斯谛分布 6.1.2 二项逻辑斯蒂回归模型 ...
机器学习理论《统计学习方法》学习笔记：第五章决策树
机器学习理论<统计学习方法>学习笔记:第五章决策树决策树 5.1 决策树模型与学习 5.1.1 决策树模型 5.1.2 决策树与if-then规则 5.1.3 决策树与条件概率分布 5 ...
机器学习理论《统计学习方法》学习笔记：第四章朴素贝叶斯法
机器学习理论<统计学习方法>学习笔记:第四章朴素贝叶斯法 4 朴素贝叶斯法 4.1 朴素贝叶斯法的学习与分类 4.1.1 基本方法 4.1.2 后验概率最大化的含义 4.2 朴素贝叶斯法 ...
机器学习理论《统计学习方法》学习笔记：第三章 k近邻法
机器学习理论<统计学习方法>学习笔记:第三章 k近邻法 3 k近邻法 3.1 K近邻算法 3.2 K近邻模型 3.2.1 模型 3.2.2 距离度量 3.2.3 K值的选择 3.2.4 分 ...

《统计学习方法》——李航学习大纲

《统计学习方法》——李航学习大纲相关推荐

最新文章

热门文章

《统计学习方法》——李航 学习大纲

《统计学习方法》——李航 学习大纲相关推荐

最新文章

热门文章

《统计学习方法》——李航学习大纲

《统计学习方法》——李航学习大纲相关推荐