机器学习中常用的数学(一)

2024-05-09 17:13:22

一、常用分布

常见的随机变量分布中存在着离散型分布和连续型分布两种：

1、离散型随机分布

1）0-1分布

P{X=p}=pk(1−p)(1−k)P\{X = p\} = p^k(1-p)^{(1-k)}P{X=p}=pk(1−p)(1−k), k = 0, 1, (0<p<1)
其期望为ppp,方差为p(1−p)p\left(1-p\right)p(1−p)

2)二项分布
实验EEE只有两种结果，AAA和Aˉ\bar{A}Aˉ，将饰演EEE独立重复进行n次，称为n重伯努利实验，n重伯努利实验中，事件A发生的次数，
P{X=p}=Cnkpkqn−kP\{X = p\}= C_n^k p^k q^{n-k}P{X=p}=Cnkpkqn−k
当n=1时，二项分布变成0-1分布。二项分布的期望为npnpnp,方差为np(1−p)np(1-p)np(1−p)
3）泊松分布
P{X=k}=λke−λk!P\{X=k\} = \frac{\lambda^ke^{-\lambda}}{k!}P{X=k}=k!λke−λ
称为服从参数λ\lambdaλ的泊松分布，记为X~π(λ)\pi(\lambda)π(λ)
泊松分布的期望为λ\lambdaλ,方差也为λ\lambdaλ

2、连续型随机变量
1）均匀分布

f(x)={1b−aa<x<b0elsef(x) =\begin{cases} \frac{1}{b-a} \quad a<x<b\\ 0 \quad else\\ \end{cases} f(x)={b−a1a<x<b0else
记为X~U(a,b),其期望为a+b2\frac{a+b}{2}2a+b，方差为(b−a)212\frac{(b-a)^2}{12}12(b−a)2

2）指数分布
f(x)={e−x/θθ,x>00,elsef(x) = \begin{cases} \frac{e^{-x/\theta}}{\theta}, \quad x>0 \\ 0 \quad,else \end{cases} f(x)={θe−x/θ,x>00,else
称X为服从参数θ\thetaθ的指数分布，期望θ\thetaθ，而方差为θ2\theta^2θ2

3)正态分布
X服从分布
f(x)=12πσe−(x−μ)22σ2f(x)= \frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}} f(x)=2πσ1e−2σ2(x−μ)2
称为正态分布，期望μ\muμ，方差σ2\sigma^2σ2

二、期望和方差定义

期望：
离散变量期望计算为：
E(X)=∑iNXi⋅P(Xi)E(X)=\sum_i^N X_i\cdot P(X_i)E(X)=∑iNXi⋅P(Xi)
连续性变量期望计算：
E(x)=∫xp(x)dxE(x)=\int x p(x)dxE(x)=∫xp(x)dx

方差：
离散型变量方差计算：
D(X)=E((X−E(X)2)D(X) = E((X-E(X)^2)D(X)=E((X−E(X)2)
按照如下计算流程：
D(x)=E(X2−2X⋅E(x)−E(x)2)=E(X2)−E(x)2D(x) = E(X^2-2X\cdot E(x)-E(x)^2) =E(X^2)-E(x)^2 D(x)=E(X2−2X⋅E(x)−E(x)2)=E(X2)−E(x)2
连续性变量方差计算：
D(x)=∫(x−E(x))2p(x)dxD(x)=\int (x-E(x))^2 p(x)dxD(x)=∫(x−E(x))2p(x)dx

分位数
占比的比例，几
∫p(x)dx=α\int p(x)dx = \alpha∫p(x)dx=α
其中α\alphaα即为分位数

三、大数定律和中心极限定理

机器学习中常用的数学(一)相关推荐

机器学习百页书：机器学习中常用到的一些数学符号
一本精简的机器学习入门手册.机器学习百页书<机器学习精讲>,人工智能的核心是机器学习,本书囊括机器学习的精髓,系统而精炼地讲解机器学习的基本原理.本书英文版一经推出,就长期位于亚马逊机器学 ...
干货丨一文介绍机器学习中基本的数学符号
在机器学习中,你永远都绕不过数学符号. 通常,只要有一个代数项或一个方程符号看不懂,你就完全看不懂整个过程是怎么回事了.这种境况非常令人沮丧,尤其是对于那些正在成长中的机器学习初学者来说更是如此. 如 ...
入门 | 一文介绍机器学习中基本的数学符号
本文介绍了机器学习中的基本数学符号.具体来说有算数符号,包括各种乘法.指数.平方根以及对数:数列和集合符号,包括索引.累加以及集合关系.此外,本文还给出了 5 个当你在理解数学符号遇到困难时可以应急的 ...
一文介绍机器学习中基本的数学符号
本文介绍了机器学习中的基本数学符号.具体来说有算数符号,包括各种乘法.指数.平方根以及对数:数列和集合符号,包括索引.累加以及集合关系.此外,本文还给出了 5 个当你在理解数学符号遇到困难时可以应急的 ...
机器学习中的基本数学知识
注:本文的代码是使用Python 3写的. 机器学习中的基本数学知识线性代数(linear algebra) 第一公式矩阵的操作换位(transpose) 矩阵乘法矩阵的各种乘积内积外积 ...
AI：人工智能概念之机器学习中常用算法的思维导图集合(非常经典、建议收藏)之详细攻略
AI:人工智能概念之机器学习中常用算法的思维导图集合(非常经典.建议收藏)之详细攻略目录机器学习算法的思维导图集合 1.ML算法思维图 2.ML算法思维导图相关文章:ML/DL:关于算法模型的选 ...
机器学习中常用的优化算法：
http://blog.csdn.net/losteng/article/details/50993911 有知识点和代码的实现过程. 机器学习中常用的优化算法: 1.梯度下降法 2.牛顿法和拟牛顿法 ...
数学建模可以用python吗_Python中常用的数学建模Scipy
Python中常用的数学建模Scipy 发布时间:2020-09-10 16:56:48 来源:亿速云阅读:116 本篇文章为大家展示了Python中常用的数学建模Scipy,代码简明扼要并且容易理 ...
总结：机器学习中的基本数学知识
注:本文的代码是使用Python 3写的. 机器学习中的基本数学知识线性代数(linear algebra) 第一公式矩阵的操作换位(transpose) 矩阵乘法矩阵的各种乘积内积外积 ...

最新文章

热门文章