关于极大似然函数与概率的理解

概率

对概率p(x∣w)p(x|w)p(x∣w)是描述固定参数w时，随机变量x的分布情况。

极大似然函数

对于L(θ|x)=f(x|θ)这个等式表示的是对于事件发生的两种角度的看法。其实等式两遍都是表示的这个事件发生的概率或者说可能性。再给定一个样本x后，我们去想这个样本出现的可能性到底是多大。统计学的观点始终是认为样本的出现是基于一个分布的。那么我们去假设这个分布为f，里面有参数theta。对于不同的theta，样本的分布不一样。f(x|θ)表示的就是在给定参数theta的情况下，x出现的可能性多大。L(θ|x)表示的是在给定样本x的时候，哪个参数theta使得x出现的可能性最大。

例子

对于投硬币来说，我们已知概率正反面分别为0.5，那么假设投硬币投10次那么概率p(x1,x2,.....x10∣p=0.5)=11024p(x_1,x_2,.....x_{10}|p=0.5)=\frac{1}{1024}p(x1,x2,.....x10∣p=0.5)=10241,这是对于概率来说的。
那么对于极大似然函数来说，我们知道结果满足伯努利分布，假设具体的p值我们不知道，我们只知道从该分布取样得到的
PPNNPNPPPP的一组样本，p代表正面，N代表反面，因为我们只知道这组样本，那么极大似然的思想就是求得使这组样本得到概率最大的对应的p。那么L(θ|x)=f(x|θ)=p*p*(1-p)*(1-p)*p*(1-p)*p*p*p*p=p7(1−p)3p^7(1-p)3p7(1−p)3,对于这个例子来说p=0.5的时候，概率等于11024\frac{1}{1024}10241，但是这个时候概率有更大的值，已知当p=0.7的时候概率最大。但是要知道，我们只取了一组样本，当样本足够大的时候，可以得出p=0.5的时候，概率最大，这与上文我们已知p=0.5一致。

关于极大似然函数与概率的理解相关推荐

【For非数学专业】通俗理解似然函数、概率、极大似然估计和对数似然
文章目录 1. 似然函数与概率 1.1 似然函数与概率的初步认识 1.2 似然的定义 1.3 结合具体实例来深入理解似然与概率 2. 极大似然估计 3. 对数似然函数 4. 总结 1. 似然函数与概率 ...
决策树底层思想，决策树的损失函数与极大似然函数理解
决策树底层思想在决策树中,根节点到叶结点的路径可以看作是一条规则,每一条规则对应着一个类别,对于每一个实例都被一条规则所覆盖,且只被一条规则所覆盖,即满足互斥且完备的性质. 通过决策树模型可以将特征 ...
极大似然函数求解_从最大似然函数到 EM算法详解
极大似然算法本来打算把别人讲的好的博文放在上面的,但是感觉那个适合看着玩,我看过之后感觉懂了,然后实际应用就不会了.... MLP其实就是用来求模型参数的,核心就是"模型已知,求取参数&q ...
Logistic Regression 为什么用极大似然函数
1. 简述 Logistic Regression Logistic regression 用来解决二分类问题, 它假设数据服从伯努利分布,即输出为正负两种情况,概率分别为 p 和 1-p, 目 ...
极大似然函数取对数的原因
极大似然函数取对数的原因 1. 减少计算量 2. 利于结果更好的计算 3. 取对数并不影响最后结果的单调性 1. 减少计算量 2. 利于结果更好的计算但其实可能更重要的⼀点是,因为概率值都在[0,1 ...
从零点五开始的深度学习笔记——VAE(Variational AutoEncoder) （二）概率角度理解VAE结构
概率角度理解VAE结构 1. 从联合概率分布构造的损失函数开始的一切 1.1 定义 1.2 推导过程 1.3 损失函数的理解 2. 总结 1. 从联合概率分布构造的损失函数开始的一切一个优秀的生成网 ...
极大似然函数求解_概率与数理统计--极大似然估计详细讲解及例题.ppt
概率与数理统计--极大似然估计详细讲解及例题极大似然估计二.寻求估计量的方法 1. 矩估计法 2. 极大似然法 3. 最小二乘法 4. 贝叶斯方法 -- 这里我们主要介绍第二两种方法 . 2. 极 ...
极大似然函数求解_关于极大似然估计的学习（附Matlab中mle函数的求解）
冒泡~是新的一周辣~温故而知新一下极大似然估计(真是很不容易了) 极大似然估计的基本思想什么是极大似然?官方上的较清楚的解释是:利用已知的样本的结果,在使用某个模型的基础上,反推最有可能导致这样结果 ...
线性回归，逻辑回归的学习（包含最小二乘法及极大似然函数等）
回归问题的前提: 1) 收集的数据 2) 假设的模型,即一个函数,这个函数里含有未知的参数,通过学习,可以估计出参数.然后利用这个模型去预测/分类新的数据. 1. 线性回归假设特征和结果都满 ...

关于极大似然函数与概率的理解

概率

极大似然函数

例子

关于极大似然函数与概率的理解相关推荐

最新文章

热门文章