草庐IT

DOA估计

全部标签

最大似然估计基础介绍

一、两个简单的栗子第一颗栗子有两个外形完全相同且不透明的黑箱子,甲箱子里装有99个白球和1个黑球,乙箱子里装有1个白球和99个黑球。一次试验里随机选中一个箱子,然后从中取出一个球发现是黑球。请问,这个箱子最有可能是哪个箱子?很显然,人们最直观的感觉是这个黑球最有可能是从甲箱子里取出来的,因为甲箱子里的黑球多呀。这个推断符合人们的日常经验,这里的最有可能就是“最大似然(maximum-likelihood)”的意思,而这个问题答案背后的原理就是“最大似然原理”。第二颗栗子我们来看下用于决策的经典公式之一贝叶斯公式:\[p(w|x)=\frac{p(x|w)\cdotp(w)}{p(x)}\]在机

最大似然估计基础介绍

一、两个简单的栗子第一颗栗子有两个外形完全相同且不透明的黑箱子,甲箱子里装有99个白球和1个黑球,乙箱子里装有1个白球和99个黑球。一次试验里随机选中一个箱子,然后从中取出一个球发现是黑球。请问,这个箱子最有可能是哪个箱子?很显然,人们最直观的感觉是这个黑球最有可能是从甲箱子里取出来的,因为甲箱子里的黑球多呀。这个推断符合人们的日常经验,这里的最有可能就是“最大似然(maximum-likelihood)”的意思,而这个问题答案背后的原理就是“最大似然原理”。第二颗栗子我们来看下用于决策的经典公式之一贝叶斯公式:\[p(w|x)=\frac{p(x|w)\cdotp(w)}{p(x)}\]在机

[概率论与数理统计]笔记:5.2 参数的最大似然估计与矩估计

5.2参数的最大似然估计与矩估计估计其实就是猜数。最大似然估计基本思想概率大的事件比概率小的事件更易发生。将使事件\(A\)发生的概率最大的参数\(\theta\)作为估计值。案例总体:100个球(黑球或白球)需要估计的参数:黑球的个数\(\theta=99\)或\(1\)抽样:摸球并放回结论:如果经常摸出黑球,则估计\(\theta=99\)如果经常摸出白球,则估计\(\theta=1\)做题模板写出总体的概率函数/密度函数。(分别对应离散型/连续型)写出似然函数\(L(\theta)\).似然函数表示取得样本的概率,所以是概率函数值相乘的格式,求导很复杂,所以要使用自然对数将乘除转化为加减

[概率论与数理统计]笔记:5.2 参数的最大似然估计与矩估计

5.2参数的最大似然估计与矩估计估计其实就是猜数。最大似然估计基本思想概率大的事件比概率小的事件更易发生。将使事件\(A\)发生的概率最大的参数\(\theta\)作为估计值。案例总体:100个球(黑球或白球)需要估计的参数:黑球的个数\(\theta=99\)或\(1\)抽样:摸球并放回结论:如果经常摸出黑球,则估计\(\theta=99\)如果经常摸出白球,则估计\(\theta=1\)做题模板写出总体的概率函数/密度函数。(分别对应离散型/连续型)写出似然函数\(L(\theta)\).似然函数表示取得样本的概率,所以是概率函数值相乘的格式,求导很复杂,所以要使用自然对数将乘除转化为加减

[概率论与数理统计]笔记:5.1 点估计概述

第五章参数估计与假设检验5.1点估计概述相关概念:参数空间:参数的取值范围。点估计:对未知的参数进行估计所得到的一个具体的数据,结果是一个数(数轴上的一个点)。区间估计:在可信度下的最可能的存在区间中得到的结果,结果是一个区间。\(\hat{\theta}=\hat{\theta}(X_1,\cdots,X_n)\)表示构造函数在取得样本后可以计算出一个参数的估计值。无偏性无偏估计量:\(E\hat{\theta}=\theta\)有偏估计量:\(E\hat{\theta}\ne\theta\)渐进无偏估计量:\(\lim\limits_{n\to\infty}E\hat{\theta}=\t

[概率论与数理统计]笔记:5.1 点估计概述

第五章参数估计与假设检验5.1点估计概述相关概念:参数空间:参数的取值范围。点估计:对未知的参数进行估计所得到的一个具体的数据,结果是一个数(数轴上的一个点)。区间估计:在可信度下的最可能的存在区间中得到的结果,结果是一个区间。\(\hat{\theta}=\hat{\theta}(X_1,\cdots,X_n)\)表示构造函数在取得样本后可以计算出一个参数的估计值。无偏性无偏估计量:\(E\hat{\theta}=\theta\)有偏估计量:\(E\hat{\theta}\ne\theta\)渐进无偏估计量:\(\lim\limits_{n\to\infty}E\hat{\theta}=\t

最小二乘法,极大似然估计,交叉熵的公式推导

最小二乘法、极大似然估计和交叉熵是常用的三种损失函数。最小二乘法是一种回归问题中常用的损失函数,用于衡量预测值与实际值之间的误差平方和。它常用于线性回归问题中,目标是最小化预测值与真实值之间的均方误差(MSE)。极大似然估计(MaximumLikelihoodEstimation,MLE)是一种统计学习中的方法,用于估计模型的参数。在分类问题中,MLE可以被用于估计分类模型的参数。它通过最大化对数似然函数来估计模型参数,从而使得模型预测的概率分布与真实概率分布的差距最小。交叉熵(CrossEntropy)是一种常用的分类问题中的损失函数,用于衡量模型输出概率分布与真实标签之间的差异。它在深度学

最小二乘法,极大似然估计,交叉熵的公式推导

最小二乘法、极大似然估计和交叉熵是常用的三种损失函数。最小二乘法是一种回归问题中常用的损失函数,用于衡量预测值与实际值之间的误差平方和。它常用于线性回归问题中,目标是最小化预测值与真实值之间的均方误差(MSE)。极大似然估计(MaximumLikelihoodEstimation,MLE)是一种统计学习中的方法,用于估计模型的参数。在分类问题中,MLE可以被用于估计分类模型的参数。它通过最大化对数似然函数来估计模型参数,从而使得模型预测的概率分布与真实概率分布的差距最小。交叉熵(CrossEntropy)是一种常用的分类问题中的损失函数,用于衡量模型输出概率分布与真实标签之间的差异。它在深度学

土壤水分特征参数估计(soil water characteristic)

引言土壤水分特征是水文学研究的重点,在作物模型中也是计算土壤水平衡不可或缺的参数。研究中一般用水分特征曲线来反映土壤的持水特征,渗透特征曲线可以反映土壤渗透特征。这里面有几个主要的参数永久萎蔫点(土壤水势约为-1500kp)最大田间持水量(土壤水势约为-33kp)饱和含水量(土壤水势为0kp)饱和渗透率(mm/h)美国农业局研发的软件soilwatercharacteristic可以根据土壤的质地(砂粒、粘粒、有机质、土壤容重、碎石子含量、盐浓度)来估算土壤水分特征参数。软件界面本文基于说明文档里的参数计算基于python实现了土壤特征参数的估算以便于程序化的应用,由于盐含量的没看太多,本程序

土壤水分特征参数估计(soil water characteristic)

引言土壤水分特征是水文学研究的重点,在作物模型中也是计算土壤水平衡不可或缺的参数。研究中一般用水分特征曲线来反映土壤的持水特征,渗透特征曲线可以反映土壤渗透特征。这里面有几个主要的参数永久萎蔫点(土壤水势约为-1500kp)最大田间持水量(土壤水势约为-33kp)饱和含水量(土壤水势为0kp)饱和渗透率(mm/h)美国农业局研发的软件soilwatercharacteristic可以根据土壤的质地(砂粒、粘粒、有机质、土壤容重、碎石子含量、盐浓度)来估算土壤水分特征参数。软件界面本文基于说明文档里的参数计算基于python实现了土壤特征参数的估算以便于程序化的应用,由于盐含量的没看太多,本程序