1.背景介绍概率论和机器学习是计算机科学和人工智能领域的基本概念。概率论是用于描述不确定性和随机性的数学框架，而机器学习则是利用数据来训练计算机程序以进行自动化决策的方法。这两个领域密切相连，因为机器学习算法通常需要使用概率论来描述和处理数据的不确定性。在过去的几十年里，机器学习领域发展迅速，从简单的线性回归和决策树算法开始，到复杂的深度学习和自然语言处理的高级应用。这篇文章将涵盖概率论和机器学习的基本概念，从朴素贝叶斯到深度学习的核心算法，以及实际代码示例和解释。2.核心概念与联系2.1概率论基础概率论是一种数学方法，用于描述和预测随机事件发生的可能性。概率通常表示为一个数值，范围在0到1之

文章目录概率论的基本概念取鞋子配对取号码问题（概率的重复的计算）放杯子问题条件概率与重要公式的结合独立的运用随机变量以及分布离散随机变量的分布函数特点连续随机变量的分布函数在某一点的值为0正态分布标准化随机变量函数的分布多维随机变量以及分布条件概率max与min函数的相关计算二维随机变量二维随机变量求边缘概率密度独立性Z=X+Ymax{X,Y}离散二维随机变量的条件概率以及max与min随机变量的数字特征切比雪夫不等式泰勒展开式与期望方差的结合相互独立与期望方差的计算判断两个随机变量是否是相互独立与相关二维离散型的随机变量的独立性与相关性由联合概率密度直接求期望，方差，协方差等大数定律以及中心

再介绍完基本的概率基础知识后，现在总结一下常见的概率分布。Bernoulli分布Bernoulli分布(Bernoullidistribution)是单个二值随机变量的分布。它由单个参数ϕ∈[0,1]\phi∈[0,1]ϕ∈[0,1]控制，ϕ\phiϕ给出了随机变量等于1的概率。它具有如下的一些性质:P(x=1)=ϕP(x=1)=\phiP(x=1)=ϕP(x=0)=1−ϕP(x=0)=1-\phiP(x=0)=1−ϕP(x=x)=ϕx(1−ϕ)1−xP({\rmx}=x)=\phi^{x}(1−\phi)^{1−x}P(x=x)=ϕx(1−ϕ)1−xEx[x]=ϕ\mathbb{E}_x[x

1数据位置(Measuresoflocation)对于数据集:7,9,9,10,10,11,11,12,12,12,13,14,14,15,167,9,9,10,10,11,11,12,12,12,13,14,14,15,167,9,9,10,10,11,11,12,12,12,13,14,14,15,16计算加权平均数，其中权重为:2,1,3,2,1,1,2,2,1,3,2,1,1,1,12,1,3,2,1,1,2,2,1,3,2,1,1,1,12,1,3,2,1,1,2,2,1,3,2,1,1,1,1计算截断均值,去除最高和最低的两个值。计算众数，中位数，方差，标准差2数据散布（Measu

深度学习必备的数学知识概率论我们将接着上一篇文章继续讲解。在接下来的文章中，将会把随机变量本身写作大写字母，随机变量的值写作小写字母。期望、方差和协方差期望（expectation）是指随机变量X所有可能取值的平均或期望值。期望可以看作随机变量的中心或平均位置。换句话说期望是随机变量可能取值的加权平均，权重就是每个值的概率。对于离散型随机变量，其期望E[X]\mathbb{E}[X]E[X]定义为E[X]=∑xxP(X)\mathbb{E}[X]=\sum_{x}xP(X)E[X]=x∑​xP(X)其中xxx是xxx所有可能取值，P(x)P(x)P(x)是XXX取值xxx的概率对于连续性随机变

贝叶斯公式由英国数学家贝叶斯发展而来，在统计学和概率论中有着广泛的应用。与传统的先验概率不同，它提出的后验概率方式，会根据不断出现的新证据来更新概率估计，从而使得估计的准确性能够不断改善。本文尝试通过一个简单的预测天气的示例来讲解后验概率是怎么回事，以及如何根据它推导出贝叶斯公式的。1.从预测天气开始这里为了简化，我们只考虑两种天气情况，晴天和雨天。在没有其他条件的情况下，我们预测明天的天气，得到的是50%概率是晴天，50%概率是雨天。这个概率也可称为先验概率，就像扔硬币一样，没有其他条件的情况下，我们根据经验，可得出硬币落地后正反面的概率各为50%。上面的天气预测结果，绘制成概率图如下（晴天

贝叶斯公式由英国数学家贝叶斯发展而来，在统计学和概率论中有着广泛的应用。与传统的先验概率不同，它提出的后验概率方式，会根据不断出现的新证据来更新概率估计，从而使得估计的准确性能够不断改善。本文尝试通过一个简单的预测天气的示例来讲解后验概率是怎么回事，以及如何根据它推导出贝叶斯公式的。1.从预测天气开始这里为了简化，我们只考虑两种天气情况，晴天和雨天。在没有其他条件的情况下，我们预测明天的天气，得到的是50%概率是晴天，50%概率是雨天。这个概率也可称为先验概率，就像扔硬币一样，没有其他条件的情况下，我们根据经验，可得出硬币落地后正反面的概率各为50%。上面的天气预测结果，绘制成概率图如下（晴天

目录计算条件概率计算概率（放回与不放回）生成随机数算法LinearCongruentialMethod判断是否是fullperiodUniformity(testoffrequency)1.Chi-Squaretestmethodreminderexample2.Kolmogorov-SminovtestmethodexampleIndependence(testofautocorrelation)RunstestAcceptance-rejectionmethodmethod较好理解版methodexample方法1：建议函数使用指数分布方法2：双指数分布生成正态分布方法3：使用Accept

课本为《概率论与数理统计》ISBN978-7-301-29547-2，此次整理4-8章的内容。第四章随机变量的数字特征期望频率具有波动性，概率具有稳定性。离散型设X是离散型随机变量，其分布律为：P{X=xk}=pk,k=0,1,2,……两点分布E(X)=p二项分布E(X)=np泊松分布E(X)=连续型均匀分布  E(X)=(a+b)/2指数分布  E(X)=1/正态分布    E(X)=方差、协方差、相关系数方差（X取值越集中，D(X)越小,D(X)=0时，X以概率1取常数）方差也可看作随机变量X的函数g(X)=[X-E(X)]2的期望方差的性质看书本了解即可两点分布 D(X)=p*(1-p)

第一章 概率论的基本概念一、事件及其关系与运算  1、样本空间、样本点、随机事件、必然事件、不可能事件、基本事件和复合事件的概念； 2、事件的包含与相等：若事件A包含事件B，则B的发生必然导致A的发生。进而有P(AB)=P(B)，P(AUB)=P(A)  3、和事件：A、B至少有一个发生的事件，即AUB  4、积事件：A、B同时发生的事件，即AB  5、互斥事件：A、B不能同时发生的事件，即满足AB=φ，也称互不相容事件。 6、对立事件：满足条件AB=Φ而且A∪B=S，A的对立事件用A̅ 表示，A̅ =S-A；对立事件一定是互不相容事件。  7、差事件：A发生B不发生的事件称为A与B的差事件，