草庐IT

深度学习-必备的数学知识-概率论2

深度学习必备的数学知识概率论在上一篇文章中,我带大家初略的了解了概率论是什么。这篇文章中我将为大家讲解概率论中的随机变量和概率分布。随机变量在概率论中,随机变量(randomvariable)是一个可以随机地取不同值的变量。一个随机变量是对可能的状态的描述,它的取值范围是事件的所有可能的状态。它必须伴随着概率分布来指定每个状态的可能性。随机变量可以是离散的,也可以是连续的,取决于它的值是否可以在一个连续的范围内变化。离散型随机变量的例子有:掷骰子的结果,1到6的整数连续型随机变量的例子有:一个人的体重,一个人的体重可以在一个连续的范围内取任何值。概率分布概率分布(probabilitydist

【概率论】大数定律

概要:首先介绍了切比雪夫不等式,然后介绍大数定律概念和3种大数定律及证明。切比雪夫不等式已知随机变量X的期望EX和方差DX,对,可得的一个上界。解释:不论X服从什么分布,X在E(x)的ε邻域内取值的概率不小于1-Dxε2。证明:本质:随机变量X偏离E(X)越大,则其概率越小。若方差越小,随机变量X集中在期望附近的可能性就越大,所以方差刻画了随件变量的离散程度。随机变量X的分布未知的情况下,只利用X的期望和方差,即可对X的概率分布进行估计。大数定律:依概率收敛:X1,X2,…,Xn,…是一随机变量序列,如果存在一个常数a,对∀ε>0,总有limn→∞PXn-a=1成立。则称{Xn}依概率收敛于a

概率论基础

二维随机变量二维随机变量是指一个随机实验产生的结果可以用一个有序对来描述的随机变量。它在数学上表示为(X,Y),其中X和Y是两个单独的随机变量。二维随机变量的取值可以是有限的、可数的或者连续的,取决于具体的情况。对于有限或可数的二维随机变量,可以通过列举每个可能的取值和对应的概率来描述其分布;对于连续的二维随机变量,可以使用概率密度函数(PDF)来描述其分布。二维随机变量在实际应用中非常常见。例如,在统计学中,可以用二维随机变量来描述两个相关变量之间的关系;在金融学中,可以用二维随机变量来描述股票价格和时间的关系;在图像处理中,可以用二维随机变量来描述像素的位置和灰度值等。二维随机变量是用来描

概率论学习笔记全网最全!!!!

概率论第01回:一些基本概念1.随机试验满足下列条件的试验称为随机试验.可以在相同的条件下重复地进行;每次试验的可能结果不止一个,并且能事先明确试验的所有可能结果;进行一次试验之前不能确定哪一个结果会出现.2.样本空间​我们研究随机现象的方法其实就是利用已知找到规律来分析未知,既然随机试验的所有可能结果我们都能事先知道,那我们先把这些结果列出来。样本点:随机试验的每一个可能结果称为一个样本样本空间S:所有样本点全体组成的集合称为样本空间3.随机事件随机现象往往是通过一个具体情况或具体事件出现的,比如“扔色子扔出的点数是偶数”这个事件,相当于给扔出的点数有附加了一个条件,它的所有可能结果写欣集合

概率论复习——如何理解Cov(X,X)=D(X)

1.问题点Cov(X,Y)反映的是X与Y之间的相关性。X相比于E(X)的变化和Y相比于E(Y)的变化是否一致,即符号是否相同,最后取一个期望,得到整体X与Y之间的相关性。Cov(X,Y)>0表示X相比于均值E(X)的变化趋势和Y相比于E(Y)的变化趋势相似,X与Y正相关;Cov(X,Y)照这样理解,那么Cov(X,X)应该也是衡量X与X之间的相关性。但是结果为什么是D(X)呢?我们知道,D(X)反映的是X相比于E(X)的波动情况。怎么会和相关性扯上关系呢?2.解答Cov(X,X)=D(X)也可以看作X与X之间的相关性,即正相关,因为。而且D(X)的值越大,说明正相关的程度越大,也就是一个X的变

【概率方法】MCMC 之 Gibbs 采样

上一篇文章讲到,MCMC中的HM算法,它可以解决拒绝采样效率低的问题,但是实际上,当维度高的时候HM算法还是在同时处理多个维度,以两个变量x=[x,y]\mathbf{x}=[x,y]x=[x,y]来说,也就是同时从联合分布里面p(x)=p(x,y)p(\mathbf{x})=p(x,y)p(x)=p(x,y)进行采样,在某些情况下有维度灾难的问题。有些时候,我们从联合分布p(x,y)p(x,y)p(x,y)里面采样很难,但是从条件分布p(x∣y),p(y∣x)p(x|y),p(y|x)p(x∣y),p(y∣x)里面采样很容易,Gibbs采样为了解决维度灾难的问题,Gibbs把直接从联合分布p

人工智能教程(四):概率论入门

在本系列的 上一篇文章 中,我们进一步讨论了矩阵和线性代数,并学习了用JupyterLab来运行Python代码。我们也会简要介绍一些其它有用的库。稍后,我们将讨论概率、理论以及代码。和往常一样,我们先讨论一些能拓宽我们对人工智能的理解的话题。到目前为止,我们只是从技术方面讨论人工智能。随着越来越多的人工智能产品投入使用,现在是时候分析人工智能的社会影响了。想象一个找工作的场景,如果你的求职申请由人来处理,在申请被拒绝时,你可以从他们那里得到反馈,比如被拒的理由。如果你的求职申请由人工智能程序处理,当你的申请被拒绝时,你不能要求该人工智能软件系统提供反馈。在这种情况下,你甚至不能确定你的申请被

扩散模型的发展过程梳理 多个扩散模型理论知识总结/DDPM去噪扩散概率/IDDPM/DDIM隐式去噪/ADM/SMLD分数扩散/CGD条件扩散/Stable Diffusion稳定扩散/LM

1.最近发现自己光探索SDWebUI功能搞了快两个月,但是没有理论基础后面科研路有点难走,所以在师兄的建议下,开始看b站视频学习一下扩散模型,好的一看一个不吱声,一周过去了写个博客总结一下吧,理理思路。不保证下面的内容完全正确,只能说是一个菜鸟的思考和理解,有大佬有正确的理解非常欢迎评论告知,不要骂我不要骂我。2.这里推荐up主,deep_thoughts投稿视频-deep_thoughts视频分享-哔哩哔哩视频(bilibili.com)我觉得对于学习而言只有学到了和没学到的差别,以前可能更多的是直接阅读文献,但如果有这样好的学者录个视频带你精读论文是比你自己埋头苦读五百年好太多太多了,学习

【最大似然估计】详解概率论之最大似然估计

本文收录于《深入浅出讲解自然语言处理》专栏,此专栏聚焦于自然语言处理领域的各大经典算法,将持续更新,欢迎大家订阅!​​个人主页:有梦想的程序星空​​个人介绍:小编是人工智能领域硕士,全栈工程师,深耕Flask后端开发、数据挖掘、NLP、Android开发、自动化等领域,有较丰富的软件系统、人工智能算法服务的研究和开发经验。​​如果文章对你有帮助,欢迎​​关注、​​点赞、​​收藏、​​订阅。1、概率密度函数概率密度函数(ProbabilityDensityFunctions,简称PDF),概率密度函数是概率论里面最重要的概念之一。定义:设​为一随机变量,若存在非负实函数​,使对任意实数​,有:​

常见概率分布及图像

概率分布文章目录概率分布@[toc]1离散概率分布1.1伯努利分布1.2二项分布1.3泊松分布2连续概率分布2.1均匀分布2.2指数分布2.3正态分布2.4卡方分布2.5Student分布3.5F分布1离散概率分布1.1伯努利分布随机变量XXX仅取两个值,X=0,1X=0,1X=0,1,概率质量函数(PMF)为P{X=1}=p;P{X=0}=1−p,p∈[0,1]P\{X=1\}=p;P\{X=0\}=1-p,p\in[0,1]P{X=1}=p;P{X=0}=1−p,p∈[0,1]伯努利累积概率分布(CMF)F(X≤k)F(X\lek)F(X≤k):1.2二项分布随机变量服从参数n,pn,pn