草庐IT

[概率论与数理统计]笔记：3.4 随机向量的数字特征

feixianxing 2023-03-28 原文

3.4 随机向量的数字特征

协方差

定义

协方差用于反映随机向量的分量之间关系的密切程度。

\[cov(X,Y)=E \left[ (X-EX)(Y-EY) \right] =E(XY)-EX\cdot EY \]

性质

  • \(cov(X,X)=DX\)

  • \(cov(X,Y)=cov(Y,X)\)

  • \(cov(aX,bY)=ab\cdot cov(X,Y)\)，\(a,b\)为任意常数

  • \(cov(C,X)=0\)，\(C\)为任意常数

  • \(cov(X_1+X_2,Y)=cov(X_1,Y)+cov(X_2,Y)\)

  • 如果\(X,Y\)相互独立，则\(cov(X,Y)=0\)。反过来不成立：如果\(cov(X,Y)=0\)，\(X,Y\)不一定相互独立。

    • 对于方差存在的随机变量\(X,Y\)，有\(D(X\pm Y)=DX+DY\pm 2cov(X,Y)\)
    • 当\(X,Y\)相互独立时，\(D(X\pm Y)=DX+DY\)

  • \(n\)维随机向量\((X_1,X_2,\cdots,X_n)\)，\(X_i(i=1,2,\cdots,n)\)的方差均存在，则对于任意实向量\((\lambda_1,\lambda_2,\cdots,\lambda_n)\)，\(\sum\limits_{i=1}^n\lambda_iX_i\)的方差必存在，且

    \[D(\sum\limits_{i=1}^n\lambda_iX_i)=\sum\limits_{i=1}^n\lambda_i^2DX_i+2\sum\limits_{1\le i<j\le n}\lambda_i\lambda_jcov(X_i,Y_j). \]

    特别地，当\(X_1,X_2,\cdots,X_n\)两两独立时，有

    \[D(\sum\limits_{i=1}^n\lambda_iX_i)=\sum\limits_{i=1}^n\lambda_i^2DX_i \]

计算

  • 离散型：\(cov(X,Y)=\sum\limits_{i,j}(x_i-EX)(y_j-EY)p_{ij}\)

  • 连续型：\(cov(X,Y)=\int_{-\infty}^{+\infty}\int_{-\infty}^{+\infty}(x-EX)(y-EY)f(x,y)\mathrm{d}x\mathrm{d}y\)

  • 实际做题中常用的公式：\(cov(X,Y)=E(XY)-EX\cdot EY\)

协方差矩阵

定义

\((X_1,X_2,\cdots,X_n)\)是\(n\)维随机向量，\(X_i(i=1,2,\cdots,n)\)的方差均存在，则以\(\sigma_{ij}=cov(X_i,Y_j)\)为第\((i,j)\)个元素的矩阵\((\sigma_{ij})_{n\times n}\)称为随机向量\((X_1,X_2,\cdots,X_n)\)的协方差矩阵，简称协差阵。

记\(\mathbf{X}=(X_1,X_2,\cdots,X_n)^T\)，其协差阵通常记作\(D\mathbf{X}\).

对任意实向量\(\boldsymbol{\lambda}=(\lambda_1,\lambda_2,\cdots,\lambda_n)^T\)，有\(D(\boldsymbol{\lambda}^T\bold{X}=\boldsymbol{\lambda}^TD\bold{X}\ \boldsymbol{\lambda})\)

相关系数

协方差是对两个随机变量的协同变化的度量，但是数值受数量单位影响，也即受各随机变量自身取值水平的影响。

为了避免这种影响，可以采取标准化。

标准化

\[X^*=\frac{X-EX}{\sqrt{DX}},\quad Y^*=\frac{Y-EY}{\sqrt{DY}}. \]

相关系数的定义

标准化后的随机变量的协方差为

\[\begin{align*} cov(X^*,Y^*) &=E(X^*Y^*)-EX^*EY^* \\ &= E\left[\frac{X-EX}{\sqrt{DX}}\cdot\frac{Y-EY}{\sqrt{DY}}\right]-E(\frac{X-EX}{\sqrt{DX}})E(\frac{Y-EY}{\sqrt{DY}}) \\ &= E\left[\frac{X-EX}{\sqrt{DX}}\cdot\frac{Y-EY}{\sqrt{DY}}\right]-\frac{1}{\sqrt{DX}\sqrt{DY}}E(X-EX)E(Y-EY) \\ &= E\left[\frac{X-EX}{\sqrt{DX}}\cdot\frac{Y-EY}{\sqrt{DY}}\right]-\frac{1}{\sqrt{DX}\sqrt{DY}}(EX-EX)(EY-EY) \\ &= E\left[\frac{X-EX}{\sqrt{DX}}\cdot\frac{Y-EY}{\sqrt{DY}}\right] \\ &= \frac{E((X-EX)(Y-EY))}{\sqrt{DX}\sqrt{DY}} \\ &= \frac{cov(X,Y)}{\sqrt{DX}\sqrt{DY}} \end{align*} \]

将其称为\(X,Y\)之间的相关系数，记作\(\rho_{X,Y}=\frac{cov(X,Y)}{\sqrt{DX}\sqrt{DY}}\).

概念与性质

  • 相关系数恒满足：\(|\rho_{X,Y}|\le1\)

  • 如果\(X,Y\)之间存在线性函数关系，则\(|\rho_{X,Y}|=1\).

    此时，称\(X,Y\)完全相关。

    当\(\rho=1\)时，称完全正相关。

    当\(\rho=-1\)时，称完全负相关。

  • 如果\(\rho_{X,Y}=0\)，则称\(X,Y\)不相关。

    从相关系数和协方差的定义可以知道：

    \[独立\Rightarrow不相关\\ 不相关\nRightarrow 独立 \]

    \(独立\Rightarrow没有关系\Rightarrow没有线性关系\Rightarrow不相关\).

    \(不相关\Rightarrow 没有线性关系，但是可能存在非线性关系\nRightarrow独立\).

  • 如果\(0<|\rho_{X,Y}|<1\)，则称\(X,Y\)不完全相关.

    当\(\rho>0\)时，称为正相关。

    当\(\rho<0\)时，称为负相关。

条件数学期望

定义

离散型

在\(Y=y_j\)的条件下，\(X\)的条件概率分布为

\[P\{X=x_i|Y=y_j\}=p_{i|j},\quad\quad i=1,2,\cdots, \]

如果

\[\sum\limits_i|x_i|p_{i|j}<+\infty \]

即绝对收敛，则称\(\sum\limits_i|x_i|p_{i|j}\)为\(X\)在\(Y=y_j\)条件下的条件数学期望，记作\(E[X|Y=y_j]\).

连续型

在\(Y=y\)的条件下，\(X\)的条件密度函数为

\[\int_{-\infty}^{+\infty}|x|f_{X|Y}(x|y)\mathrm{d}x<+\infty, \]

则称

\[\int_{-\infty}^{+\infty}xf_{X|Y}(x|y)\mathrm{d}x \]

为\(X\)在\(Y=y\)条件下的条件数学期望。记作\(E[X|Y=y]\).

性质

条件数学期望具有数学期望具有的所有数学性质。

?概率论与数理统计]笔记：2.2 随机变量的数字特征 - feixianxing - 博客园 (cnblogs.com)

  • 如果\(X,Y\)相互独立，则\(E[X|Y=y]=EX\).

使用教材：
《概率论与数理统计》第四版 中国人民大学 龙永红 主编 高等教育出版社

数理笔记spanclassinline非技术区

有关[概率论与数理统计]笔记：3.4 随机向量的数字特征的更多相关文章

  1. ruby - 如何根据特征实现 FactoryGirl 的条件行为 - 2

    我有一个用户工厂。我希望默认情况下确认用户。但是鉴于unconfirmed特征，我不希望它们被确认。虽然我有一个基于实现细节而不是抽象的工作实现，但我想知道如何正确地做到这一点。factory:userdoafter(:create)do|user,evaluator|#unwantedimplementationdetailshereunlessFactoryGirl.factories[:user].defined_traits.map(&:name).include?(:unconfirmed)user.confirm!endendtrait:unconfirmeddoenden

  2. ruby - 查找字符串中的内容类型(数字、日期、时间、字符串等) - 2

    我正在尝试解析一个CSV文件并使用SQL命令自动为其创建一个表。CSV中的第一行给出了列标题。但我需要推断每个列的类型。Ruby中是否有任何函数可以找到每个字段中内容的类型。例如，CSV行:"12012","Test","1233.22","12:21:22","10/10/2009"应该产生像这样的类型['integer','string','float','time','date']谢谢! 最佳答案 require'time'defto_something(str)if(num=Integer(str)rescueFloat(s

  3. 区块链之加解密算法&数字证书 - 2

    目录一.加解密算法数字签名对称加密DES(DataEncryptionStandard)3DES(TripleDES)AES(AdvancedEncryptionStandard)RSA加密法DSA(DigitalSignatureAlgorithm)ECC(EllipticCurvesCryptography)非对称加密签名与加密过程非对称加密的应用对称加密与非对称加密的结合二.数字证书图解一.加解密算法加密简单而言就是通过一种算法将明文信息转换成密文信息，信息的的接收方能够通过密钥对密文信息进行解密获得明文信息的过程。根据加解密的密钥是否相同，算法可以分为对称加密、非对称加密、对称加密和非

  4. LC滤波器设计学习笔记（一）滤波电路入门 - 2

    目录前言滤波电路科普主要分类实际情况单位的概念常用评价参数函数型滤波器简单分析滤波电路构成低通滤波器RC低通滤波器RL低通滤波器高通滤波器RC高通滤波器RL高通滤波器部分摘自《LC滤波器设计与制作》，侵权删。前言最近需要学习放大电路和滤波电路，但是由于只在之前做音乐频谱分析仪的时候简单了解过一点点运放，所以也是相当从零开始学习了。滤波电路科普主要分类滤波器：主要是从不同频率的成分中提取出特定频率的信号。有源滤波器：由RC元件与运算放大器组成的滤波器。可滤除某一次或多次谐波，最普通易于采用的无源滤波器结构是将电感与电容串联，可对主要次谐波（3、5、7）构成低阻抗旁路。无源滤波器：无源滤波器，又称

  5. ruby - cucumber 特征和步骤定义 - 2

    我是Cucumber测试的新手。我创建了两个特征文件:events.featurepartner.feature并将我的步骤定义放在step_definitions文件夹中:./step_definitions/events.rbpartner.rbCucumber似乎在所有.rb文件中查找步骤信息。有没有办法限制该功能查看特定的步骤定义文件？我之所以要这样做，是因为即使我使用了--guess标志，我也会遇到不明确的匹配错误。我之所以要这样做，有以下几个原因。我正在测试CMS，并希望在不同的功能中测试每种不同的内容类型(事件和合作伙伴)。事件.特征Feature:AddpartnerA

  6. ruby - 将n维数组的每个元素乘以Ruby中的数字 - 2

    在Ruby中，是否有一种简单的方法可以将n维数组中的每个元素乘以一个数字？这样:[1,2,3,4,5].multiplied_by2==[2,4,6,8,10]和[[1,2,3],[1,2,3]].multiplied_by2==[[2,4,6],[2,4,6]]？(很明显，我编写了multiplied_by函数以区别于*，它似乎连接了数组的多个副本，不幸的是这不是我需要的)。谢谢! 最佳答案 它的长格式等价物是:[1,2,3,4,5].collect{|n|n*2}其实并没有那么复杂。你总是可以使你的multiply_by方法:c

  7. Ruby 的数字方法性能 - 2

    我正在使用Ruby解决一些ProjectEuler问题，特别是这里我要讨论的问题25(Fibonacci数列中包含1000位数字的第一项的索引是多少？)。起初，我使用的是Ruby2.2.3，我将问题编码为:number=3a=1b=2whileb.to_s.length但后来我发现2.4.2版本有一个名为digits的方法，这正是我需要的。我转换为代码:whileb.digits.length当我比较这两种方法时，digits慢得多。时间./025/problem025.rb0.13s用户0.02s系统80%cpu0.190总计./025/problem025.rb2.19s用户0.0

  8. ruby - 按数字(从大到大)然后按字母(字母顺序)对对象集合进行排序 - 2

    我正在构建一个小部件来显示奥运会的奖牌数。我有一个“国家”对象的集合，其中每个对象都有一个“名称”属性，以及奖牌计数的“金”、“银”、“铜”。列表应该排序:1.首先是奖牌总数2.如果奖牌相同，按类型分割(金>银>铜，即2金>1金+1银)3.如果奖牌和类型相同，则按字母顺序子排序我正在用ruby​​做这件事，但我想语言并不重要。我确实找到了一个解决方案，但如果感觉必须有更优雅的方法来实现它。这是我做的:使用加权奖牌总数创建一个虚拟属性。因此，如果他们有2个金牌和1个银牌，加权总数将为“3.020100”。1金1银1铜为“3.010101”由于我们希望将奖牌数排序为最高的，因此列表按降序排

  9. ruby-on-rails - rails 中的正则表达式匹配 [\w] 和 "-"但不匹配数字 - 2

    我想为名字验证编写一个正则表达式。正则表达式应包括所有字母(拉丁/法语/德语字符等)。但是我想从中排除数字并允许-。所以基本上它是\w(减)数(加)-。请帮忙。 最佳答案 ^[\p{L}-]+$\p{L}匹配anykindofletterfromanylanguage. 关于ruby-on-rails-rails中的正则表达式匹配[\w]和"-"但不匹配数字，我们在StackOverflow上找到一个类似的问题： https://stackoverflow.c

  10. ruby-on-rails - 将数字字符串转换为数字数组 - 2

    在我的应用程序中，我有一个文本字段，用户可以在其中输入类似这样的内容"1,2,3,4"存储到数据库中。现在，当我想使用内部数字时，我有两个选择:"1,2,3,4".split(',')或string.scan(/\d+/)do|x|a两种方式我都得到一个像这样的数组["1","2","3","4"]然后我可以通过在每个数字上调用to_i来使用这些数字。有没有更好的方法可以转换"1,2,3"to[1,2,3]andnot["1","2","3"] 最佳答案 str.split(",").map{|i|i.to_i}但是这个想法对你来说

随机推荐