草庐IT

线性代数学习笔记2-2：向量空间、子空间、最大无关组、基、秩与空间维数

Insomnia_X 2023-10-10 原文

向量空间

向量空间就是一些向量的集合，并且满足：向量空间对于这些向量的线性组合封闭（任意向量间的加法、数乘，得到的向量仍属于这个向量空间）

  • 具体来说，向量空间中的元素（向量）的加法和数乘满足8条公理

具体的8条公理详见：线性代数学习笔记：抽象向量空间

  • 所有向量空间一定包含 0 \boldsymbol 0 0向量，或者说向量空间一定经过原点，因为任意向量数乘0后都得到 0 \boldsymbol 0 0向量
    这也是为什么说“列空间这个向量空间必须包含零向量”和“线性变换必须保证原点位置不变”

具体的， R 2 \mathbf R^2 R2是所有二维实向量构成的空间，这就是一个向量空间，因为其中的向量的线性组合（加法与数乘），仍处于该空间
同样的 R 3 \mathbf R^3 R3、 R 4 \mathbf R^4 R4…也是向量空间

  • 两个空间的交集，仍然是一个向量空间（它们的加法和数乘对空间一定封闭）
    证明：交集中的向量一定分别属于两个原空间，这些向量的线性组合对原空间A封闭，也对原空间B封闭，故对A和B的交集封闭，即两个空间的交集仍为向量空间
  • 要掌握一个向量空间的所有信息，只需要两点：一组基+空间维度 d i m dim dim

向量空间的子空间

子空间是向量空间的子集，并且子空间本身也是一个向量空间

  • 例如，对于 R 2 \mathbf R^2 R2，其子空间有三类：其本身、任意过原点的直线、一个点0；
    而不过原点的直线不是子空间（没有封闭性）
  • 对于 R 3 \mathbf R^3 R3，其子空间有四类：其本身、任意过原点的平面、任意过原点的直线、一个点0；
  • 可以看出，任意向量空间，都必须包含0向量

向量组的最大无关组

向量组一般是线性相关的，我们希望只留下“最本质”的内容，即从向量组中挑选最多的向量，并保持它们线性无关。最终，由 [最多个 线性无关的向量]组成的向量组，称为最大无关组

理解：

  • 向量组的最大无关组中，每个向量都“有贡献”，都能扩大向量组的张成空间、都提供了新的维度；
    并且再加入任何向量，也不会得到更大的张成空间了
  • 也就是说，最大无关组能“最精简地“保留原向量组的秩，也即张成空间的维数

从矩阵对应线性变换的角度，矩阵的列向量组就是变换后的基向量坐标，那么列向量线性相关会导致变换后的基向量张成的空间维度被压缩（张成空间变小）

给出向量组，如何求最大无关组？

  • 向量组满秩时，最大无关组就是它本身
  • 否则，我们用初等行变换来获得最大无关组（因为初等行变换不改变行向量的关系，故能够在保持向量组的张成空间的情况下，逐步化简，最终看出那些“多余”的向量，而留下最大无关组）

向量空间的基：向量空间的一个最大无关组

从上面可以看出，两向量无关就提供了空间中的新维度，因此，向量的线性无关 与 空间中的维度有密切关系，由此我们研究空间的“基/基向量”的概念

向量空间 V \mathbf V V：理解为所有可能的n维向量的集合，但他们满足：其中任意向量间的加法、数乘结果，仍然属于这个向量空间

  • 向量空间 V \mathbf V V的基：向量空间 V \mathbf V V中的一个最大无关组（向量线性无关，且能张成整个空间），就是 V \mathbf V V的一组基
    (也可以说，空间的基是张成该空间的一个线性无关向量集)
  • 一个空间可以有无数组基，但它们的共同点是：任意一组基，基向量的个数一定相同，这就是向量空间 V \mathbf V V的维数

这就是说，基是构成空间的最基本元素，它们能够张成整个空间，并且其中的每一个基向量都不多余，都是必不可少的
给出一组基，就描述出了整个向量空间，因为基能够线性表出空间中的任何向量

一般情况下，n维空间的基向量，就是n个n维向量（否则肯定不能张成整个空间）
推论：n+1个n维向量线性相关（最极端的情况，其中n个向量线性无关，那么它们也就是基向量了，则剩下的那个向量，一定可以被这n个基向量线性表出）

n x n矩阵 A \mathbf A A的列向量是一组基，条件是：

  • 矩阵 A \mathbf A A可逆

特殊的基：正交向量组

向量组的正交，要求两两向量都满足点积为0（比线性无关的要求更加严格，正交一定线性无关）

  • 理解为“空间直角坐标系”，其中的基向量构成正交向量组
  • 给一个向量组，如何求它的等价的标准正交向量组：施密特正交化
  • 行/列向量组为标准正交向量组，则矩阵为正交矩阵
    正交矩阵 A \mathbf A A满足 A T = A − 1 \mathbf {A^T=A^{-1}} AT=A−1
    ⇒ A T A = I ⇒ d e t ( A ) = ± 1 \Rightarrow \mathbf {A^TA=I}\Rightarrow det(\mathbf A)=\pm 1 ⇒ATA=I⇒det(A)=±1

正交向量组的内容在后续文章中会有进一步说明

向量组的秩

要寻找向量组张成的空间，就要寻找一组基（向量组的最大无关组），那么张成空间的维数也就是基向量的个数了

向量组的秩，就是其最大无关组包含的向量个数，就是向量组的张成空间的基向量个数，就是向量组的张成空间的维数

  • 矩阵 A \mathbf A A的秩=矩阵 A \mathbf A A消元后的主元列个数= A \mathbf A A列向量组的最大无关组包含的向量个数= A \mathbf A A的列空间维数

一些性质：

  • 矩阵 A \mathbf A A的秩=行向量组的秩=列向量组的秩
  • 向量组A能够线性表出向量组B，那么 R a n k ( A ) > = R a n k ( B ) Rank(A)>=Rank(B) Rank(A)>=Rank(B)（表出的新向量组不可能升维）
  • 向量组A和B能相互线性表出，则向量组A和B等价，则 R a n k ( A ) = R a n k ( B ) Rank(A)=Rank(B) Rank(A)=Rank(B)
笔记空间spanclasskatex线性代数学习机器学习

有关线性代数学习笔记2-2：向量空间、子空间、最大无关组、基、秩与空间维数的更多相关文章

  1. ruby-on-rails - 从应用程序中自定义文件夹内的命名空间自动加载 - 2

    我们目前正在为ROR3.2开发自定义cms引擎。在这个过程中，我们希望成为我们的rails应用程序中的一等公民的几个类类型起源，这意味着它们应该驻留在应用程序的app文件夹下，它是插件。目前我们有以下类型:数据源数据类型查看我在app文件夹下创建了多个目录来保存这些:应用/数据源应用/数据类型应用/View更多类型将随之而来，我有点担心应用程序文件夹被这么多目录污染。因此，我想将它们移动到一个子目录/模块中，该子目录/模块包含cms定义的所有类型。所有类都应位于MyCms命名空间内，目录布局应如下所示:应用程序/my_cms/data_source应用程序/my_cms/data_ty

  2. LC滤波器设计学习笔记（一）滤波电路入门 - 2

    目录前言滤波电路科普主要分类实际情况单位的概念常用评价参数函数型滤波器简单分析滤波电路构成低通滤波器RC低通滤波器RL低通滤波器高通滤波器RC高通滤波器RL高通滤波器部分摘自《LC滤波器设计与制作》，侵权删。前言最近需要学习放大电路和滤波电路，但是由于只在之前做音乐频谱分析仪的时候简单了解过一点点运放，所以也是相当从零开始学习了。滤波电路科普主要分类滤波器：主要是从不同频率的成分中提取出特定频率的信号。有源滤波器：由RC元件与运算放大器组成的滤波器。可滤除某一次或多次谐波，最普通易于采用的无源滤波器结构是将电感与电容串联，可对主要次谐波（3、5、7）构成低阻抗旁路。无源滤波器：无源滤波器，又称

  3. CAN协议的学习与理解 - 2

    最近在学习CAN，记录一下，也供大家参考交流。推荐几个我觉得很好的CAN学习，本文也是在看了他们的好文之后做的笔记首先是瑞萨的CAN入门，真的通透；秀！靠这篇我竟然2天理解了CAN协议！实战STM32F4CAN！原文链接：https://blog.csdn.net/XiaoXiaoPengBo/article/details/116206252CAN详解（小白教程）原文链接：https://blog.csdn.net/xwwwj/article/details/105372234一篇易懂的CAN通讯协议指南1一篇易懂的CAN通讯协议指南1-知乎(zhihu.com)视频推荐CAN总线个人知识总

  4. 深度学习部署：Windows安装pycocotools报错解决方法 - 2

    深度学习部署：Windows安装pycocotools报错解决方法1.pycocotools库的简介2.pycocotools安装的坑3.解决办法更多Ai资讯：公主号AiCharm本系列是作者在跑一些深度学习实例时，遇到的各种各样的问题及解决办法，希望能够帮助到大家。ERROR:Commanderroredoutwithexitstatus1:'D:\Anaconda3\python.exe'-u-c'importsys,setuptools,tokenize;sys.argv[0]='"'"'C:\\Users\\46653\\AppData\\Local\\Temp\\pip-instal

  5. ruby - 我正在学习编程并选择了 Ruby。我应该升级到 Ruby 1.9 吗？ - 2

    我完全不是程序员，正在学习使用Ruby和Rails框架进行编程。我目前正在使用Ruby1.8.7和Rails3.0.3，但我想知道我是否应该升级到Ruby1.9，因为我真的没有任何升级的“遗留”成本。缺点是什么？我是否会遇到与普通gem的兼容性问题，或者甚至其他我不太了解甚至无法预料的问题？ 最佳答案 你应该升级。不要坚持从1.8.7开始。如果您发现不支持1.9.2的gem，请避免使用它们(因为它们很可能不被维护)。如果您对gem是否兼容1.9.2有任何疑问，您可以在以下位置查看:http://www.railsplugins.or

  6. ruby - 我如何学习 ruby​​ 的正则表达式？ - 2

    如何学习ruby​​的正则表达式？(对于假人) 最佳答案 http://www.rubular.com/在Ruby中使用正则表达式时是一个很棒的工具，因为它可以立即将结果可视化。 关于ruby-我如何学习ruby​​的正则表达式？，我们在StackOverflow上找到一个类似的问题： https://stackoverflow.com/questions/1881231/

  7. 深度学习12. CNN经典网络 VGG16 - 2

    深度学习12.CNN经典网络VGG16一、简介1.VGG来源2.VGG分类3.不同模型的参数数量4.3x3卷积核的好处5.关于学习率调度6.批归一化二、VGG16层分析1.层划分2.参数展开过程图解3.参数传递示例4.VGG16各层参数数量三、代码分析1.VGG16模型定义2.训练3.测试一、简介1.VGG来源VGG（VisualGeometryGroup）是一个视觉几何组在2014年提出的深度卷积神经网络架构。VGG在2014年ImageNet图像分类竞赛亚军，定位竞赛冠军；VGG网络采用连续的小卷积核（3x3）和池化层构建深度神经网络，网络深度可以达到16层或19层，其中VGG16和VGG

  8. 机器学习——时间序列ARIMA模型(四)：自相关函数ACF和偏自相关函数PACF用于判断ARIMA模型中p、q参数取值 - 2

    文章目录1、自相关函数ACF2、偏自相关函数PACF3、ARIMA(p,d,q)的阶数判断4、代码实现1、引入所需依赖2、数据读取与处理3、一阶差分与绘图4、ACF5、PACF1、自相关函数ACF自相关函数反映了同一序列在不同时序的取值之间的相关性。公式：ACF(k)=ρk=Cov(yt,yt−k)Var(yt)ACF(k)=\rho_{k}=\frac{Cov(y_{t},y_{t-k})}{Var(y_{t})}ACF(k)=ρk​=Var(yt​)Cov(yt​,yt−k​)​其中分子用于求协方差矩阵，分母用于计算样本方差。求出的ACF值为[-1,1]。但对于一个平稳的AR模型，求出其滞

  9. Unity Shader 学习笔记（5）Shader变体、Shader属性定义技巧、自定义材质面板 - 2

    写在之前Shader变体、Shader属性定义技巧、自定义材质面板，这三个知识点任何一个单拿出来都是一套知识体系，不能一概而论，本文章目的在于将学习和实际工作中遇见的问题进行总结，类似于网络笔记之用，方便后续回顾查看，如有以偏概全、不祥不尽之处，还望海涵。1、Shader变体先看一段代码......Properties{ [KeywordEnum(on,off)]USL_USE_COL("IsUseColorMixTex?",int)=0 [Toggle(IS_RED_ON)]_IsRed("IsRed?",int)=0}......//中间省略，后续会有完整代码 #pragmamulti_c

  10. Tcl脚本入门笔记详解（一） - 2

    TCL脚本语言简介•TCL（ToolCommandLanguage）是一种解释执行的脚本语言（ScriptingLanguage）,它提供了通用的编程能力：支持变量、过程和控制结构；同时TCL还拥有一个功能强大的固有的核心命令集。TCL经常被用于快速原型开发，脚本编程，GUI和测试等方面。•实际上包含了两个部分：一个语言和一个库。首先，Tcl是一种简单的脚本语言，主要使用于发布命令给一些互交程序如文本编辑器、调试器和shell。由于TCL的解释器是用C\C++语言的过程库实现的，因此在某种意义上我们又可以把TCL看作C库，这个库中有丰富的用于扩展TCL命令的C\C++过程和函数，所以，Tcl是

随机推荐