草庐IT

EXT2/EXT3文件系统

轻风博客 2023-03-28 原文

 

 

文件系统概念引入

文件系统是一种存储和组织计算机数据的方法,它使得对计算机的访问和查找变得容易,文件系统使用文件和树形目录的抽象逻辑概念代替了硬盘和光盘等物理设备使用数据块的概念,用户使用文件系统来保存数据不必关心数据实际保存在硬盘(或者光盘)的地址为多少的数据块上,只需要记住这个文件所属目录和文件名。在写入新数据之前,用户不必关心硬盘上的那个地址有没有被使用,硬盘上的存储空间管理(分配和释放)功能由文件系统自动完成,用户只需要记住数据被写到了哪个文件中。

我们都知道磁盘分区后还要进行格式化,之后操作系统才能够使用这个分区。这是因为每种操作系统所设置的文件属性/权限不同,为了存放这些数据所需要的空间,因此就要对分区进行格式化,以便成为操作系统能够利用的文件系统格式。

文件数据除了文件的实际内容外,还含有文件权限(RWX)与文件属性(所有者、群组、时间参数等)。文件系统通常会把这两部分数据放到不同的块中,权限与属性放置到inode中,至于实际数据则放置到data-block中。另外,还有一个Superblock会记录文件的整体信息,包括inode与block的总量、使用量’剩余量等。

每个inode和block都有编号,这三个数据的意义简要的说明如下:

  • superblock:记录文件的整体信息,包括inode/block的总量、使用量、剩余量,以及文件系统的格式与相关信息等;
  • inode:记录文件属性,一个文件占用一个inode,同时记录此文件的数据所在的blick号码;
  • block:实际记录文件的内容,若文件太大,会占用多个block。

由于inode和block都有自己的编号,而每个文件都会占有一个inode,inode内则含有文件数据放置的block号码。所以,如果能找到文件的inode,那么自然就会知道数据存放到哪些block了,也可以对数据进行读取。

inode/block数据访问示意图

 

 

 

 

 


如图所示,文件系统先格式化出 inode 与 block的区块,假设一个文件的权限和属性是放在4号(白色方块),而这个 inode 记录了文件数据的实际的放置点为2,7,13,15这4个号码,此时我们就可以一次找到这4个block的内容!

这种数据访问的方式称为索引式文件系统(indexed allocation)。至于我们常用的U盘,使用的一般是FAT格式,这种格式的文件系统没有 inode 存在,所以每个block号码都记录在前一个block当中,如图所示:

我们经常听到“碎片整理”对吧,需要碎片整理的原因就是文件写入的 block 太过于离散了,此时文件读取的性能将会变得很差所致。这个时候可以通过碎片整理将一个文件所属的block汇合在一起,读取比较容易,一般来说,Ext2不太需要经常进行碎片整理,使用太久的话,也许需要。

EXT2文件系统

Linux的正规文件系统为Ext2 。文件系统一开始就将inode与block规划好了,除非重新格式化(后者利用resize2fs等命令更改文件),否则inode与block固定后就不再变动。但是如果我们的文件系统高达几百GB时,把所有的inode和block放在一起是很不明智的。

因此Ext2在格式化的时候基本上是分为多个块组(block group)的,每个块组都有独立的inode/block/superblock系统。在整体的规划当中,**文件系统最前面有一个活动扇区(boot sector), 这个启动扇区可以安装引导装载程序,**这样我们就能够将不同的引导装载程序安装到个别的文件系统最前端,而不用覆盖整块硬盘的唯一MBR。

data block(数据块)

data block是用来放置文件内容的地方,**在Ext2文件系统中所支持的block大小有1kb、2kb以及4kb三种。**在格式化时,block的大小就固定了,且每个block都有编号,以便inode记录。由于block大小的差异,会导致该文件系统能够支持的最大磁盘容量与最大单一文件容量并不相同。如下表格所示:

Block大小1KB2KB4KB
最大单一文件限制 16GB 256GB 2TB
最大文件系统容量 2TB 8TB 16TB

除此之外,Ext2文件系统的block还有哪些限制?

  • 原则上,block的大小与数量在格式化完就不能再改变了(除非重新格式化)
  • 每个block内最多只能够放置一个文件的数据
  • 如果文件大于block的大小,则就会占用多个block
  • 若文件小于block,则该block的剩余容量就不会被使用(磁盘空间浪费)

例题:
假设你的Ext2文件系统使用4K block,而改文件系统中有10000个小文件,每个文件的大小均为50 bytes,请问此时磁盘浪费多少容量?由于一个block只能容纳一个文件,所以,每个block会浪费4046 bytes,所有文件仅为:50 x 10000(bytes) = 488.3KB,但浪费却达到了:4046 x 10000(bytes) = 38.6MB。所以合适的block大小很重要。

inodetable(inode表格)

前面已经说了,inode的内容主要记录文件的属性以及该文件实际数据的位置。基本上,它记录的文件数据有下面这些:

  • 该文件的访问模式(read/write/execute)
  • 该文件的所有者与组(owner/group)
  • 该文件的大小的各个时间(ctime/atime/mtime)
  • 定义文件特征的标志(flag),如SUID等
  • 该文件真正内容的指向(pointer)
  • 每个inode大小固定为128bytes
  • 每个文件都仅会占用一个inode

**因此文件系统能创建的文件数量与inode的数量有关。系统读取文件时需要找到inode,并分析inode所记录的权限与用户是否符合,若符合才能够开始实际读取block的内容。下面我们来简单分析下inode/block与文件大小的关系。inode要记录的数据非常多,但是又只有128bytes,一个block占用4bytes。那如果我们的文件比较大,该怎么办?为此我们的系统将inode记录block号码的区域定义为12个直接、一个间接、一个双间接、一个三间接记录区。**如图所示:

以每个block的大小1KB为例来说,情况如下:

  • 12个直接指向:12 x 1K = 12K
  • 间接:256 x 1K = 256K
  • 双间接:256 x 256 x 1K = 2562K
  • 三间接:256 x 256 x 256 = 256 3K

总额:将上面的加在一起,可得到12 + 256 + 2562 + 2563(K) = 16GB.我们这下也知道了前面的最大单一文件限制是怎么来的了。

superblock(超级块)

superblock主要是记录整个文件系统相关的地方,记录的主要信息有:

  • block与inode的总量,未使用和已使用的inode/block数量及总量
  • block与inode的大小
  • 文件系统挂载时间、最近一次写入数据的时间、最近一次检验磁盘(fsck)时间等
  • 一个valid bit数值,若此文件系统已经被挂载,则valid bit为0,否则为1

File system description(文件系统描述说明)

这个区段可以描述每个block group的开始与结束的号码,以及说明每个区段(superblock、bitmap、inodemap、data block)分别介于哪个block号码之间。也能够用dumpe2fs查看。

block bitmap(块对照表)

我们可以通过block bitmap来知道哪些block是空的,此时系统就可以快速地找到可使用空间老放置文件。

inode bitmap(inode对照表)

这个和block bitmap的功能是类似的,只是inode bitmap记录的是使用与未使用的号码。

有关EXT2/EXT3文件系统的更多相关文章

  1. ruby - 使用 RubyZip 生成 ZIP 文件时设置压缩级别 - 2

    我有一个Ruby程序,它使用rubyzip压缩XML文件的目录树。gem。我的问题是文件开始变得很重,我想提高压缩级别,因为压缩时间不是问题。我在rubyzipdocumentation中找不到一种为创建的ZIP文件指定压缩级别的方法。有人知道如何更改此设置吗?是否有另一个允许指定压缩级别的Ruby库? 最佳答案 这是我通过查看ruby​​zip内部创建的代码。level=Zlib::BEST_COMPRESSIONZip::ZipOutputStream.open(zip_file)do|zip|Dir.glob("**/*")d

  2. ruby - 其他文件中的 Rake 任务 - 2

    我试图在一个项目中使用rake,如果我把所有东西都放到Rakefile中,它会很大并且很难读取/找到东西,所以我试着将每个命名空间放在lib/rake中它自己的文件中,我添加了这个到我的rake文件的顶部:Dir['#{File.dirname(__FILE__)}/lib/rake/*.rake'].map{|f|requiref}它加载文件没问题,但没有任务。我现在只有一个.rake文件作为测试,名为“servers.rake”,它看起来像这样:namespace:serverdotask:testdoputs"test"endend所以当我运行rakeserver:testid时

  3. ruby-on-rails - 在 Rails 中将文件大小字符串转换为等效千字节 - 2

    我的目标是转换表单输入,例如“100兆字节”或“1GB”,并将其转换为我可以存储在数据库中的文件大小(以千字节为单位)。目前,我有这个:defquota_convert@regex=/([0-9]+)(.*)s/@sizes=%w{kilobytemegabytegigabyte}m=self.quota.match(@regex)if@sizes.include?m[2]eval("self.quota=#{m[1]}.#{m[2]}")endend这有效,但前提是输入是倍数(“gigabytes”,而不是“gigabyte”)并且由于使用了eval看起来疯狂不安全。所以,功能正常,

  4. ruby-on-rails - Rails 3 中的多个路由文件 - 2

    Rails2.3可以选择随时使用RouteSet#add_configuration_file添加更多路由。是否可以在Rails3项目中做同样的事情? 最佳答案 在config/application.rb中:config.paths.config.routes在Rails3.2(也可能是Rails3.1)中,使用:config.paths["config/routes"] 关于ruby-on-rails-Rails3中的多个路由文件,我们在StackOverflow上找到一个类似的问题

  5. ruby - 将差异补丁应用于字符串/文件 - 2

    对于具有离线功能的智能手机应用程序,我正在为Xml文件创建单向文本同步。我希望我的服务器将增量/差异(例如GNU差异补丁)发送到目标设备。这是计划:Time=0Server:hasversion_1ofXmlfile(~800kiB)Client:hasversion_1ofXmlfile(~800kiB)Time=1Server:hasversion_1andversion_2ofXmlfile(each~800kiB)computesdeltaoftheseversions(=patch)(~10kiB)sendspatchtoClient(~10kiBtransferred)Cl

  6. ruby - 如何将脚本文件的末尾读取为数据文件(Perl 或任何其他语言) - 2

    我正在寻找执行以下操作的正确语法(在Perl、Shell或Ruby中):#variabletoaccessthedatalinesappendedasafileEND_OF_SCRIPT_MARKERrawdatastartshereanditcontinues. 最佳答案 Perl用__DATA__做这个:#!/usr/bin/perlusestrict;usewarnings;while(){print;}__DATA__Texttoprintgoeshere 关于ruby-如何将脚

  7. ruby - 使用 Vim Rails,您可以创建一个新的迁移文件并一次性打开它吗? - 2

    使用带有Rails插件的vim,您可以创建一个迁移文件,然后一次性打开该文件吗?textmate也可以这样吗? 最佳答案 你可以使用rails.vim然后做类似的事情::Rgeneratemigratonadd_foo_to_bar插件将打开迁移生成的文件,这正是您想要的。我不能代表textmate。 关于ruby-使用VimRails,您可以创建一个新的迁移文件并一次性打开它吗?,我们在StackOverflow上找到一个类似的问题: https://sta

  8. Ruby 写入和读取对象到文件 - 2

    好的,所以我的目标是轻松地将一些数据保存到磁盘以备后用。您如何简单地写入然后读取一个对象?所以如果我有一个简单的类classCattr_accessor:a,:bdefinitialize(a,b)@a,@b=a,bendend所以如果我从中非常快地制作一个objobj=C.new("foo","bar")#justgaveitsomerandomvalues然后我可以把它变成一个kindaidstring=obj.to_s#whichreturns""我终于可以将此字符串打印到文件或其他内容中。我的问题是,我该如何再次将这个id变回一个对象?我知道我可以自己挑选信息并制作一个接受该信

  9. ruby - 如何使用 Ruby aws/s3 Gem 生成安全 URL 以从 s3 下载文件 - 2

    我正在编写一个小脚本来定位aws存储桶中的特定文件,并创建一个临时验证的url以发送给同事。(理想情况下,这将创建类似于在控制台上右键单击存储桶中的文件并复制链接地址的结果)。我研究过回形针,它似乎不符合这个标准,但我可能只是不知道它的全部功能。我尝试了以下方法:defauthenticated_url(file_name,bucket)AWS::S3::S3Object.url_for(file_name,bucket,:secure=>true,:expires=>20*60)end产生这种类型的结果:...-1.amazonaws.com/file_path/file.zip.A

  10. ruby - rspec 需要 .rspec 文件中的 spec_helper - 2

    我注意到像bundler这样的项目在每个specfile中执行requirespec_helper我还注意到rspec使用选项--require,它允许您在引导rspec时要求一个文件。您还可以将其添加到.rspec文件中,因此只要您运行不带参数的rspec就会添加它。使用上述方法有什么缺点可以解释为什么像bundler这样的项目选择在每个规范文件中都需要spec_helper吗? 最佳答案 我不在Bundler上工作,所以我不能直接谈论他们的做法。并非所有项目都checkin.rspec文件。原因是这个文件,通常按照当前的惯例,只

随机推荐