1.1硬盘揭秘:

物理存储方式:

目前的存储方式有磁存储,电存储,光存储。U盘就是电存储,VCD,DVD光盘用的是光存储,我们计算机用的硬盘就是用的磁存储。各种存储方式在物理存储介质不同外,在逻辑层面上都是基于文件系统结构的方式,也就是用户看到的任何文件数据都是已文件和目录的形式展现在我们面前。

小小历史

1956年9月蓝色巨人IBM想世界展示了第一套磁盘系统IBM350 RAMAC Random,当时这涛系统存储容量只有5M,使用50个直径值24英寸磁盘。1968年IBM有提出Winchster磁盘技术,现在我们使用的磁盘都是采用这种技术。

磁盘逻辑结构示意图



盘片:

磁盘是由很多盘片组成,每个盘片上都覆盖有磁性物质。当电机带动主轴转动,磁头就能读取盘片上的数据。

磁道:

每个盘片被划分成若干个同心圆,磁盘上的信息就是便是按照这样的同心圆存放。每个以主轴为圆心的圆之间是有一定距离的,只是这样的距离我们肉眼是看不出来。

扇区:

对每一个同心圆也就是磁道在进行等分,每个被等分的部分叫做扇区,数据就是按扇区为单位存储在上面。在windows文件系统里是以簇这样的单位来管理数据的读取的,然而一个簇是连续的若干个扇区。每个扇区一般是512个字节。

看到上面的几个对磁盘的概念我们知道,文件数据是存储在1-N个扇区上的,对文件的读写其实就是对文件存放的扇区进行读写。

Windows文件系统之FAT32

什么是文件系统:

文件系统是对数据存取和管理的一种方式,为了长久的存储和访问数据而为用户提供的一种基于目录和文件的存储机制。我们都知道,在使用硬盘存储数据前,必须要先进行分区,然后在对分区格式化,格式化就是建立文件系统的过程。一个文件系统有系统结构和按一定规则的存放的用户数据组成,以使计算机可以找到边访问它们。

上面是windows对文件系统的定义,是不是看的有点晕。嘿嘿。我们的数据是以二进制存储在硬盘上的,对于硬盘来讲,它并不知道有文件这目录这样的概念,也不知道一个文件存储在那些扇区上。但我们使用windows的时候看到的数据都是以文件和目录的形式展现,那这个展现和管理是谁来做了,对就是文件系统帮我们做了,让我们能透明的读写硬盘上的数据,而不用关系数据的存储位置和方式。

二种windows文件系统FAT和NTFS

文件系统的相关概念

数据单元:

数据在写入和读取的时候每次操作的数据量称为数据单元,也就是如果是读那么每一次的读会是数据单元这么大,对于文件写,会先把文件按数据单元分割,然后写入硬盘。

Windos文件系统的数据单元我们叫“簇”。一个簇是一个连续的扇区空间。一般一个簇是

8个扇区,每个扇区是512个字节。这样我们可以算出一个簇的字节数 8 * 512 这么多个字节。

逻辑文件地址:

对于每个文件来讲,讲他们按照数据单元大小分割成若干个簇大小,然后对每个部分进行编号,从0开始。每一个部分存储在硬盘的一个簇里,每个部分在硬盘上存储是不连续的。每个编号我们叫做逻辑文件地址。

FAT文件系统概述

FAT文件系统名字就是应为他使用了文件分配表来描述文件系统内存储单元簇的分配情况和文件内容的前后连接关系而得名。FAT经历了3个阶段FAT12,FAT16,FAT32。

FAT整体布局


可以看到FAT分为3个部分,保留区,2个等大的FAT区,和数据区。下面我们来看看每个区的作用。顺便说一下,这几个区就是在对硬盘分区后然后格式化创建的。

保留区:

保留区中包含一个重要的数据结构DBR系统引导扇区,DBR中存储的文件系统重要的参数,通常DBR就是硬盘上的第一个扇区。下面来看看DBR具体的信息


FAT区概述

FAT去主要用来分配表来描述文件系统内存储单元簇的分配情况和文件内容的前后连接关系。FAT32区会被安4字节大小来划分,每个部分有一个编号从0开始。那每个部分的地址编号,和这4字节空间里存储的值有什么用了?

编号的作用:FAT表的地址编号与数据区的簇编号一一对应,也就是加入数据区的3号簇被使用,那么对用的FAT区地址编号为3的空间会被标记使用状态。

值的作用:假如一个文件需要2个簇来存储,假定为2,3二个簇。那么FAT去编号为2,3的空间都会被标记为使用,2号空间里存储的值为3表示该文件数据存储的下一个簇标号。这样我们只用知道文件或者目录的起始簇,然后通过链表试的跟踪,就可以获得文件的是有数据。

引用一本书中的一个游戏来讲解这个查找过程


FAT数据区

数据区是真在存储用户文件和目录数据的区域,在文件系统被创建的时候第一个在数据区被创建的是“根目录”这个根目录不是我们说的逻辑盘符C:盘D盘等等,而是我们的逻辑盘挂节点。或者说是逻辑盘的父目录。我们在创建逻辑盘的时候,逻辑盘的信息比如大小,创建时间,就存储在根目录下。每一个存储项我们叫“目录项”

NTFS文件系统



MFT为主文件表,在创建NTFS文件系统的时候创建MFT,MFT有一个个MFT项组成,每个MFT项其实就是一个文件记录,其中保存这各种文件和目录的信息。

NTFS跟FAT主要的区别在于,NTFS除引导区外都可以看作为数据区,用户数据先存储在用户数据区,当该区域不够的时候,在使用MFT的区域来存储数据。

文件粉碎原理

文件粉碎主要包含2方面的功能,一是能安全删除文件,并且被删除的文件无法使用数据恢复工具恢复。二是对硬盘上为使用的空间填充垃圾数据,这样可以让以前未用粉碎删除的文件数据不能被恢复。

安全的删除没有特殊属性(不是windows的压缩,加密,稀疏文件类型)的文件相对来说比较简单,只用打开文件api获得文件句柄, 然后对文件的存储空间填充垃圾数据, 一般对文件的每个簇填充3次垃圾数据如填充0,1,和随机数据。然后对文件重命名N次,在安全删除文件即可。

备注:上面指的windows的压缩文件不是我们平常使用的winrar,zip这类压缩文件,这类使用第三方压缩工具压缩的文件对文件粉碎来说都是普通文件。那什么是windows压缩文件了,

在NTFS文件系统里,可以对文件进行压缩,在使用的时候是不需要解压的,解压的过程对用户不可见。

现在来看看如何来压缩一个文件

1.      第一步选中要压缩的文件,右键属性,点击“高级”按钮







1.      选中压缩节省空间,这时文件就是windows压缩文件。文件名会变成蓝色。可以明显看到文件在被压缩后使用的存储空间变小了许多。

对windows压缩、加密和稀疏文件由 NTFS 以 簇方式管理。如果某个程序向此类文件的现有部分写入数据,则 NTFS 会分配磁盘上的新空间来存储新数据,并在写入新数据后取消分配该文件先前占用的簇。NTFS 采取此保守方法的原因与数据完整性有关,而且对于压缩和稀疏文件,这样可以在出现新分配大于现有分配(新的压缩数据大于旧的压缩数据)的情况下正确应对。因此,覆盖此类文件时将不能成功地从磁盘中删除文件的内容。所以说直接对这类特殊文件写,其实是对新分配的空间在读写,而老的存储区域并没有被填充垃圾数据,导致数据有被回复的可能。在对于这类文件我们该如果处理了?

依赖碎片整理 API

GetDiskFreeSpace获得一个簇为多少个字节,在win下一般是8*512个字节,假设为M。然后在获得要删除文件的逻辑簇编号,假设为A1,A2。这样我们就可以计算每个簇在硬盘上的起始位置。

簇的起始位置 A1 *M 在通过SetFilePointer 可以直接定位到写的位置。

空间的清理问

可用空间的清理问题提出了另一项挑战。由于 FAT 和 NTFS 没有为应用程序提供直接寻址可用空间的方法,因此具有以下两个选择之一。第一个选择是它可以像处理压缩、稀疏和加密文件那样,打开磁盘以进行原始访问并覆盖可用空间。此方法面临一个很大的问题:即使完全能够计算 NTFS 和 FAT 驱动器的可用空间部分(这并非微不足道),它也会遭遇与系统上发生的活动文件操作发生冲突的风险。例如,假设确定某个簇可用,而就在此时文件系统驱动程序(FAT、NTFS)决定为另一应用程序正在修改的文件分配该簇。文件系统驱动程序会将新数据写入该簇,然后跟随而来并覆盖了刚刚写入的数据:该文件的新数据丢失了。如果为文件系统元数据分配该簇,则问题会更糟,因为会破坏文件系统的磁盘结构。

第二种方法即所采用的方法是间接覆盖可用空间。首先,分配它所能分配的最大文件。使用非缓存文件 I/O 完成此任务,这样就不会将 NT 文件系统缓存的内容扔掉,也不会用与 的占用大量空间的文件相关联的无用数据替代这些内容。因为非缓存文件 I/O 必须是扇区(512 字节)对齐的,所以可能存在一些不能为文件分配的剩余空间(即使无法进一步扩大该文件)。为了获取任何剩余空间,接下来会分配它能够分配的最大缓存文件。对于这两个文件,都执行安全覆盖,并且确保所有以前可用的磁盘空间都被安全地清理。 在 NTFS 驱动器上,分配和覆盖这两个文件并非的全部工作。还必须用适合 MFT 记录的文件填充 NTFS MFT(主文件表)的任何现有可用部分。一个 MFT 记录的大小通常为 1KB,而磁盘上的每个文件或目录都至少需要一个 MFT 记录。小文件都整个存储在各自的 MFT 记录中,而对于不适合一个记录的文件,则会为其分配 MFT 外部的簇。为处理可用 MFT 空间而必须完成的全部工作就是分配它能够分配的最大文件 - 当该文件占用 MFT 记录中的所有可用空间时,NTFS 将防止该文件增大,因为磁盘中没有剩余的可用簇(它们正被先前分配的两个文件占用)。然后 将重复此过程。当无法再创建新文件时,它会知道 MFT 中所有先前可用的记录都已完全被安全覆盖文件填充。

下一篇会结合实际代码来讲解文件粉碎具体实现和细节。 大家也可以参考下sdelte的实现。



Windows文件系统以及文件粉碎原理相关推荐

  1. Windows文件系统中文件的储存原理、文件粉碎机的原理、数据恢复的原理

    首先要明确说明三个问题: Windows文件系统中文件的储存原理.文件粉碎机的原理.数据恢复的原理. Windows文件系统中文件的储存原理:Windows文件系统包括FAT12.FAT16.FAT3 ...

  2. Linux 文件系统类型 文件系统结构 与Windows文件系统的比较

    Linux 文件系统类型 磁盘文件系统. 包括硬盘.CD-ROM.DVD.USB存储器.磁盘阵列等.常见文件系统格式有:autofs.coda.Ext(Extended File sytem,扩展文件 ...

  3. Windows 文件系统过滤驱动开发教程 (第二版)

    Windows 文件系统过滤驱动开发教程 (第二版)       楚狂人-2007-上海 (MSN:walled_river@hotmail.com)          -1.  改版序....... ...

  4. Linux笔记【008】| 文件系统与文件压缩

    一.Linux的文件系统 文件系统就是操作系统(比如windows)管理和存储文件的软件机构.文件系统指文件存在的物理空间.通俗地说,没有文件系统,系统就不知道该怎么读取硬盘.文件系统的种类有很多,每 ...

  5. J2EE JVM加载class文件的原理机制

    JVM加载class文件的原理机制 1.Java中的所有类,必须被装载到jvm中才能运行,这个装载工作是由jvm中的类装载器完成的,类装载器所做的工作实质是把类文件从硬盘读取到内存中 2.java中的 ...

  6. Windows文件系统过滤驱动开发教程(0,1,2)

    0. 作者,楚狂人自述 我长期网上为各位项目经理充当"技术实现者"的角色.我感觉Windows文件系统驱动的开发能找到的资料比较少.为了让技术经验不至于遗忘和引起大家交流的兴趣我以 ...

  7. 从windows server的文件服务到分布式文件服务(一)

    一.序言 不知道大家是否考虑过服务器与终端机或者叫桌面机.工作站等的区别都有什么?也许你会说体积不同,也许你会说功能不同,甚至有些人会拉一个清单出来说说硬件上面的区别等.其实我最想说的是,两者最大的区 ...

  8. linux存储--从内核文件系统看文件读写过程(四)

    系统调用 操作系统的主要功能是为管理硬件资源和为应用程序开发人员提供良好的环境,但是计算机系统的各种硬件资源是有限的,因此为了保证每一个进程都能安全的执行.处理器设有两种模式:"用户模式&q ...

  9. 转 从内核文件系统看文件读写过程

    系统调用 操作系统的主要功能是为管理硬件资源和为应用程序开发人员提供良好的环境,但是计算机系统的各种硬件资源是有限的,因此为了保证每一个进程都能安全的执行.处理器设有两种模式:"用户模式&q ...

最新文章

  1. 以太坊Geth几种同步模式
  2. 商汤62篇论文入选CVPR 2019,一览五大方向最新研究进展
  3. MICROSOFT SQLSERVER 总结
  4. 轻松恢复误删除的共享文件,DPM2007系列之六
  5. 解决[warn] _default_ VirtualHost overlap on port 80, the first has precedence问题
  6. PyTorch机器学习从入门到实战-CH2
  7. tomcat服务器安装
  8. 坐地铁可以刷学生卡吗_在沈阳办的公交卡能刷地铁吗?是学生卡,卡上写的是盛京通...
  9. python读取与写入json+csv变成coco的json文件+安装labelme
  10. python 扫描仪_玩《Minecraft我的世界》学python编程,可领|取电子学习版本
  11. windows下linux下socket编程区别
  12. keras系列︱Sequential与Model模型、keras基本结构功能(一)
  13. 使用DSIM给WIN7集成SP2、IE11、USB3
  14. origin刻度消失_使用Origin制作XRD图基本技巧,你get到了嘛?
  15. robotframework-接口测试详解(上传文件)
  16. 对抗训练fgm、fgsm和pgd原理和源码分析
  17. 支付宝H5支付,ISV权限不足
  18. 论PRINCE2认证的优势是什么?
  19. 解读《大话西游之大圣娶亲》
  20. oracle 取农历函数,完善SQL农历转换函数

热门文章

  1. ALIENTEK 的 ESP8266 WiFi Module 刷入固件后出现don’t use rtc mem data错误或者ESP8266开启串口不停出现乱码的解决方案
  2. 企业网络的设计与实施
  3. 交通产业百年变局:从运力时代到算力时代
  4. H3C Switch命令 配置VLAN
  5. Multiple actions were found that match the request
  6. 礼帽黑帽操作,开闭运算
  7. DVB-S相关术语说明
  8. 基于MATLAB的变速故障信号仿真代码
  9. 电脑用的时间长了,如何给电脑提速?
  10. C语言身份证信息查询系统(可验证输入身份证是否合法)【已会】