分享好友 最新动态首页 最新动态分类 切换频道
磁盘存储和文件系统
2024-12-27 10:47

1.1 设备文件

一切皆文件:open(), read(), write(), close()
设备文件:关联至一个设备驱动程序,进而能够跟与之对应硬件设备进行通信
设备号码
        主设备号:major number, 标识设备类型
        次设备号:minor number, 标识同一类型下的不同设备
设备类型
        块设备:block,存取单位“块”,磁盘
        字符设备:char,存取单位“字符”,键盘
磁盘设备的设备文件命名

磁盘存储和文件系统

 

虚拟磁盘

 

不同磁盘标识:a-z,aa,ab…

 

同一设备上的不同分区:1,2, ...

 
 

1.2 硬盘类型

硬盘接口类型
        IDE:133MB/s,并行接口,早期家用电脑
        SCSI:640MB/s,并行接口,早期服务器
        SATA:6Gbps,SATA数据端口与电源端口是分开的,即需要两条线,一条数据线,一条电源线
        SAS:6Gbps,SAS是一整条线,数据端口与电源端口是一体化的,SAS中是包含供电线的,而SATA中不包含供电线。SATA标准其实是SAS标准的一个子集,二者可兼容,SATA硬盘可以插入SAS主板上,反之不行
        USB:480MB/s
        M.2
注意:速度不是由单纯的接口类型决定,支持Nvme协议硬盘速度是最快的
服务器硬盘大小
        LFF:3.5寸,一般见到的那种台式机硬盘的大小
        SFF:Small Form Factor 小形状因数,2.5寸,注意不同于2.5寸的笔记本硬盘
L、S分别是大、小的意思,目前服务器或者盘柜采用sff规格的硬盘主要是考内虑增大单位密度内的磁盘容量、增强散热、减小功耗

 1.3 机械硬盘和固态硬盘

机械硬盘(HDD:Hard Disk Drive,即是传统普通硬盘,主要由:盘片,磁头,盘片转轴及控制电机,磁头控制器,数据转换器,接口,缓存等几个部分组成。机械硬盘中所有的盘片都装在一个旋转轴上,每张盘片之间是平行的,在每个盘片的存储面上有一个磁头,磁头与盘片之间的距离比头发丝的直径还小,所有的磁头联在一个磁头控制器上,由磁头控制器负责各个磁头的运动。磁头可沿盘片的半径方向运动,加上盘片每分钟几千转的高速旋转,磁头就可以定位在盘片的指定位置上进行数据的读写操作。数据通过磁头由电磁流来改变极性方式被电磁流写到磁盘上,也可以通过相反方式读取。硬盘为精密设备,进入硬盘的空气必须过滤
固态硬盘(SSD:Solid State Drive,用固态电子存储芯片阵列而制成的硬盘,由控制单元和存储单元(FLASH芯片、DRAM芯片)组成。固态硬盘在接口的规范和定义、功能及使用方法上与普通硬盘的完全相同,在产品外形和尺寸上也与普通硬盘一致
相较于HDD,SSD在防震抗摔、传输速率、功耗、重量、噪音上有明显优势,SSD传输速率性能是HDD的2倍

相较于SSD,HDD在价格、容量占有绝对优势硬盘有价,数据无价,目前SSD不能完全取代HHD

1.4 硬盘存储术语

硬盘存储术语 CHS
        head:磁头 磁头数=盘面数
        track:磁道 磁道=柱面数
        sector:扇区,512bytes
        cylinder:柱面 1柱面=512 * sector数/track*head数=512*63*255=7.84M
        CentOS 5 之前版本 Linux 以柱面的整数倍划分分区,CentOS 6之后可以支持以扇区划分分区

 

使用磁盘空间过程
        1. 设备分区
        2. 创建文件系统
        3. 挂载新的文件系统

2.1 磁盘分区

优化I/O性能
实现磁盘空间配额限制
提高修复速度
隔离系统和程序
安装多个OS
采用不同文件系统

2.2 分区方式

两种分区方式:MBR,GPT

*MBR分区

MBR:Master Boot Record,1982年,使用32位表示扇区数,分区不超过2T
划分分区的单位
        CentOS 5 之前按整柱面划分
        CentOS 6 版本后可以按Sector划分
0磁道0扇区:512bytes
        446bytes: boot loader 启动相关
        64bytes:分区表,其中每16bytes标识一个分区
        2bytes: 55AA,标识位
MBR分区中一块硬盘最多有4个主分区,也可以3主分区+1扩展(N个逻辑分区)
MBR分区:主和扩展分区对应的1--4,/dev/sda3,逻辑分区从5开始,/dev/sda5
MBR分区结构

 主引导程序(偏移地址0000H--0088H,它负责从活动分区中装载,并运行系统引导程序
出错信息数据区,偏移地址0089H--00E1H为出错信息,00E2H--01BDH全为0字节
分区表(DPT,Disk Partition Table)含4个分区项,偏移地址01BEH--01FDH,每个分区表项长16个
字节,共64字节为分区项1、分区项2、分区项3、分区项4
结束标志字,偏移地址01FE--01FF的2个字节值为结束标志55AA

MBR中DPT结构

 

 *GPT分区

GPT:GUID(Globals Unique Identifiers) partition table 支持128个分区,使用64位,支持8Z
512Byte/block )64Z ( 4096Byte/block
使用128位UUID(Universally Unique Identifier) 表示磁盘和分区 GPT分区表自动备份在头和尾两份,并有CRC校验位
UEFI (Unified Extensible Firmware Interface 统一可扩展固件接口)硬件支持GPT,使得操作系统可以启动

GPT分区结构分为4个区域
GPT头
分区表
GPT分区
备份区域 

2.3 BIOS和UEFI

BIOS是固化在电脑主板上的程序,主要用于开机系统自检和引导操作系统。目前新式的电脑基本上都是UEFI启动

BIOS(Basic Input Output System 基本输入输出系统)主要完成系统硬件自检和引导操作系统,操作系统开始启动之后,BIOS的任务就完成了。系统硬件自检:如果系统硬件有故障,主板上的扬声器就会发出长短不同的“滴滴”音,可以简单的判断硬件故障,比如“1长1短”通常表示内存故障,“1长3短”通常表示显卡故障

BIOS在1975年就诞生了,使用汇编语言编写,当初只有16位,因此只能访问1M的内存,其中前640K称为基本内存,后384K内存留给开机和各类BIOS本身使用。BIOS只能识别到主引导记录(MBR)初始化的硬盘,最大支持2T的硬盘,4个主分区(逻辑分区中的扩展分区除外,而目前普遍实现了64位系统,传统的BIOS已经无法满足需求了,这时英特尔主导的EFI就诞生了

EFI(Extensible Firmware Interface)可扩展固件接口,是 Intel 为 PC 固件的体系结构、接口和服务提出的建议标准。其主要目的是为了提供一组在 OS 加载之前(启动前)在所有平台上一致的、正确指定的启动服务,被看做是BIOS 的继任者,或者理解为新版BIOS。
UEFI是由EFI1.10为基础发展起来的,它的所有者已不再是Intel,而是一个称作Unified EFI Form的国际组织

UEFI(Unified Extensible Firmware Interface)统一的可扩展固件接口, 是一种详细描述类型接口的标准。UEFI 相当于一个轻量化的操作系统,提供了硬件和操作系统之间的一个接口,提供了图形化的操作界面。最关键的是引入了GPT分区表,支持2T以上的硬盘,硬盘分区不受限制

*BIOS和UEFI区别

BIOS采用了16位汇编语言编写,只能运行在实模式(内存寻址方式由16位段寄存器的内容乘以16(10H)当做段基地址,加上16位偏移地址形成20位的物理地址)下,可访问的内存空间为1MB,只支持字符操作界面

UEFI采用32位或者64位的C语言编写,突破了实模式的限制,可以达到最大的寻址空间,支持图形操作
界面,使用文件方式保存信息,支持GPT分区启动,适合和较新的系统和硬件的配合使用

 2.4 管理分区

 

2.4.1分区工具fdisk和gdisk

 
 
 

文件系统是操作系统用于明确存储设备或分区上的文件的方法和数据结构;即在存储设备上组织文件的方法。操作系统中负责管理和存储文件信息的软件结构称为文件管理系统,简称文件系统
从系统角度来看,文件系统是对文件存储设备的空间进行组织和分配,负责文件存储并对存入的文件进行保护和检索的系统。具体地说,它负责为用户建立文件,存入、读出、修改、转储文件,控制文件的存取,安全控制,日志,压缩,加密等

 
 

Linux 常用文件系统
        ext2:Extended file system 适用于那些分区容量不是太大,更新也不频繁的情况,例如 /boot 分区
        ext3:是 ext2 的改进版本,其支持日志功能,能够帮助系统从非正常关机导致的异常中恢复
        ext4:是 ext 文件系统的最新版。提供了很多新的特性,包括纳秒级时间戳、创建和使用巨型文件(16TB)、最大1EB的文件系统,以及速度的提升
        xfs:SGI,支持最大8EB的文件系统
        swap
        iso9660 光盘
        btrfs(Oracle
        reiserfs

Windows 常用文件系统
        FAT32
        NTFS
        exFAT

Unix
        FFS(fast
        UFS(unix
        JFS2

网络文件系统
        NFS
        CIFS

集群文件系统

        GFS2
        OCFS2(oracle

分布式文件系统
        fastdfs
        ceph
        moosefs
        mogilefs
        glusterfs
        Lustre

RAW
裸文件系统,未经处理或者未经格式化产生的文件系统

常用的文件系统特性

 

3.3 文件系统的组成部分

内核中的模块:ext4, xfs, vfat
Linux的虚拟文件系统:VFS
用户空间的管理工具:mkfs.ext4, mkfs.xfs,mkfs.vfat

3.4.1 创建文件系统

 

 4.2 查看和管理分区信息

 

3.4.3 文件系统检测和修复

文件系统夹故障常发生于死机或者非正常关机之后,挂载为文件系统标记为“no clean”

注意:一定不要在挂载状态下执行下面命令修复

 

注意:FS_TYPE 一定要与分区上已经文件类型相同

 
 

挂载:将额外文件系统与根文件系统某现存的目录建立起关联关系,进而使得此目录做为其它文件访问入口的行为

卸载:为解除此关联关系的过程

把设备关联挂载点:mount Point

挂载点下原有文件在挂载完成后会被临时隐藏,因此,挂载点目录一般为空
进程正在使用中的设备无法被卸载

3.5.1 挂载文件系统 mount

 

3.5.2 卸载文件系统 umount

 

3.5.3 查看挂载情况

 

3.5.4 持久挂载

 
 

3.6.1swap 介绍

swap交换分区是系统RAM的补充,swap 分区支持虚拟内存。当没有足够的 RAM 保存系统处理的数据时会将数据写入 swap 分区,当系统缺乏 swap 空间时,内核会因 RAM 内存耗尽而终止进程。配置过多 swap 空间会造成存储设备处于分配状态但闲置,造成浪费,过多 swap 空间还会掩盖内存泄露

注意:为优化性能,可以将swap 分布存放,或高性能磁盘存放

 
 

3.6.2 交换分区实现过程

 

3.6.3 swap的使用策略

 
 

挂载意味着使外来的文件系统看起来如同是主目录树的一部分,所有移动介质也需要挂载,挂载点通常在/media 或/mnt下
访问前,介质必须被挂载
摘除时,介质必须被卸载
按照默认设置,非根用户只能挂载某些设备(光盘、DVD、软盘、USB等等

3.7.1 使用光盘

 

3.7.2 USB介质

 
 

3.8.1 文件系统空间实际真正占用等信息的查看工具 df

 

3.8.2 查看某目录总体空间实际占用状态 du

 

3.8.3 工具 dd

 
 

"RAID"一词是由David Patterson, Garth A. Gibson, Randy Katz 于1987年在加州大学伯克利分校发明的。在1988年6月SIGMOD会议上提交的论文"A Case for Redundant Arrays of Inexpensive Disks”"中提出,当时性能最好的大型机不增长的个断人电脑市场开发的一系列廉价驱动器的性能所击败。尽管故障与驱动器数量的比例会上升,但通过配置冗余,阵列的可靠性可能远远超过任何大型单个驱动器的可靠性

独立硬盘冗余阵列(RAID, Redundant Array of Independent Disks,旧称廉价(独立)磁盘冗余阵列
(Redundant Array of Inexpensive Disks,简称磁盘阵列。利用虚拟化存储技术把多个硬盘组合起来,成为一个或多个硬盘阵列组,目的为提升性能或数据冗余,或是两者同时提升。

RAID 层级不同,数据会以多种模式分散于各个硬盘,RAID 层级的命名会以 RAID 开头并带数字,例如:RAID 0、RAID 1、RAID 5、RAID 6、RAID 7、RAID 01、RAID 10、RAID 50、RAID 60。每种等级都有其理论上的优缺点,不同的等级在两个目标间获取平衡,分别是增加数据可靠性以及增加存储器(群)读写性能。

简单来说,RAID把多个硬盘组合成为一个逻辑硬盘,因此,操作系统只会把它当作一个实体硬盘。RAID常被用在服务器电脑上,并且常使用完全相同的硬盘作为组合。由于硬盘价格的不断下降与RAID功能更加有效地与主板集成,它也成为普通用户的一个选择,特别是需要大容量存储空间的工作,如:视频与音频制作。

RAID功能实现
        提高IO能力,磁盘并行读写
        提高耐用性,磁盘冗余算法来实现

RAID实现的方式
        外接式磁盘阵列:通过扩展卡提供适配能力
        内接式RAID:主板集成RAID控制器,安装OS前在BIOS里配置
        软件RAID:通过OS实现,比如:群晖的NAS

级别:多块磁盘组织在一起的工作方式有所不同

参考链接: https://zh.wikipedia.org/wiki/RAID

RAID-0:条带卷,strip
RAID-1:镜像卷,mirror
RAID-2
......
RAID-5
RAID-6
RAID-7
RAID-10
RAID-01
RAID-50
......

4.1.1 RAID-0

以 chunk 单位,读写数据,因为读写时都可以并行处理,所以在所有的级别中,RAID 0的速度是最快的。但是RAID 0既没有冗余功能,也不具备容错能力,如果一个磁盘(物理)损坏,所有数据都会丢失

读、写性能提升
可用空间:N*min(S1,S2,...)
无容错能力
最少磁盘数:1+

4.1.2 RAID-1

也称为镜像, 两组以上的N个磁盘相互作镜像,在一些多线程操作系统中能有很好的读取速度,理论上读取速度等于硬盘数量的倍数,与RAID 0相同。另外写入速度有微小的降低。

读性能提升、写性能略有下降
可用空间:1*min(S1,S2,...)

磁盘利用率 50%
有冗余能力
最少磁盘数:2+

4.1.3 RAID-4

多块数据盘异或运算值存于专用校验盘
磁盘利用率 (N-1)/N
有冗余能力
至少3块硬盘才可以实现 

4.1.4 RAID-5

读、写性能提升
可用空间:(N-1)*min(S1,S2,...)
有容错能力:允许最多1块磁盘损坏
最少磁盘数:3, 3

 4.1.5 RAID-6

双份校验位,算法更复杂
读、写性能提升
可用空间:(N-2)*min(S1,S2,...)
有容错能力:允许最多2块磁盘损坏
最少磁盘数:4, 4+

4.1.6 RAID-10

读、写性能提升
可用空间:N*min(S1,S2,...)/2
有容错能力:每组镜像最多只能坏一块
最少磁盘数:4, 4+

4.1.7 RAID-01

多块磁盘先实现RAID0,再组合成RAID1

4.1.8 RAID-50

多块磁盘先实现RAID5,再组合成RAID0

 4.1.9 RAID-60

4.2.0其它级别

 功能:将多块磁盘的空间合并一个大的连续空间使用
第一块硬盘存放所有磁盘的分段信息,如果损坏,整个阵列会失败
后续磁盘损坏只会影响本块磁盘的数据
可用空间:sum(S1,S2,...)

RAID 7并非公开的RAID标准,而是美国公司的Storage Computer Corporation的专利硬件产品名称,RAID 7是以RAID 3及RAID 4为基础所发展,但是经过强化以解决原来的一些限制。另外,在实现中使用大量的缓冲存储器以及用以实现异步数组管理的专用即时处理器,使得RAID 7可以同时处理大量的IO要求,所以性能甚至超越了许多其他RAID标准的实际产品。但也因为如此,在价格方面非常的高昂.RAID7 可以理解为一个独立存储计算机,自身带有操作系统和管理工具,可以独立运行,理论上性能最高的RAID模式

SHR(Synology Hybrid RAID)

群晖公司的技术,适合不了解RAID的普通用户
根据磁盘个数自动组成不同的RAID,1块普通磁盘,2块RAID1,3块RAID4,SHR2类似于RAID6
只支持群晖系统

4.2.1RAID 总结

常用级别:RAID-0, RAID-1, RAID-5, RAID-10, RAID-50,RAID-60

RAID
等级最


盘最


错可


量读


能写


能安全性目的应用场景单一
硬盘(参
考)0111无JBOD10N11无(同RAID
0)增加容量个人(暂
)存储
备份010NNN一个硬盘异常
全部硬盘都会异
常        追求最大容量、
速度影片剪接
缓存用途12N-11N1高,一个正常即可追求最大安全性个人、企业备份531N-1N-1N-1高追求最大容量、
最小预算个人、企
业备份642N-2N-2N-2安全性较RAID
5高同RAID 5,但
较安全个人、企
业备份104高综合RAID 0/1优
,理论速度较
快大型数据
库、服务
器506高提升数据安全 608高提升数据安全
 
 
 

LVM: Logical Volume Manager 可以允许对卷进行方便操作的抽象层,包括重新设定文件系统的大小,允许在多个物理设备间重新组织文件系统

LVM可以弹性的更改LVM的容量

通过交换PE来进行资料的转换,将原来LV内的PE转移到其他的设备中以降低LV的容量,或将其他设备中的PE加到LV中以加大容量

实现过程
        将设备指定为物理卷
        用一个或者多个物理卷来创建一个卷组,物理卷是用固定大小的物理区域(Physical Extent
PE)来定义的
        在物理卷上创建的逻辑卷, 是由物理区域(PE)组成
        可以在逻辑卷上创建文件系统并挂载 

 
 
 

5.2.1 pv管理工具

 

5.2.2 vg管理工具

 

5.2.3 lv管理工具

 

5.2.4 扩展和缩减逻辑卷

 

5.2.5 跨主机迁移卷组

 

5.2.6 拆除指定的PV存储设备

 
 

5.3.1 逻辑卷快照原理

快照是特殊的逻辑卷,它是在生成快照时存在的逻辑卷的准确拷贝,对于需要备份或者复制的现有数据临时拷贝以及其它操作来说,快照是最合适的选择,快照只有在它们和原来的逻辑卷不同时才会消耗空间,建立快照的卷大小小于等于原始逻辑卷,也可以使用lvextend扩展快照

逻辑卷管理器快照
快照就是将当时的系统信息记录下来,就好像照相一般,若将来有任何数据改动了,则原始数据会被移动到快照区,没有改动的区域则由快照区和文件系统共享 

逻辑卷快照工作原理
        在生成快照时会分配给它一定的空间,但只有在原来的逻辑卷或者快照有所改变才会使用这些空间
        当原来的逻辑卷中有所改变时,会将旧的数据复制到快照中
        快照中只含有原来的逻辑卷中更改的数据或者自生成快照后的快照中更改的数据

由于快照区与原本的LV共用很多PE的区块,因此快照与被快照的LV必须在同一个VG中.系统恢复的时候的文件数量不能高于快照区的实际容量

快照特点
        备份速度快,瞬间完
        应用场景是测试环境,不能完成代替备份
        快照后,逻辑卷的修改速度会一定有影响

5.3.2实现逻辑卷快照

注意:逻辑卷快照只能使用一次,恢复完之后,即自动删除

 

最新文章
选择缅甸龙坤环保的 4 大理由
成都龙坤环保科技有限公司是生产玻璃钢化粪池、塑料检查井的专业厂家。为广大客户专业提供玻璃钢化粪池、PE塑料检查井、一体化污水处理设备、玻璃钢隔油池、玻璃钢沉砂池、玻璃钢储罐、玻璃钢消防池、塑料检查井井筒、塑料检查井连接管及其
腾讯接下来怎么做搜索?
文 | 新莓daybreak,作者|翟文婷"自推荐算法的崛起,搜索就被视为是过去式,一个落后的信息连接方式。现在迎来新的变量。买下搜狗只是第一步,接下来腾讯打算怎么做搜索?"腾讯买下搜狗可能是过去一年来,互联网最受关注的事件。三个月前
四期期准三期内必出,反馈内容和总结_苹果版14.442
本文目录导读:四期期准三期内必出功能介绍功能背后的技术࡜
探讨SEO从业者的工作定位与能力提升
这个问题很有代表性,而且很多人想知道,之前留言本49021楼的文召召说:您好,卢松松,向您请教一些工作定位的问题,我在深圳工作,从事,做也有二年多了,现在的公司只有我一个人在做这块,所以平时什么都做,最近比较烦的问题是:怎么提
厦门大数匠教育
H5数据可视化课程
用AI生成超逼真美女写真,轻松get你的AI女友!
DreamlikeDreamlike是一款近期备受追捧的AI图像生成工具,其特点在于可以生成超逼真的人物照片。用户只需输入一些简单的文本描述,AI就能根据指令生成相应的图像。其生成的图像在细节表现上堪称一绝,甚至连肌肤的纹理、光影的变化都处理得
青牛电话销售手机卡批发零售
作为一名电销卡运营商,我深深体会到了电销卡在现代通讯中的重要性。无论是个人还是企业,电话通讯都是必不可少的一环。而电销卡的出现,则为我们带来了许多优势和便利。电销卡可以被分为三种类型,分别是流量卡、注册卡和红包卡。其中流量
通达信指标公式源码主力追踪指标.doc
多线:27;空线:55;P:=((2)*(CLOSE) + HIGH + LOW + OPEN)/(5);BB:=MA(P,3);CC:=(SUM(IF((PREF(P,1)),(P)*(VOL),0),4))/(SUM(IF((PREF(P,1)),(P)*(VOL),0),4));DD:=REF(100 - (100)/(1 + CC),1);A1:=HHV(P,15);A2:=LLV(P,15);A3:=A1 - A2;A4:
白云网站排名优化公司,提升网站排名的专业策略与实践,白云网络科技有限公司
白云网络科技有限公司是一家专注于网站排名优化的公司,提供提升网站排名的专业策略与实践。公司拥有一支经验丰富的团队,通过优化网站内容、提升网站质量、建立外部链接等方式,帮助客户提高搜索引擎排名,从而增加网站流量和曝光率。公司
相关文章
推荐文章
发表评论
0评