hdfs基本工作原理（hdfs工作原理图）

大家好！今天让创意岭的小编来大家介绍下关于hdfs基本工作原理的问题，以下是小编对此问题的归纳整理，让我们一起来看看吧。

开始之前先推荐一个非常厉害的Ai人工智能工具，一键生成原创文章、方案、文案、工作计划、工作报告、论文、代码、作文、做题和对话答疑等等

只需要输入关键词，就能返回你想要的内容，越精准，写出的就越详细，有微信小程序端、在线网页版、PC客户端

官网：https://ai.de1919.com。

创意岭作为行业内优秀的企业，服务客户遍布全球各地，如需了解SEO相关业务请拨打电话175-8598-2043，或添加微信：1454722008

本文目录:

• 1、【HDFS】超详细讲解Erasure Coding-- EC架构及图解相关核心代码。

• 2、四.（一）HDFS优缺点

• 3、HDFS简介：不用HDFS我们如何存储大规模数据

• 4、Hadoop从入门到精通23：HDFS的NameNode联盟（负载均衡）

一、【HDFS】超详细讲解Erasure Coding-- EC架构及图解相关核心代码。

通过本文可以获得如下知识：

① XOR码、RS码的基本原理和恢复过程实例。

② 图解HDFS EC中block group（块组）的概念、图解striped layout（条带布局）和连续布局，以及它们的优缺点比较。用一个实例一步一步分析divideByteRangeIntoStripes方法生成的cells、ranges、striped数组。

③ HDFS EC的核心源码流程。

④ HDFS EC优势与劣势。

在存储系统中，纠删码技术主要是通过利用纠删码算法将原始的数据进行编码得到校验，并将数据和校验一并存储起来，以达到容错的目的。

异或运算：相同为0,不同为1。

满足如下两个运算律：

交换律: B1⊕ B2 = B2⊕ B1

结合律: B1⊕ [B2⊕ B3] = [B1⊕ B2]⊕ B3

例如：

现在我们假设下面式子中某一位丢失了。比如第一位0数据丢失了

丢失后变成：

我们怎么恢复0这个数据呢？这时候可以利用异或的结合律了。

因此缺失的数据为0。

但是异或码过于简单了，存在可容忍错误过少的问题。例如如果我们丢失了2位的数据，那就没法恢复了。而在实际的场景下，肯定会发生多个数据丢失的问题的，因此需要引入其他的纠删码来帮助我们解决这个问题。比如后面正文会介绍到的RS码等。

RS码，中文名称里德所罗门编码。是EC编码中一种。本小节先介绍RS码的基本思想，然后通过一个运算实例帮助理解RS的工作原理。

RS码是存储系统较为常用的一种纠删码，它有两个参数 k和 m，记为RS(k，m)。k代表的是data cell数据块的数量,m代表的是parity cell块的数量,parity cell可理解为校验块,因为它是由数据块进行编码运算后产生的。

RS码的基本思想：

如上图所示：

RS码数据恢复实例：

我们以RS(5,3)为例来计算：

其中，1，5，7，5，5为数据块，23，77，289为范德蒙矩阵（可百度一下这个矩阵）生成的校验块。现在我们来看下，23, 77, 289这三个校验块到底能不能在丢失数据块的时候将数据恢复出来。

假设在一个极端情况下，五个数据块丢失了三个，也就是可以容忍的最大数量，比如，丢失了数据块的前三个数：1，5，7。此时把丢失的数据块和其对应的生成矩阵的行去掉，然后用生成矩阵的逆矩阵乘以校验块和剩余的数据块组成的矩阵。

二、四.（一）HDFS优缺点

Hadoop中HDFS优缺点

HDFS的优点：

        1、处理超大文件

                这里的超大文件通常是指百MB、甚至数百TB大小的文件。目前在实际应用中，HDFS已经能用来存储管理PB级的数据了。

        2、流式的访问数据

                HDFS的设计建立在“一次写入、多次读写”任务的基础上。这意味着一个数据集一旦由数据源生成，就会被复制分发到不同的存储节点中，然后响应各种各样的数据分析任务请求。在多数情况下，分析任务都会涉及数据集中的大部分数据，也就是说，对HDFS来说，请求读取整个数据集要比读取一条记录更加高效。

        3、运行于廉价的商用机器集群上

                Hadoop设计对应急需求比较低，只须运行在低廉的商用硬件集群上，而无需在昂贵的高可用性机器上。廉价的商用机也就意味着大型集群中出现节点故障情况的概率非常高。HDFS遇到了上述故障时，被设计成能够继续运行且不让用户察觉到明显的中断。

HDFS的缺点：

        1、不适合低延迟数据访问

                如果要处理一些用户要求时间比较短的低延迟应用请求，则HDFS不适合。HDFS是为了处理大型数据集分析任务的，主要是为达到高的数据吞吐量而设计的，这就可能要求以高延迟作为代价。

改进策略：

                        对于那些有低延时要求的应用程序，HBase是一个更好的选择，通过上层数据管理项目尽可能地弥补这个不足。在性能上有了很大的提升，它的口号是goes real time。使用缓存或多个master设计可以降低Clinet的数据请求压力，以减少延时。

        2、无法高效存储大量的小文件

                因为NameNode把文件系统的元数据放置在内存中，所有文件系统所能容纳的文件数目是由NameNode的内存大小来决定。还有一个问题就是，因为MapTask的数量是由Splits来决定的，所以用MR处理大量的小文件时，就会产生过多的MapTask，线程管理开销将会增加作业时间。当Hadoop处理很多小文件(文件大小小于HDFS中Block大小)的时候，由于FileInputFormat不会对小文件进行划分，所以每一个小文件都会被当做一个Split并分配一个Map任务，导致效率底下。

                例如：一个1G的文件，会被划分成16个64MB的Split，并分配16个Map任务处理，而10000个100Kb的文件会被10000个Map任务处理。

改进策略：

                        要想让HDFS能处理好小文件，有不少方法。利用SequenceFile、MapFile、Har等方式归档小文件，这个方法的原理就是把小文件归档起来管理，HBase就是基于此的。

        3、不支持多用户写入及任意修改文件

                在HDFS的一个文件中只有一个写入者，而且写操作只能在文件末尾完成，即只能执行追加操作，目前HDFS还不支持多个用户对同一文件的写操作，以及在文件任意位置进行修改。

三、HDFS简介：不用HDFS我们如何存储大规模数据

        大数据技术主要是要解决大规模数据的计算处理问题，但是我们要想对数据进行计算，首先要解决的其实是大规模数据的存储问题。

         如果一个文件的大小超过了一张磁盘的大小，你该如何存储？ 单机时代，主要的解决方案是 RAID ；分布式时代，主要解决方案是 分布式文件系统 。

           其实不论是在 RAID 还是 分布式文件系统 ，大规模数据存储都需要解决几个核心问题，这些问题都是什么呢？总结一下，主要有以下三个方面。       

        1. 数据存储容量的问题。 既然大数据要解决的是数以 PB 计的数据计算问题，而一般的服务器磁盘容量通常 1～2TB，那么如何存储这么大规模的数据呢？

        2. 数据读写速度的问题。 一般磁盘的连续读写速度为几十 MB，以这样的速度，几十 PB 的数据恐怕要读写到天荒地老。

        3. 数据可靠性的问题。 磁盘大约是计算机设备中最易损坏的硬件了，通常情况一块磁盘使用寿命大概是一年，如果磁盘损坏了，数据怎么办？

        RAID（独立磁盘冗余阵列）技术是将多块普通磁盘组成一个阵列，共同对外提供服务。主要是为了改善磁盘的存储容量、读写速度，增强磁盘的可用性和容错能力。目前服务器级别的计算机都支持插入多块磁盘，通过使用 RAID 技术，实现数据在多块磁盘上的并发读写和数据备份。

        常用 RAID 技术有图中下面这几种，RAID0，RAID1，RAID10，RAID5， RAID6。

           首先，我们先假设服务器有 N 块磁盘。

            RAID 0  是数据在从内存缓冲区写入磁盘时，根据磁盘数量将数据分成 N 份，这些数据同时并发写入 N 块磁盘，使得数据整体写入速度是一块磁盘的 N 倍；读取的时候也一样，因此 RAID 0 具有极快的数据读写速度。但是 RAID 0 不做数据备份，N 块磁盘中只要有一块损坏，数据完整性就被破坏，其他磁盘的数据也都无法使用了。

            RAID 1 是数据在写入磁盘时，将一份数据同时写入两块磁盘，这样任何一块磁盘损坏都不会导致数据丢失，插入一块新磁盘就可以通过复制数据的方式自动修复，具有极高的可靠性。

           结合 RAID 0 和 RAID 1 两种方案构成了 RAID 10 ，它是将所有磁盘 N 平均分成两份，数据同时在两份磁盘写入，相当于 RAID 1；但是平分成两份，在每一份磁盘（也就是 N/2 块磁盘）里面，利用 RAID 0 技术并发读写，这样既提高可靠性又改善性能。不过 RAID 10 的磁盘利用率较低，有一半的磁盘用来写备份数据。

           一般情况下，一台服务器上很少出现同时损坏两块磁盘的情况，在只损坏一块磁盘的情况下，如果能利用其他磁盘的数据恢复损坏磁盘的数据，这样在保证可靠性和性能的同时，磁盘利用率也得到大幅提升。

           顺着这个思路， RAID 3  可以在数据写入磁盘的时候，将数据分成 N-1 份，并发写入 N-1 块磁盘，并在第 N 块磁盘记录校验数据，这样任何一块磁盘损坏（包括校验数据磁盘），都可以利用其他 N-1 块磁盘的数据修复。但是在数据修改较多的场景中，任何磁盘数据的修改，都会导致第 N 块磁盘重写校验数据。频繁写入的后果是第 N 块磁盘比其他磁盘更容易损坏，需要频繁更换，所以 RAID 3 很少在实践中使用，因此在上面图中也就没有单独列出。

           相比 RAID 3， RAID 5 是使用更多的方案。RAID 5 和 RAID 3 很相似，但是校验数据不是写入第 N 块磁盘，而是螺旋式地写入所有磁盘中。这样校验数据的修改也被平均到所有磁盘上，避免 RAID 3 频繁写坏一块磁盘的情况。

            如果数据需要很高的可靠性，在出现同时损坏两块磁盘的情况下，仍然需要修复数据，这时候可以使用 RAID 6。

             RAID 6 和 RAID 5 类似 ， 但是数据只写入 N-2 块磁盘，并螺旋式地在两块磁盘中写入校验信息（使用不同算法生成）。

            从下面表格中你可以看到在相同磁盘数目（N）的情况下，各种 RAID 技术的比较。

        现在我来总结一下，看看 RAID 是如何解决我一开始提出的，关于存储的三个关键问题。

         1. 数据存储容量的问题。 RAID 使用了 N 块磁盘构成一个存储阵列，如果使用 RAID 5，数据就可以存储在 N-1 块磁盘上，这样将存储空间扩大了 N-1 倍。

         2. 数据读写速度的问题。 RAID 根据可以使用的磁盘数量，将待写入的数据分成多片，并发同时向多块磁盘进行写入，显然写入的速度可以得到明显提高；同理，读取速度也可以得到明显提高。不过，需要注意的是，由于传统机械磁盘的访问延迟主要来自于寻址时间，数据真正进行读写的时间可能只占据整个数据访问时间的一小部分，所以数据分片后对 N 块磁盘进行并发读写操作并不能将访问速度提高 N 倍。

         3. 数据可靠性的问题。 使用 RAID 10、RAID 5 或者 RAID 6 方案的时候，由于数据有冗余存储，或者存储校验信息，所以当某块磁盘损坏的时候，可以通过其他磁盘上的数据和校验数据将丢失磁盘上的数据还原。

        RAID 可以看作是一种垂直伸缩，一台计算机集成更多的磁盘实现数据更大规模、更安全可靠的存储以及更快的访问速度。而 HDFS 则是水平伸缩，通过添加更多的服务器实现数据更大、更快、更安全存储与访问。

        RAID 技术只是在单台服务器的多块磁盘上组成阵列，大数据需要更大规模的存储空间和更快的访问速度。将 RAID 思想原理应用到分布式服务器集群上，就形成了 Hadoop 分布式文件系统 HDFS 的架构思想。

四、Hadoop从入门到精通23：HDFS的NameNode联盟（负载均衡）

本节来介绍HDFS负载均衡。

使用任何一种集群都可以实现两大功能：

（1）Fail Over：失败迁移（高可用，HA）

（2）Load Balance：负载均衡

Hadoop使用ZooKeeper实现HA功能，使用NameNode的联盟（Federation）来实现LB功能。

NameNode联盟（负载均衡）的基本原理如下图所示：

关于NameNode联盟的几点是说明：

以上就是关于hdfs基本工作原理相关问题的回答。希望能帮到你，如有更多相关问题，您也可以联系我们的客服进行咨询，客服也会为您讲解更多精彩的知识和内容。

推荐阅读：

电气图纸中HD表示什么（电气图纸中hd表示什么符号）

抖音横屏版HD（抖音横屏版app）

hdfs的写入流程（hdfs写入流程图）

2023美好寓意的图片（美好寓意的图片）

微信公众号如何发布视频