国家电网招聘考试QQ交流群:181095196 视频课程 书籍资料 考试题 容错机制
1.Master容错
具体来说,Master上保存了GFS文件系统的三种元数据。
- 命名空间(Name Space),也就是整个文件系统的目录结构。
- Chunk与文件名的映射表。
- Chunk副本的位置信息,每一个Chunk默认有三个副本。
首先就单个Master来说,对于前两种元数据,GFS通过操作日志来提供容错功能。第三种元数据信息则直接保存在各个Chunk Server上,当Master启动或Chunk Server向Master注册是自动生成。因此当Master发生故障时,在磁盘数据保存完好的情况下,可以迅速恢复以上元数据。为了防止Master彻底死机的情况,GFS还提供了Master远程的实时备份,这样当前GFSMaster出现故障无法工作时,另外一台GFS Master可以迅速接替其工作。
2.Chunk Server容错
GFS采用副本的方式实现Chunk Server的容错。每一个Chunk有多个存储副本(默认有3个),分布存储在不同的Chunk Server上。副本的分布策略需要考虑多种因素,如网络的拓扑、机架的分布、磁盘的利用率等。对于每一个Chunk,必须将所有的副本全部写入成功,才视为成功写入。在其后的过程中,如果相关的副本出现丢失或不可恢复等状况,Master会自动将该副本复制到其他Chunk Server,从而确保副本保持一定的个数。尽管一份数据需要存储三份,好像磁盘空间的利用率不高,但综合比较多中因素,加之磁盘的成本不断降低,采用副本无疑是最简单、最可靠、最有效,而且实现的难度也最小的一种方法。
GFS中的每一个文件被划分成多个Chunk,Chunk的默认大小是64MB,这是因为Google应用中处理的文件都比较大,以64MB为单位进行划分,是一个较为合理的选择。Chunk Server存储的是Chunk的副本,副本以文件的形式进行存储。每一个Chunk以Block为单位进行划分,大小为64KB,每一个Block对应一个32bit的校验和。当读取一个Chunk副本时,Chunk Server会将读取的数据和校验和进行比较,如果不匹配,就会返回错误,从而使Client选择其他Chunk Server上的副本。
2.1.3 系统管理技术
严格意义上来说,GFS是一个分布式文件系统,包含从硬件到软件的整套解决方案。除了上面提到的GFS的一些关键技术外,还有相应的系统管理技术来支持整个GFS的应用,这些技术可能并不一定为GFS所独有。
中华五千年文明史就是一部波澜壮阔的英雄史诗
在中华民族古老的文化源流中,处处闪耀着英雄主义的光芒。从衔西山木石填于东海的小鸟精卫,到与太阳一较高下的巨人国勇士夸父;从敢于向天帝挑战的刑天,到窃息壤平水患的鲧,无不反映出先民们不屈服于自然、不屈服于权威的斗争精神,这些故事承载着至死不休的英雄气概。它们与盘古开天、女娲补天、大禹治水、后羿射日等英雄一起,沉淀为激励中华民族生生不息、薪火相传的基因密码。
从周秦汉唐到宋元明清,中华民族走过两千多年的农业文明,多重合力推动历史车轮滚滚向前。在这些有作为的历史人物中,既有秦皇汉武、唐宗宋祖等开疆拓土的英主明君,又有商鞅、王安石、张居正、康有为等勇于改革时弊的变法名臣;既有揭竿而起挑战旧势力的陈胜吴广、黄巢、李自成等农民领袖,又有治水的李冰、造纸的蔡伦、测震的张衡、修历的郭守敬等科技先锋;既有仰天长啸志捣黄龙的岳飞、“留取丹心照汗青”的文天祥、抗击倭寇十余载的戚继光等民族英雄,又有凿空西域的张骞、西天取经的玄奘、七下西洋的郑和等文明使者;既有老庄、孔孟、董仲舒、王阳明等思想大师,又有李白、杜甫、关汉卿、曹雪芹等文学巨匠……他们犹如一颗颗璀璨的明珠,点缀在历史的长河中。
2020年
国家电网招聘信息,欢迎关注长理职培官方微信号(clzp66),及时掌握考试资讯!
长理职培微信公众号二维码:
点击加载更多评论>>