• linkedu视频
  • 平面设计
  • 电脑入门
  • 操作系统
  • 办公应用
  • 电脑硬件
  • 动画设计
  • 3D设计
  • 网页设计
  • CAD设计
  • 影音处理
  • 数据库
  • 程序设计
  • 认证考试
  • 信息管理
  • 信息安全
菜单
linkedu.com
导航菜单
  • 网页制作
  • 数据库
  • 程序设计
  • 操作系统
  • CMS教程
  • 游戏攻略
  • 脚本语言
  • 平面设计
  • 软件教程
  • 网络安全
  • 电脑知识
  • 服务器
  • 视频教程
  • windows
  • 服务器硬件
  • 服务器运维
  • 云计算
  • 虚拟化
  • IIS教程
  • Linux
  • Apache
  • Ftp
  • DNS
  • Nginx
您的位置:首页 > 服务器 >云计算 > HDFS概念详解---名称节点与数据节点,hdfs节点

HDFS概念详解---名称节点与数据节点,hdfs节点

作者:网友 字体:[增加 减小] 来源:互联网

本文主要包含hdfs详解,hdfs的节点,hdfs的概念,hdfs常用命令,hdfs等服务器相关知识,网友希望可以进行参考

HDFS概念详解---名称节点与数据节点,hdfs节点


HDFS集群有两种节点,以管理者-工作者的模式运行,即一个名称节点(管理者)和多个数据节点(工作者)。名称节点管理文件系统的命名空间。它维护着这个文件系统树及这个树内所有的文件和索引目录。这些信息以两种形式将文件永久保存在本地磁盘上:命名空间镜像和编辑日志。名称节点也记录着每个文件的每个块所在的数据节点,但它并不永久保存块的位置,因为这些信息会在系统启动时由数据节点重建。

客户端代表用户通过与名称节点和数据节点交互来访问整个文件系统。客户端提供一个类似POSIX(可移植操作系统界面)的文件系统接口,因此用户在编程时并不需要知道名称节点和数据节点及其功能。

数据节点是文件系统的工作者。它们存储并提供定位块的服务(被用户或名称节点调用时),并且定时的向名称节点发送它们存储的块的列表。

没有名称节点,文件系统将无法使用。事实上,如果运行名称节点的机器被毁坏了,文件系统上所有的文件都会丢失,因为我们无法知道如何通过数据节点上的块来重建文件。因此,名称节点能够经受故障是非常重要的,Hadoop提供了两种机制来确保这一点。

第一种机制就是复制那些组成文件系统元数据持久状态的文件。Hadoop可以通过配置使名称节点在多个文件系统上写入其持久化状态。这些写操作是具同步性和原子性的。一般的配置选择是,在本地磁盘上写入的同时,写入一个远程NFS挂载(mount)。

另一种可行的方法是运行一个二级名称节点,虽然它不能作为名称节点使用。这个二级名称节点的重要作用就是定期的通过编辑日志合并命名空间镜像,以防止编辑日志过大。这个二级名称节点一般在其他单独的物理计算机上运行,因为它也需要占用大量CPU和内存来执行合并操作。它会保存合并后的命名空间镜像的副本,在名称节点失效后就可以使用。但是,二级名称节点的状态是比主节点滞后的,所以主节点的数据若全部丢失,损失仍在所难免。在这种情况下,一般把存在NFS上的主名称节点元数据复制到二级名称节点上并将其作为新的主名称节点运行。

分享到:QQ空间新浪微博腾讯微博微信百度贴吧QQ好友复制网址打印

您可能想查找下面的文章:

  • HDFS概述---namenode的设计详解,hdfs概述---namenode
  • HDFS命令行接口详解,hdfs命令行详解
  • HDFS概念详解---名称节点与数据节点,hdfs节点
  • HDFS概念详解—块,hdfs详解

相关文章

  • 《转》ceilometer的数据采集机制入门,《转》ceilometer
  • Hadoop之——HBASE结合MapReduce批量导入数据,hadoopmapreduce
  • openstack中glance组件images的所有python API 汇总,openstackglance
  • 产品型公司的发展-Zoho发布费用管理新品,让CRM系统更强大,-zohocrm
  • error: internal error: unable to execute QEMU command 'migrate': this feature or command is not cur,qemumigrate
  • Hadoop之——分布式集群安装过程简化版,hadoop集群简化版
  • 深度学习工具caffe详细安装指南,深度caffe安装指南
  • Understanding Cubert Concepts(二)Co-Partitioned Blocks,partitioned
  • Understanding Cubert Concepts 之 BLOCK(一),cubertconcepts
  • 博文点评后的一点闲扯,博文点评闲扯

文章分类

  • windows
  • 服务器硬件
  • 服务器运维
  • 云计算
  • 虚拟化
  • IIS教程
  • Linux
  • Apache
  • Ftp
  • DNS
  • Nginx

最近更新的内容

    • Spark性能优化:shuffle调优
    • 程序员必备的代码审查(Code Review)清单,codereview
    • (Kilo)Devstack Kilo版本localrc推荐,devstacklocalrc
    • Andrew Ng机器学习课程9-补充,andrew9-
    • request.getScheme()的使用方法,request.getscheme
    • hadoop修改启动主机名称
    • zookeeper——分布式锁,zookeeper
    • Ceph集群磁盘没有剩余空间的解决方法,ceph集群
    • 启动hive报错[ERROR] Terminal initialization failed; falling back to unsupported,hiveunsupported
    • UCB CS162: Get sarted, create a docker container for UCB CS162 online course,ucbcs162

关于我们 - 联系我们 - 免责声明 - 网站地图

©2020-2025 All Rights Reserved. linkedu.com 版权所有