标签:Container 入门 ResourceManager 简介 YARN RM NodeManager 资源
简介
YARN(Yet Another Resource Negotiator)Hadoop集群资源管理系统。Hadoop2 为了改善MapReduce的实现引入YARN。
YARN 总体上仍然是Master/Slave 结构,在整个资源管理框架中,ResourceManager(RM)为Master,NodeManager(NM)为Slave。
- ResourceManager负责对各个NodeManager上的资源进行统一管理和调度;
- 当用户提交一个应用程序时,需要提供一个用以跟踪和管理这个程序的ApplicationMaster(主管进程),它负责向ResourceManager 申请资源,并要求NodeManger 启动可以占用一定资源的任务。
- NodeManager负责单节点资源管理和使用
YARN同时支持内存和CPU两种资源的调度。
服务组件
ResourceManager功能
- 处理客户端请求
- 启动/监控ApplicationMaster
- 监控NodeManager
- 资源分配与调度
NodeManager功能
- 单个节点上的资源管理和任务管理
- 处理来自ResourceManager的命令
- 处理来自ApplicationMaster的命令
- NodeManager管理抽象容器,这些容器代表着可供一个特定应用程序使用的针对每个节点的资源
- 定时地向RM汇报本节点上的资源使用情况和各个Container的运行状态
Container(容器)
YARN中的资源抽象,封装某个节点上多维度资源,如内存、CPU、磁盘、网络等,当AM向RM申请资源时,RM向AM返回的资源便是用Container表示的。YARN使用Container作为资源分配最小单位。
标签:Container,入门,ResourceManager,简介,YARN,RM,NodeManager,资源 来源: https://www.cnblogs.com/binliubiao/p/13742882.html
本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享; 2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关; 3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关; 4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除; 5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。