在线精品99_中国九九盗摄偷拍偷看_91免费版在线观看_91.app_91高清视频在线_99热最新网站

如何理解Yarn的工作机制

181次阅读
没有评论

共计 1609 个字符,预计需要花费 5 分钟才能阅读完成。

如何理解 Yarn 的工作机制,针对这个问题,这篇文章详细介绍了相对应的分析和解答,希望可以帮助更多想解决这个问题的小伙伴找到更简单易行的方法。

我们知道 YARN 是 Hadoop 资源管理器,无论是 MapReduce 应用还是 Spark 应用,应该都会用到 Yarn。

今天我们就来聊聊 Yarn 的组成以及工作流程:

先介绍几个角色

ResourceManager

一个集群只有一个 RM,它是 YARN 的总指挥,负责协调集群上的计算资源,它有以下两个组件:

ApplicationsManager:这个不是 ApplicationMaster,注意区分。它会接受 Job 的提交请求,调度 Container 用于启动 ApplicationMaster,以及负责 ApplicationMaster 的失败重启。

Scheduler:调度器纯粹为应用程序分配资源,它不会监控应用的状态,这里的调度就是基于 Container 这个抽象的资源容器,包含内存、CPU、磁盘、网络等。

NodeManager

一个集群中有多个 NodeManager,它负责启动 Container,监控 Container 的资源使用情况(cpu、内存、磁盘、网络),并将这些信息汇报给 RM。一个 NodeManager 上可以有多个 Container。

Container

Container 是一组硬件资源的抽象,包含 CPU、内存、磁盘、网络等,所有的 Job 都是在 Container 中运行;

ApplicationMaster

与 RM 协商资源,并与 NodeManager 一起监控任务,ApplicationMaster 和 Job 一样,都是运行在 Container 中。

下面我们详细了解下一个任务是怎么提交到 Yarn 中运行的。

第 1 步:Client 向 RM 发起任务请求:「RM,我要执行一个任务」

第 2 步:RM 给 Client 返回 Application ID 等信息:「好的,给你分配一个 Application ID」

第 3 步:Client 根据返回的信息,检查作业的输入输出目录是否正确、计算作业输入分片是否正常,将运行作业需要的资源(作业 Jar 文件、配置文件、输入分片)复制到以 Application ID 命名的 HDFS 目录中。

第 4 步:Client 向 RM 正式提交作业:「我都准备好了,执行任务吧」

第 5 步:RM 将请求信息传递给自己的小弟 Scheduler:「Scheduler 老弟,你来分配个 Container」

第 6 步:Scheduler 分配 Container,用于启动 ApplicationMaster:「好的,这个 Container 就是 0 号选手」

第 7 步:ApplicationsManager 与指定的 NodeManager 通信,要求在 Container 中启动 ApplicationMaster。

第 8 步:ApplicationMaster 初始化任务并向 RM 申请所需要的资源:「RM 大哥,给我资源运行任务」

第 9 步:RM 返回 ApplicationMaster 申请的资源:「给你 1、2   两个 NodeManager」

第 10 步:ApplicationMaster 与对应的 NodeManager 通信,申请 Container 启动任务「NodeManager 大哥,给我启动 Container 运行这个任务」

第 11 步:Container 中的应用程序会先将需要的计算资源从 HDFS 下载到本地,再启动任务:「都给我跑起来」

第 12 步:运行过程中,任务会将状态和进度报告给 ApplicationMaster,Client 会轮询 ApplicationMaster 获取状态。

第 13 步:运行完成后,Container 会注销掉,也就是把资源归还给系统,ApplicationMaster 向 RM 注销自己。

关于如何理解 Yarn 的工作机制问题的解答就分享到这里了,希望以上内容可以对大家有一定的帮助,如果你还有很多疑惑没有解开,可以关注丸趣 TV 行业资讯频道了解更多相关知识。

正文完
 
丸趣
版权声明:本站原创文章,由 丸趣 2023-08-25发表,共计1609字。
转载说明:除特殊说明外本站除技术相关以外文章皆由网络搜集发布,转载请注明出处。
评论(没有评论)
主站蜘蛛池模板: 国内精品久久久久久99蜜桃 | 丰满少妇人妻久久久久久 | 亚洲免费二区 | 亚洲人成电影 | 小荡货好紧好爽奶头大视频 | 97日日碰人人模人人澡 | 亚洲 高清 成人 动漫 | 青青草久久伊人 | 久久精品91 | 先锋影音资源男人 | 欧美一级淫片免费视频日本动漫 | 欧美成在线播放 | 亚洲∧v久久久无码精品 | 97人妻熟女成人免费视频色戒 | 粗大的内捧猛烈进出少妇视频 | 久久久久久久久久免费视频 | 国产精品无码久久av不卡 | 18禁无遮挡羞羞啪啪免费网站 | 中文字幕在线看日本大片 | 欧美成人r级在线播放 | 中文字幕人妻丝袜成熟乱 | 成人午夜精品久久不卡 | 性欧美成人依依影院 | 亚洲精品成人av观看 | 亚洲国产精品一区二区久 | 国产精品漂亮美女在线观看 | 在线视频免费观看a毛片 | 六月丁香中文字幕 | 久草视频福利在线观看 | 在线亚洲精品中文字幕美乳 | 小荡货奶真大水真多紧视频 | 极品91 | 色综合久久久久 | 巨大黑人极品videos精品 | 日韩美女奶水喂男人在线观看 | 色哟哟网站在线观看 | 成人高清视频在线观看大全 | 好男人日本社区www 好男人午夜影院 | 同性男男黄gay片免费 | 18禁真人抽搐一进一出在线 | 欧美性大战久久久久xxx |