在线精品99_中国九九盗摄偷拍偷看_91免费版在线观看_91.app_91高清视频在线_99热最新网站

yarn和k8s混合部署初步方案是怎样的

166次阅读
没有评论

共计 1470 个字符,预计需要花费 4 分钟才能阅读完成。

yarn 和 k8s 混合部署初步方案是怎样的,针对这个问题,这篇文章详细介绍了相对应的分析和解答,希望可以帮助更多想解决这个问题的小伙伴找到更简单易行的方法。

版本

yarn 2.6.0
k8s v1.15.2

背景

随着 k8s 的越来越火热以及 k8s 的可扩展以及自修复优势,k8s 势必是互联网的优势,但是很大一部分公司的资源管理工具依旧是 yarn,而且 yarn 和 k8s 也必然并行很久一段时间,
但是由于 yarn 的隔离型相对于 k8s 来说还是很弱的,好在 yarn 2.6.0 版本也集成了 LinuxContainerExecutor(默认是 DefaultContainerExecutor),也就是说 yarn 在好长一段时间是不支持 cpu 限制的,LinuxContainerExecutor 的利用了 cgroup 来进行 cpu 的限制,而 memory 的隔离是在利用 container 进行隔离。
我们知道对于多种资源管理工具的混合部署来说,资源的争夺必定是存在的。分析一下 k8s,k8s 默认是支持 docker runtime 的,也就是说 k8s 在支持 docker 的情况下,是利用 docke 进行资源隔离的,而 docker 是利用了 liunx 的 namespace 进行隔离,用 cgroup 进行资源限制。而相对于 yarn,只需要修改配置文件就行。

具体实施以及配置 k8s

对于 k8s 来说,按照 k8s 官网,我们把 docker cgroups 的驱动修改为 systemd。具体修改方式参照官网:

# Set up the Docker daemon
cat  EOF | sudo tee /etc/docker/daemon.json
  exec-opts : [native.cgroupdriver=systemd],
  log-driver :  json-file ,
  log-opts : {
  max-size :  100m 
 },
  storage-driver :  overlay2 
EOF

修改完后重启 docker,运行 docker info 会打印出:

...
Cgroup Driver: systemd
...

说明设置成功。

 关于 cgroup 的两种驱动 cgroupfs 和 sysmted 的区别:cgroupfs 是直接把 pid 写入对应的 cgroup 文件,然后把对应的资源限制也写入相应的 cpu memory 的 cgroup 文件。systemd 本身可以提供一个 cgroup 的管理方式。直接在 service 的文件中写入对应的资源限制就可以 

另外我们得设置 dockerd 的 cgroup-parent 和 yarn 在同一个目录下,这样才能达到 yarn 和 k8s 按照配置文件进行资源的分配和管理 按照 dockerd 官网 直接运行

dockerd --cgroup-parent /path/to/cgroup

yarn

yarn 配置支持 cpu 的限制网上很多资料。如这里关于 yarn 的 linuxcontainerExecutor 的 jira,参考这里 注意一下这个配置:

property 
  name yarn.nodemanager.linux-container-executor.cgroups.mount-path /name 
  value /sys/fs/cgroup value 
 /property

这个配置最好和 docker 的 –cgroup-parent 一致,这样才能更好的管理和控制资源

关于 yarn 和 k8s 混合部署初步方案是怎样的问题的解答就分享到这里了,希望以上内容可以对大家有一定的帮助,如果你还有很多疑惑没有解开,可以关注丸趣 TV 行业资讯频道了解更多相关知识。

正文完
 
丸趣
版权声明:本站原创文章,由 丸趣 2023-08-16发表,共计1470字。
转载说明:除特殊说明外本站除技术相关以外文章皆由网络搜集发布,转载请注明出处。
评论(没有评论)
主站蜘蛛池模板: 日本xxxx裸体xxxx| 精品久久久久不卡无毒 | 亚洲人成图片小说网站 | 亚洲乱码中文字幕综合 | 欧美国产亚洲精品a第一页 欧美国产亚洲精品高清不卡 | 国产乱xxxxx97国语对白 | 熟妇人妻无乱码中文字幕真矢织江 | 91中文在线观看 | 久热这里只有精品6 | 18禁无遮拦无码国产在线播放 | 久久精品影院永久网址 | 九九精品99久久久香蕉 | 色吧综合网| 中文字幕无码第1页 | 亚洲av日韩av天堂久久 | 国产农村精品一级毛片视频 | 亚洲国产综合在线 | 男女做爰全过程免费视频播放 | 日韩一区二区三区电影 | r级无码视频在线观看 | 免费人成再在线观看网站 | 国产区在线观看视频 | 国内精品一区二区三区在线观看 | 久草在线手机 | 久久久久久亚洲精品影院 | 亚洲黄色美女视频 | 性欧美丰满熟妇xxxx性 | 日色网 | 狠狠亚洲狠狠欧洲2019 | 性生交大片免费一级 | 中国国语毛片免费观看视频 | 91中文字幕在线视频 | 精品国产品香蕉在线观看75 | www精品久久 | 久久久久亚洲av成人网 | 九九精品成人免费国产片 | 国产成人综合久久精品 | 伊人色综合久久天天小片 | 国产a√精品区二区三区四区 | 日韩欧美在 | 久久日韩乱码一二三四区别 |