在线精品99_中国九九盗摄偷拍偷看_91免费版在线观看_91.app_91高清视频在线_99热最新网站

yarn和k8s混合部署初步方案是怎样的

146次阅读
没有评论

共计 1470 个字符,预计需要花费 4 分钟才能阅读完成。

yarn 和 k8s 混合部署初步方案是怎样的,针对这个问题,这篇文章详细介绍了相对应的分析和解答,希望可以帮助更多想解决这个问题的小伙伴找到更简单易行的方法。

版本

yarn 2.6.0
k8s v1.15.2

背景

随着 k8s 的越来越火热以及 k8s 的可扩展以及自修复优势,k8s 势必是互联网的优势,但是很大一部分公司的资源管理工具依旧是 yarn,而且 yarn 和 k8s 也必然并行很久一段时间,
但是由于 yarn 的隔离型相对于 k8s 来说还是很弱的,好在 yarn 2.6.0 版本也集成了 LinuxContainerExecutor(默认是 DefaultContainerExecutor),也就是说 yarn 在好长一段时间是不支持 cpu 限制的,LinuxContainerExecutor 的利用了 cgroup 来进行 cpu 的限制,而 memory 的隔离是在利用 container 进行隔离。
我们知道对于多种资源管理工具的混合部署来说,资源的争夺必定是存在的。分析一下 k8s,k8s 默认是支持 docker runtime 的,也就是说 k8s 在支持 docker 的情况下,是利用 docke 进行资源隔离的,而 docker 是利用了 liunx 的 namespace 进行隔离,用 cgroup 进行资源限制。而相对于 yarn,只需要修改配置文件就行。

具体实施以及配置 k8s

对于 k8s 来说,按照 k8s 官网,我们把 docker cgroups 的驱动修改为 systemd。具体修改方式参照官网:

# Set up the Docker daemon
cat  EOF | sudo tee /etc/docker/daemon.json
  exec-opts : [native.cgroupdriver=systemd],
  log-driver :  json-file ,
  log-opts : {
  max-size :  100m 
 },
  storage-driver :  overlay2 
EOF

修改完后重启 docker,运行 docker info 会打印出:

...
Cgroup Driver: systemd
...

说明设置成功。

 关于 cgroup 的两种驱动 cgroupfs 和 sysmted 的区别:cgroupfs 是直接把 pid 写入对应的 cgroup 文件,然后把对应的资源限制也写入相应的 cpu memory 的 cgroup 文件。systemd 本身可以提供一个 cgroup 的管理方式。直接在 service 的文件中写入对应的资源限制就可以 

另外我们得设置 dockerd 的 cgroup-parent 和 yarn 在同一个目录下,这样才能达到 yarn 和 k8s 按照配置文件进行资源的分配和管理 按照 dockerd 官网 直接运行

dockerd --cgroup-parent /path/to/cgroup

yarn

yarn 配置支持 cpu 的限制网上很多资料。如这里关于 yarn 的 linuxcontainerExecutor 的 jira,参考这里 注意一下这个配置:

property 
  name yarn.nodemanager.linux-container-executor.cgroups.mount-path /name 
  value /sys/fs/cgroup value 
 /property

这个配置最好和 docker 的 –cgroup-parent 一致,这样才能更好的管理和控制资源

关于 yarn 和 k8s 混合部署初步方案是怎样的问题的解答就分享到这里了,希望以上内容可以对大家有一定的帮助,如果你还有很多疑惑没有解开,可以关注丸趣 TV 行业资讯频道了解更多相关知识。

正文完
 
丸趣
版权声明:本站原创文章,由 丸趣 2023-08-16发表,共计1470字。
转载说明:除特殊说明外本站除技术相关以外文章皆由网络搜集发布,转载请注明出处。
评论(没有评论)
主站蜘蛛池模板: 国产精品无码专区在线观看 | 国产精品露脸国语对白手机视频 | 国内精品久久久久 | 澳门四虎| 久久99精品久久久久久牛牛影视 | 日韩成人无码一区二区三区 | 亚洲视频免费在线 | 久久久国产精品无码免费专区 | 热久久在线 | 麻豆入口视频在线观看 | 午夜理论片最新午夜理论剧 | 久久国产视频在线观看 | 欧美一级毛片不卡免费观看 | 骚片av蜜桃精品一区 | 国产永久视频夜色资源网 | 国产成人+亚洲欧洲+综合 | 黑丝在线免费观看 | 高清午夜线观看免费 | 成人合成mv福利视频网站 | 男女朋友做爽爽爽免费视频网 | 免费av片在线观看蜜芽tv | 国产免费无码一区二区 | 婷婷久久综合九色综合绿巨人 | 亚洲成人免费在线观看 | 99在线视频网站 | 秋霞理论一级在线观看手机版 | 看黄a大片爽爽影院动漫 | 毛片免费在线观看网址 | 在线精品国产成人综合 | 熟妇无码乱子成人精品 | 91寡妇天天综合久久影院 | 狠狠综合视频精品播放 | 一区二区在线欧美日韩中文 | 中文字幕一区二区三区不卡 | 可以看毛片的网址 | 亚洲欧美乱综合图片区小说区 | 久久夜色精品国产噜噜av | 欧美色综合94亚洲 | 国产成人精品视频免费大全 | 波多野结衣一区二区三区高清 | 国产人妻精品一区二区三区 |