hadoop中Yarn如何使用


hadoop中Yarn如何使用,很多新手对此不是很清楚,为了帮助大家解决这个难题,下面小编将为大家详细讲解,有这方面需求的人可以来学习下,希望你能有所收获。
1.mapred-site.xml配置进入相应的文件夹下编辑mapred-site.xml文件,添加mapreduce.framework属性即可。同样的,在yarn-site.xml中添加nodemanager的服务即可。3.启动yarn相关进程并验证是否启动成功4.在yarn上运行hadoop示例程序与前文一样,我们依然运行hadoop自带jar包例子中计算PI的程序。此处有几点需要说明。1)web页面可以随时跟踪任务的执行状态,刚提交时是running,执行结束后会变成finished。如上图所示。2)配置了yarn之后,会在计算时链接yarn的服务。从控制台输出中我们可以看到连接了ResourceManger。ResourceManager就是yarn的资源管理器。3)对比没有配置yarn之前的控制台上输出。可以看出配置yarn之后的日志更简洁。配置之前的(部分)日志见下图,配置之后的(部分)日志见上图。配置之前日志信息告诉我们,执行的是一个MapReduce过程,有map task,reduce task等。而配置之后,只有mapreduce job。可以理解为是运行在yarn之上的一个map reduce作业。配置之后运行时间虽然不一定快,但yarn的统一管理对整个集群来讲是更优化的。看完上述内容是否对您有帮助呢?如果还想对相关知识有进一步的了解或阅读更多相关文章,请关注开发云行业资讯频道,感谢 香港云主机您对开发云的支持。

相关推荐: 电脑桌面图标如何缩小

小编给大家分享一下电脑桌面图标如何缩小,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!1.鼠 香港云主机标右键点一下空白桌面,出现“查看”,在查看中调一下图标的大中小。2.调整分辨率:…

免责声明:本站发布的图片视频文字,以转载和分享为主,文章观点不代表本站立场,本站不承担相关法律责任;如果涉及侵权请联系邮箱:360163164@qq.com举报,并提供相关证据,经查实将立刻删除涉嫌侵权内容。

(0)
打赏 微信扫一扫 微信扫一扫
上一篇 08/04 21:46
下一篇 08/04 21:46

相关推荐