博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
mapreduce-job提交源码流程
阅读量:3968 次
发布时间:2019-05-24

本文共 877 字,大约阅读时间需要 2 分钟。

job提交任务源码流程

waitForCompletion()submit();// 1建立连接	connect();			// 1)创建提交Job的代理		new Cluster(getConfiguration());			// (1)判断是本地yarn还是远程			initialize(jobTrackAddr, conf); // 2 提交jobsubmitter.submitJobInternal(Job.this, cluster)	// 1)创建给集群提交数据的Stag路径	Path jobStagingArea = JobSubmissionFiles.getStagingDir(cluster, conf);	// 2)获取jobid ,并创建Job路径	JobID jobId = submitClient.getNewJobID();	// 3)拷贝jar包到集群copyAndConfigureFiles(job, submitJobDir);		rUploader.uploadFiles(job, jobSubmitDir);// 4)计算切片,生成切片规划文件writeSplits(job, submitJobDir);		maps = writeNewSplits(job, jobSubmitDir);		input.getSplits(job);// 5)向Stag路径写XML配置文件writeConf(conf, submitJobFile);	conf.writeXml(out);// 6)提交Job,返回提交状态status = submitClient.submitJob(jobId, submitJobDir.toString(), job.getCredentials());

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-SIwXAuL3-1603113681436)(https://s1.ax1x.com/2020/10/13/0h2TET.png)]

转载地址:http://ficki.baihongyu.com/

你可能感兴趣的文章
开发Google眼镜的app
查看>>
Android base-adapter-helper 源码分析与扩展
查看>>
Android 4.4从图库选择图片,获取图片路径并裁剪
查看>>
Android Fragment 你应该知道的一切
查看>>
使用AudioManager调节播放器音量的开发实例
查看>>
安卓开发者必备的42个链接
查看>>
Eclipse下Ant自动打包,混淆和签名
查看>>
linux环境下编译不成功
查看>>
Android WebView Long Press长按保存图片到手机
查看>>
BaseAnimation是基于开源的APP,致力于收集各种动画效果(最新版本1.3)
查看>>
TextView显示html图片点击图片放大等操作
查看>>
【Android】自定义控件让TextView的drawableLeft与文本一起居中显示
查看>>
Android Fragment getActivity返回null解决
查看>>
Android(视频、图片)加载和缓存类库Glide
查看>>
Android实现通过浏览器点击链接打开本地应用(APP)并拿到浏览器传递的数据
查看>>
Android音频系统之AudioPolicyService
查看>>
Android系统Root与静默安装
查看>>
Android Property实现介绍
查看>>
Android SystemProperties设置/取得系统属性的用法总结
查看>>
Android 休眠 FLAG_KEEP_SCREEN_ON
查看>>