如何使用YARN命令提交MapReduce作业并同步执行录制控制命令?
- 行业动态
- 2024-10-03
- 1
MapReduce 提交到 YARN 的命令 为了将 MapReduce 程序提交到 YARN 上运行,您需要使用yarn 命令,以下是一个详细的步骤和命令示例: 步骤 1: 准备 MapReduce 程序 确保您的 MapReduce 程序已经编写完毕,并且编译成了可执行的 JAR 文件。 步骤 2: 提交到 YARN 使用以下命令将 MapReduce 程序提交到 YARN:
yarn jar <jarfile> [mainclass] [args…]
<jarfile> 是您的 MapReduce 程序的 JAR 文件路径。[mainclass] 是包含 main 方法的类名。[args...] 是传递给 main 方法的参数。 示例 假设您的 MapReduce 程序的 JAR 文件名为mymapreduceprogram.jar,主类名为com.example.MyMapper,并且您想要传递一些参数给程序。
yarn jar mymapreduceprogram.jar com.example.MyMapper arg1 arg2 arg3
录制控制命令 如果您想要记录这个提交命令以便将来重复执行或分析,可以使用以下命令:
yarn jar mymapreduceprogram.jar com.example.MyMapper arg1 arg2 arg3 > submitlog.txt 2>&1
这里:> 用于将命令的输出重定向到文件submitlog.txt。2>&1 用于将标准错误也重定向到相同的文件。 这样,所有的输出(包括标准输出和标准错误)都会被记录到submitlog.txt 文件中,方便后续查看和分析。
本站发布或转载的文章及图片均来自网络,其原创性以及文中表达的观点和判断不代表本站,有问题联系侵删!
本文链接:http://www.xixizhuji.com/fuzhu/56094.html