大数据协作框架我爱编程

WorkFlow中Sqoop Action使用案例错误总结

2018-04-05  本文已影响28人  明明德撩码

job.properties 中可能出现的错误

jobTracker=hadoop-senior.beifeng.com:8032 端口错误

jobTracker的端口设置错误 8032 。表示是yarn的运行地址及端口号

oozieAppsRoot 地址错误

表示 在HDFS上oozie运行sqoop流程job的目录。目录前后把反斜杠都去掉。正确写法是oozieAppsRoot=user/beifeng/oozie-apps

oozieDataRoot 地址错误

表示 在HDFS上oozie的sqoop流程job运行结果的目录。目录前后把反斜杠都去掉。正确写法是oozieDataRoot=user/beifeng/oozie/datas

oozie.wf.application.path中的地址变量错误,使用上面定义的变量

正确:oozie.wf.application.path=${nameNode}/${oozieAppsRoot}/sqoop-import/workflow.xml
说明:${oozieAppsRoot} 表示oozie在hdfs上运行的目录,前面已经定义为key,后面再使用时要以变量的方式来使用。${oozieAppsRoot}

outputDir

错误:应该是提前在oozieDataRoot 的基础上追加的目录。看已经在hdfs系统上创建好的地址黏贴过来。前后没有反斜杠。



正确写法:outputDir=sqoop-import-user/output

workflow.xml 容易出现的错误

<delete path= 出现错误

错误地址黏贴,都是变量引用,并且是数据输出地址。
正确:<delete path="${nameNode}/${oozieDataRoot}/${outputDir}"/>

<command> 出错地方

sqoop运行的命令 必须是以sqoop的命令开头
正确样例:<command>import --connect jdbc:mysql://hadoop-senior.beifeng.com:3306/test --username root --password 123456 --table my_user_0321 --num-mappers 1 --target-dir /user/beifeng/oozie/datas/sqoop-import-user/output</command>

上一篇下一篇

猜你喜欢

热点阅读