电光-当应用程序JAR在HDFS中时提交不起作用 [英] Spark-submit not working when application jar is in hdfs

查看:31
本文介绍了电光-当应用程序JAR在HDFS中时提交不起作用的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!

问题描述

我正在尝试使用bin/电光-Submit运行电光应用程序。当我在本地文件系统中引用我的应用程序JAR时,它可以工作。但是,当我将应用程序JAR复制到HDFS中的目录时,我收到以下异常:

警告:跳过远程JAR hdfs://localhost:9000/user/hdfs/jars/simple-project-1.0-SNAPSHOT.jar. java.lang.ClassNotFoundException:com.example.SimpleApp

命令如下:

$ ./bin/spark-submit --class com.example.SimpleApp --master local hdfs://localhost:9000/user/hdfs/jars/simple-project-1.0-SNAPSHOT.jar

我使用的是Hadoop版本2.6.0,电光版本1.2.1

推荐答案

当我使用时,它对我起作用的唯一方式

--主纱束

这篇关于电光-当应用程序JAR在HDFS中时提交不起作用的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持IT屋!

查看全文
登录 关闭
扫码关注1秒登录
发送“验证码”获取 | 15天全站免登陆