网上有很多spark的eclipse环境下调试配置,但是笔者在开发spark插件的时候,发现spark目录下的bin目录各种拒绝访问。然后又是报错:Error unzipping plugin这种。无奈,网上资料又少的可怜。后来经过各种调试,发现了一种Eclipse下调试spark+插件的方法。现在分享如下:
第一, 在Eclipse下建立一个新的Project。这个project可以就用之前写的那个插件目录。
第一, 在Eclipse下建立一个新的Project。这个project可以就用之前写的那个插件目录。
第二, 此时,新的Project有很多红叉,没关系,我们加入它需要的jar包。右键这个Project->build path->Config build path。

第三, 使用Add External JARS添加之前用ant编译好的spark的target目录下的lib文件。具体位置应该在spark目录下的target\build\lib\下。
第四, 新建一个运行环境:

第五, 我这里改名为SparkWithCamacus。这里的Main class选择spark的那个Startup,然后勾选Stop in main。
第六, 在Arguments标签下添加VM arguments:-Djava.library.path="E:\lhb\spark_lvb\build\lib\dist\windows"

这里这个path要设置正确,否则会抛一个C开头的什么异常,忘记了。
第七, Common标签和之前配置Spark一样。
第八, 使用ant编译目录下的build.xml文件,生成插件jar包。
第九, 使用Eclipse调试吧!

本文介绍了一种在Eclipse环境中调试Spark及其插件的方法。首先,在Eclipse中创建一个新项目并导入插件源码;其次,配置项目的构建路径,添加Spark所需的jar包;再者,设置运行环境及参数,确保正确指定Java库路径;最后,通过Ant编译插件,并利用Eclipse进行调试。
3万+

被折叠的 条评论
为什么被折叠?



