1
私はここで説明したのとまったく同じ問題があります: Spark not working with pureconfigです。上記の質問に対する唯一の答えは妥当と思われますが、私はsbtの代わりにMavenを使って作業しています。投稿されたソリューションをsbtからMavenに変換することに失敗しています。私は、次のようなものを試してみましたPureconfigでスパークする - 適切なMavenシェードプラグインの設定
:
<plugin>
<groupId>org.apache.maven.plugins</groupId>
<artifactId>maven-shade-plugin</artifactId>
<version>3.0.0</version>
<executions>
<execution>
<phase>package</phase>
<goals>
<goal>shade</goal>
</goals>
</execution>
</executions>
<configuration>
<createDependencyReducedPom>false</createDependencyReducedPom>
<relocations>
<relocation>
<pattern>com.chuusai:shapeless_2.11:2.3.2</pattern>
<shadedPattern>com.matek.shaded.com.chuusai:shapeless_2.11:2.3.2</shadedPattern>
</relocation>
<relocation>
<pattern>com.chuusai:shapeless_2.11:2.0.0</pattern>
<shadedPattern>com.matek.shaded.com.chuusai:shapeless_2.11:2.0.0</shadedPattern>
</relocation>
<relocation>
<pattern>com.github.pureconfig</pattern>
<shadedPattern>com.matek.shaded.com.github.pureconfig</shadedPattern>
<excludes>
<exclude>com.chuusai:shapeless_2.11:2.3.2</exclude>
</excludes>
<includes>
<include>com.matek.shaded.com.chuusai:shapeless_2.11:2.3.2</include>
</includes>
</relocation>
</relocations>
</configuration>
しかし、驚くことではないが、これは(私はそれが正しいかどうかさえわからない)動作しません。 maven shade pluginの設定を指定してspark submitと動作させる方法は?
を、私のために働いていない:これは働いていたhttps://github.com/pureconfig/pureconfig/issues/333ここに同じ –
。 mavenとspark 2.1の使用例が見つかりませんでした。 – horatio1701d
ちょうどGeorgHeilerのコメントに言及すると、彼はそれが動作するようになったようだ、@ horatio1701d githubのリンクを確認してください。私は実際にspark 2.1でそれをやっています。それはうまく動作しますので、すべてのパッケージ名が正しいことを確認してください(これは私が最も苦労してきたことです)。 – Matek