2017-06-20 6 views
1

私はここで説明したのとまったく同じ問題があります: Spark not working with pureconfigです。上記の質問に対する唯一の答えは妥当と思われますが、私はsbtの代わりにMavenを使って作業しています。投稿されたソリューションをsbtからMavenに変換することに失敗しています。私は、次のようなものを試してみましたPureconfigでスパークする - 適切なMavenシェードプラグインの設定

<plugin> 
<groupId>org.apache.maven.plugins</groupId> 
<artifactId>maven-shade-plugin</artifactId> 
<version>3.0.0</version> 
<executions> 
    <execution> 
     <phase>package</phase> 
     <goals> 
      <goal>shade</goal> 
     </goals> 
    </execution> 
</executions> 
<configuration> 
    <createDependencyReducedPom>false</createDependencyReducedPom> 
    <relocations> 
     <relocation> 
      <pattern>com.chuusai:shapeless_2.11:2.3.2</pattern> 
      <shadedPattern>com.matek.shaded.com.chuusai:shapeless_2.11:2.3.2</shadedPattern> 
     </relocation> 
     <relocation> 
      <pattern>com.chuusai:shapeless_2.11:2.0.0</pattern> 
      <shadedPattern>com.matek.shaded.com.chuusai:shapeless_2.11:2.0.0</shadedPattern> 
     </relocation> 
     <relocation> 
      <pattern>com.github.pureconfig</pattern> 
      <shadedPattern>com.matek.shaded.com.github.pureconfig</shadedPattern> 
      <excludes> 
       <exclude>com.chuusai:shapeless_2.11:2.3.2</exclude> 
      </excludes> 
      <includes> 
       <include>com.matek.shaded.com.chuusai:shapeless_2.11:2.3.2</include> 
      </includes> 
     </relocation> 
    </relocations> 
</configuration> 

しかし、驚くことではないが、これは(私はそれが正しいかどうかさえわからない)動作しません。 maven shade pluginの設定を指定してspark submitと動作させる方法は?

答えて

3

私はこの問題を解決することができました。実際に私の間違いでした。パターンは単にshapelessで、com.chuusai.shapelessのようなものではありません。残念ながら

  <plugin> 
       <groupId>org.apache.maven.plugins</groupId> 
       <artifactId>maven-shade-plugin</artifactId> 
       <version>3.0.0</version> 
       <executions> 
        <execution> 
         <phase>package</phase> 
         <goals> 
          <goal>shade</goal> 
         </goals> 
        </execution> 
       </executions> 
       <configuration> 
        <createDependencyReducedPom>false</createDependencyReducedPom> 
        <relocations> 
         <relocation> 
          <pattern>shapeless</pattern> 
          <shadedPattern>com.matek.shaded.shapeless</shadedPattern> 
         </relocation> 
        </relocations> 
       </configuration> 
      </plugin> 
+0

を、私のために働いていない:これは働いていたhttps://github.com/pureconfig/pureconfig/issues/333ここに同じ –

+0

。 mavenとspark 2.1の使用例が見つかりませんでした。 – horatio1701d

+0

ちょうどGeorgHeilerのコメントに言及すると、彼はそれが動作するようになったようだ、@ horatio1701d githubのリンクを確認してください。私は実際にspark 2.1でそれをやっています。それはうまく動作しますので、すべてのパッケージ名が正しいことを確認してください(これは私が最も苦労してきたことです)。 – Matek

関連する問題