私はApache Spark Frameworkを使ってSparkプログラムを開発しようとしています。
クラスタなしでHiveContext
をインスタンス化したいと思います。
HiveContext
を使用して、クラスタを使用せずにEclipse Scala IDEでローカルに実行できますか?Eclipse IDEでSparkでハイブを実行できますか?
0
A
答えて
0
簡単に可能ですか?確かに...(強調追加)
HiveContext
を使用するには、既存のハイブのセットアップを持っている必要はありません、とSQLContext
に使用可能なデータソースのすべてが、まだ使用可能です。
ただし、追加のコードをコンパイルする必要があります。
HiveContext
は、Hiveのすべての依存関係をデフォルトのSparkビルドに含めることを避けるため、別途パッケージ化されています。これらの依存関係は、アプリケーションにとって問題ていない場合は、HiveContext
を使用すると、
をお勧めします。しかし、あなただけの任意のクラスタずにスパークを書いている場合は、そこに1.1をスパークするためにあなたを保持しているものではなく、あなたの代わりにすべきSQL関連のエントリポイントとしてSparkSession
を持つSpark 2.xを使用してください。
Eclipse IDEは重要ではありません。 IntelliJ ...またはIDEを使用せず、いくつかのSparkコードを含む任意のJARファイル...
関連する問題
- 1. C++コードをEclipse IDEで書いて、VC++ IDEで問題なく実行できますか?
- 2. REPLでScala IDE(eclipse)で書かれたコードを実行
- 3. Eclipseでハイブをデバッグしますか?
- 4. Eclipse IDEからYARNでSparkアプリケーションを送信
- 5. Eclipse IDEからJDKファイルに実行
- 6. C/C++用Eclipse IDE Linux開発者はJavaアプリケーションを実行できません
- 7. Pythonコードでハイブを実行
- 8. Apache Sparkで時系列データベース(TSDB)を実行できますか?
- 9. ドライバプロセスをSparkクラスタの外部で実行できますか?
- 10. 糸クラスターでapache spark 1.1.0を実行できますか?
- 11. Eclipse IDEでスカラーBDDテストを実行する方法
- 12. セレンで特定のテストを実行する(Eclipse IDEのMavenプロジェクト)
- 13. Eclipse IDEでJupyterノートブックプロジェクトを実行するには
- 14. MacのEclipse IDEですか?
- 15. cloud9-ideからnodeunitを実行することはできますか
- 16. Scala IDEでScala IDEでコンパイルエラーを実行する
- 17. Eclipse IDEでJBoss 7.1を実行しているときにエラー "サーバを起動できませんでした"
- 18. Eclipse IDEでJava EE exeを利用できるのですか
- 19. Javaで書かれたハイブのudf、udaf、udtfsは、EclipseのようなIDEでデバッグされますか?
- 20. EclipseのSparkプロジェクト用MavenセットアップScala IDE
- 21. Eclipse内でjetty-maven-pluginを実行できますか?
- 22. Eclipseで増分/自動JUnitテストを実行できますか?
- 23. Eclipse IDEを使用してSelenium Javaでテストケースを実行するMTMを使用できます
- 24. eclipse IDEでgeb-spockテストを実行することが可能です
- 25. spark-1.6.1-bin-hadoop1でspark-terasortを実行することができません
- 26. EclipseクローズツールをEclipse IDEで設定する
- 27. Cloud9 IDEでドッカーを実行できません
- 28. Eclipse IDEにtern.javaをインストールできない
- 29. ハイブでアップデートを実行するには?
- 30. Selenium RC(Eclipse)でエクスポートされたテストスイートを実行するには?セレンIDEで
ありがとう!私はちょうど今、火花を学んでいるので、ちょっと混乱しました。私が知りたいのは、sparkフレームワークを使ってHiveテーブルを作成して使用することです。 – Ivan
Hiveテーブルを作成するには、Hadoopクラスタが必要です(yes)。 Sparkコード自体を実行するにはクラスタは必要ありません。 –