すべてのエグゼキュータはDB接続を作成し、データを並行してダウンロードしますか?または、データのダウンロードを担当し、その後エグゼキュータの間でテーブルを共有したドライバですか? DataFrameReader.jdbcのsparkドライバかexecutorがデータベース接続を作成していますか?
0
A
答えて
0
ドキュメントが明示的に述べ:テーブルの
パーティションが、この関数に渡されたパラメータに基づいて、並列に検索されます。大規模なクラスタ上に並行して多数のパーティションを作成しないでください。それ以外の場合、Sparkは外部データベースシステムをクラッシュさせる可能性があります。
これはまた、エグゼキュータが独自の接続を持つことを意味します。
+0
知識を共有してくれてありがとうLovei。 – Vank
関連する問題
- 1. sparkのドライバからexecutorへのパラメータの受け渡し
- 2. spark-jobserver:ワーカーがドライバに接続しません
- 3. PHP:データベース接続を共有するか、新しい接続を作成しますか?
- 4. エンティティマネージャはデータベースへの接続を作成しますか?
- 5. Spark Thriftserverが正しいHiveデータベースに接続していません
- 6. ExecutorからExecutorServiceを作成
- 7. SparkからOracleに接続しようとしています
- 8. NodeJsからSQLデータベースを接続しています - ConnectionError:接続がまだ開かれていません
- 9. は、spark ExecutorでDynamoDBクライアントを作成できません
- 10. クラスライブラリプロジェクトでデータベース接続を作成できますか?
- 11. データベース接続に失敗しました:AD接続を作成できません:[DB接続](接続)
- 12. Java Executorサービス接続プール
- 13. データベースが接続されていますが、作成したテーブルからデータを取得できません
- 14. JDBC SQLドライバ接続(JAVA)の作成時に接続タイムアウトを設定する方法はありますか?
- 15. doctrine2複数のデータベースがzf3で接続していますか?
- 16. CQErl(Erlang-Cassandraドライバ)を使用して接続を作成できません
- 17. データベース接続が動作しないC#
- 18. 2.2.10 Node.jsドライバとのMongoDb接続を作成できません
- 19. クラス ''のJDBC接続ドライバを作成できません。null
- 20. 初めてのモバイルアプリケーションを作成してデータベースに接続する
- 21. Weblogic JMS Client - 接続ファクトリーから接続を作成していない応答
- 22. C#からリモートcouchbaseデータベースへのデータベース接続の作成方法
- 23. ダイナミックに、データベースを使用して作成したデータベースの接続文字列を作成します。
- 24. HAWQからJDBC/ODBCドライバ経由でsparkを接続する方法は?
- 25. phonegapアプリケーションからpostgresデータベースに接続していますか?
- 26. MySQLデータベースに接続できません - デフォルトのドライバが
- 27. Linux端末からMySQLデータベースを作成し、phpMyAdmin経由で接続します。
- 28. VC++ 6に新しい接続ポイントを作成しますか?
- 29. DockerコンテナでSparkドライバプログラムを実行しています - エグゼキュータからドライバへの接続が戻っていませんか?
- 30. SparkとScalaを使用してローカルpostgresqlデータベースに接続
この質問に答えられる人はいませんか? – Vank