から私は基本的なことで、コンテキストを取得することができます:取得SparkContext DATAFRAMEのSparkContextについてはDataFrameWriter
df.rdd.sparkContext
私はすなわちDataFrameWriter、と同じことを達成することができますどのような方法があります。基礎となるDataFrame/Rddを取得することによって?
から私は基本的なことで、コンテキストを取得することができます:取得SparkContext DATAFRAMEのSparkContextについてはDataFrameWriter
df.rdd.sparkContext
私はすなわちDataFrameWriter、と同じことを達成することができますどのような方法があります。基礎となるDataFrame/Rddを取得することによって?
これはプライベートであることを許可する唯一のメンバーのようです。あなたは反射でそれを行うことができます:それは一般的に言えば、悪い考えですが、実際にこれが必要な場合は...
より良い方法:DataFrameWriter
はDataset.write
コールから来る必要があります。それが第三者コードでない限り、どこで発生したのかを見つけ、そこでもコンテキストを取得します。
ここで問題となっているのは、関数のパラメータでDataFrameWriterを使用していて、この問題を回避する方法を見つけたかったのですが、それでも問題がなければ。 – Niemand
私はあなたの質問を理解しているかどうかはわかりません。あなたはDataFrameWriterからSparkContextを取得したいですか? – eliasah
正確に。私はDataFrameWriterから何かを得ることに興味があります。DataFrame、RDD、または少なくとも基礎となるSparkContextです。なぜなら私はいくつかのサードパーティからライターを取得し、DataFrame参照を取得し戻すことができないからです。 – Niemand