2017-05-03 6 views
2

私はApache Spark 2.1.1を使用しています(2.1.0を使用していました。 私はデータセットを持っている:あなたが見ることができるように、このスキーマでは3つの空の構造体があるApache Spark Parquet:空のグループを作成できません

root 
|-- muons: array (nullable = true) 
| |-- element: struct (containsNull = true) 
| | |-- reco::Candidate: struct (nullable = true) 
| | |-- qx3_: integer (nullable = true) 
| | |-- pt_: float (nullable = true) 
| | |-- eta_: float (nullable = true) 
| | |-- phi_: float (nullable = true) 
| | |-- mass_: float (nullable = true) 
| | |-- vertex_: struct (nullable = true) 
| | | |-- fCoordinates: struct (nullable = true) 
| | | | |-- fX: float (nullable = true) 
| | | | |-- fY: float (nullable = true) 
| | | | |-- fZ: float (nullable = true) 
| | |-- pdgId_: integer (nullable = true) 
| | |-- status_: integer (nullable = true) 
| | |-- cachePolarFixed_: struct (nullable = true) 
| | |-- cacheCartesianFixed_: struct (nullable = true) 

。私は100%読んだり操作したりすることができます。しかし、私は寄木細工で、ディスクへの書き込みをしようとしたとき、私は次の例外を取得:それはバグや意図した行動だのであれば

dsReduced.write.format("parquet").save(outputPathName): 

java.lang.IllegalStateException: Cannot build an empty group 
at org.apache.parquet.Preconditions.checkState(Preconditions.java:91) 
at org.apache.parquet.schema.Types$BaseGroupBuilder.build(Types.java:622) 
at org.apache.parquet.schema.Types$BaseGroupBuilder.build(Types.java:497) 
at org.apache.parquet.schema.Types$Builder.named(Types.java:286) 
at org.apache.spark.sql.execution.datasources.parquet.ParquetSchemaConverter.convertField(ParquetSchemaConverter.scala:535) 
at org.apache.spark.sql.execution.datasources.parquet.ParquetSchemaConverter.convertField(ParquetSchemaConverter.scala:321) 
at org.apache.spark.sql.execution.datasources.parquet.ParquetSchemaConverter$$anonfun$convertField$1.apply(ParquetSchemaConverter.scala:534) 
at org.apache.spark.sql.execution.datasources.parquet.ParquetSchemaConverter$$anonfun$convertField$1.apply(ParquetSchemaConverter.scala:533) 

を、基本的に私は理解したいと思います?私はそれが空の構造体に関連しているとも仮定します。どんな助けでも本当にありがとう!

更新:すぐに削除版を作成しましたが、問題なく使用できます。どんな洞察力が本当に役に立つでしょう!

VK

答えて

関連する問題