PythonスクリプトでPySpark APIを使用してsparkアプリケーションからpcaを実行しようとしています。私はそれが良い結果を仕事と戻りpysparkシェルで、これら2つのコード行を実行したときに予期しないキーワード引数 'k'がPCA()にあります
pca = PCA(k=3, inputCol="features", outputCol="pcaFeatures")
PCAmodel = pca.fit(data)
が、アプリケーションのスクリプトの中で、私は、エラーの種類取得しています:私はこの道をやって
をPCA() got an unexpected keyword argument 'k'
PS:両方のケースで、私はスパーク2.2.0
を使用していますどこに問題がありますか?なぜPySparkシェルで動作し、アプリケーションでは動作しないのですか?
私はspark 2.2.0を使用しています –