2016-10-06 12 views
0

セットアップにthisガイド私は、次のエラーを取得していますGoogleクラウドDataprocクラスタ上jupyterノート以下の中:私は自由trais期間で午前8-cpusに制限Google Cloud DataprocクラスタのJupyter Notebookをフリートレイル期間に誰が設定しますか?

gcloud dataproc clusters create my-name \ 
    --project my-project-id \ 
    --bucket my-bucket-name 
    --initialization-actions \ 
    gs://dataproc-initialization-actions/jupyter/jupyter.sh 

(gcloud.dataproc.clusters.create) INVALID_ARGUMENT: Multiple validation errors: 
- Insufficient 'CPUS' quota. Requested 12.0, available 8.0. 
- This request exceeds CPU quota. Some things to try: request fewer workers (a minimum of 2 is required), use smaller master and/or worker machine types (such as n1-standard-2). 

を。マシンのタイプを変更するにはどうすればよいですか?どのような設定をお勧めしますか?

+0

私は '--master-machine-type n1-highmem-8'と同じエラーを試みました。 –

+0

ねえ!このコマンドを実行すると、ワーカーも作成されることに注意してください。 '--worker-machine-type n1-highmem-4'を使い、マスターマシンに' n1-highmem-4'を使ってみてください。 –

答えて

1

デフォルトでは、(HDFSレプリケーション要件のために)最低2人の作業者とマスターノードがあり、デフォルトのマシンタイプはn1-standard-4です。あなたはわずか8つの利用可能なコアを持っているので、あなたが必要とする:

gcloud dataproc clusters create my-name \ 
    --project my-project-id \ 
    --bucket my-bucket-name \ 
    --master-machine-type n1-standard-2 \ 
    --worker-machine-type n1-standard-2 \ 
    --initialization-actions \ 
     gs://dataproc-initialization-actions/jupyter/jupyter.sh 
0

あなたはポスト「Googleクラウドビッグデータと機械学習BLOG」(https://cloud.google.com/blog/big-data/2017/02/google-cloud-platform-for-data-scientists-using-jupyter-notebooks-with-apache-spark-on-google-cloud)と一緒に、次のされている場合は、@Dennisフオの上を少し変更する必要がありますソリューション、

gcloud dataproc clusters create datascience \ 
    --master-machine-type n1-standard-2 \ 
    --worker-machine-type n1-standard-2 \ 
    --initialization-actions \ 
     gs://dataproc-initialization-actions/jupyter/jupyter.sh 

プロジェクトとバケットの設定でエラーが発生するためです。

注:
ERROR:(gcloud.dataproc.clusters.create)PERMISSION_DENIED:プロジェクト私のプロジェクト-IDのためのプロジェクト設定を取得するために許可されていません

ERROR:(gcloud.dataproc.clusters.create)例外Invalid_argument :Google Cloud Storageバケットのアクセスが拒否されました: 'my-bucket-name')

0

プロジェクト情報を渡すことができます。例に従ってください:

gcloud dataproc clusters create $CLUSTERNAME \ 
    --project $PROJECT \ 
    --num-workers $WORKERS \ 
    --bucket $BUCKET \ 
    --master-machine-type $VMMASTER \ 
    --worker-machine-type $VMWORKER \ 
    --initialization-actions \ 
     gs://dataproc-initialization-actions/jupyter/jupyter.sh \ 
    --scopes cloud-platform 
関連する問題