ApplicationError：7 Google Cloud Storageへのmapreduceワーカーの書き込み処理が完了しました

Question

大規模なAppengineのmapreduceタスクを終了するだけで、多くの私のシャードはフィニッシュラインから離れてしまいます。ここにセットアップがあります：

filenames = yield mapreduce_pipeline.MapperPipeline(
      'example mapper name', 
      'main.MyMapper', 
      input_reader_spec='mapreduce.input_readers.DatastoreInputReader', 
      output_writer_spec='mapreduce.output_writers.FileOutputWriter', 
      params={ 
       'input_reader':{ 
        'entity_kind':'models.MyModel' 
       }, 
       'output_writer':{ 
        'filesystem':'gs', 
        'mime_type':'text/csv', 
        'gs_bucket_name':'myBucket', 
        'output_sharding':'input' 
       } 
      }, 
      shards=DUMP_SHARDS 
      ) 

私はこれらのうち3つをそれぞれ16個のシャードと並列に実行しています。 1つのマッパーは問題なしで完了し、他の2つのマッパーは14と9のシャードで成功を収めました。

残りのシャードはすべて完全にストーンウォールされ、UnknownError: ApplicationError: 7を返します。 （この記事の末尾に完全なスタックトレースがあります）

マッパーがGoogle Cloud Storageに書き込もうとしています。エラーは、この書き込みを実行しているビットで発生します。

しばらく狩りをしてから、google.appengine.runtime.apiproxy（問題のプロキシと思われる）に、エラー7がOTHER_ERRORであることがわかりました。

私はこれらの最終タスクを（タスクキューから）約3時間再試行していますが、これらのエラーが発生してからは成功していません。何が起こっても、それは完全に固まっています。私はまた、いくつかの奇妙なローカルな状態のものだった場合には、これは上で実行されたすべてのインスタンスを、停止しようとしましたが、そこに何の変化...ここ

は、完全なスタックトレースではありません：

I 2012-12-13 15:40:23.909 
Processing done for shard 14 of job '1582444192075C233F6AA' 
E 2012-12-13 15:40:23.969 
ApplicationError: 7 
Traceback (most recent call last): 
    File "/base/python27_runtime/python27_lib/versions/third_party/webapp2-2.3/webapp2.py", line 1511, in __call__ 
    rv = self.handle_exception(request, response, e) 
    File "/base/python27_runtime/python27_lib/versions/third_party/webapp2-2.3/webapp2.py", line 1505, in __call__ 
    rv = self.router.dispatch(request, response) 
    File "/base/python27_runtime/python27_lib/versions/third_party/webapp2-2.3/webapp2.py", line 1253, in default_dispatcher 
    return route.handler_adapter(request, response) 
    File "/base/python27_runtime/python27_lib/versions/third_party/webapp2-2.3/webapp2.py", line 1077, in __call__ 
    return handler.dispatch() 
    File "/base/python27_runtime/python27_lib/versions/third_party/webapp2-2.3/webapp2.py", line 547, in dispatch 
    return self.handle_exception(e, self.app.debug) 
    File "/base/python27_runtime/python27_lib/versions/third_party/webapp2-2.3/webapp2.py", line 545, in dispatch 
    return method(*args, **kwargs) 
    File "/base/data/home/apps/myserver/myinstance.363844686987482417/mapreduce/base_handler.py", line 65, in post 
    self.handle() 
    File "/base/data/home/apps/myserver/myinstance.363844686987482417/mapreduce/handlers.py", line 231, in handle 
    tstate.output_writer.finalize(ctx, shard_state.shard_number) 
    File "/base/data/home/apps/myserver/myinstance.363844686987482417/mapreduce/output_writers.py", line 631, in finalize 
    files.finalize(self._filename) 
    File "/base/data/home/apps/myserver/myinstance.363844686987482417/mapreduce/lib/files/file.py", line 568, in finalize 
    f.close(finalize=True) 
    File "/base/data/home/apps/myserver/myinstance.363844686987482417/mapreduce/lib/files/file.py", line 291, in close 
    self._make_rpc_call_with_retry('Close', request, response) 
    File "/base/data/home/apps/myserver/myinstance.363844686987482417/mapreduce/lib/files/file.py", line 427, in _make_rpc_call_with_retry 
    _make_call(method, request, response) 
    File "/base/data/home/apps/myserver/myinstance.363844686987482417/mapreduce/lib/files/file.py", line 252, in _make_call 
    _raise_app_error(e) 
    File "/base/data/home/apps/myserver/myinstance.363844686987482417/mapreduce/lib/files/file.py", line 186, in _raise_app_error 
    raise UnknownError(e) 
UnknownError: ApplicationError: 7 

Answer 1

Iちょうど同様の問題がありました。 Google Cloud Storageの問題を具体的に書いていると思います。

私はここにいくつかの洞察得てきました：Google App Engine Issue: 8775

概要（TLDR）：

• は、ワンタイムネットワークの問題である可能性があります。
• 請求の問題である可能性があります。
• 結果：離れても固定の請求が機能しない場合は、Googleサポートにお問い合わせください。