2017-07-13 14 views
-3

大規模なpickleファイルを保存するとコンピュータがハングすることがあります。どのようにこれを修正するか、または何か他のピクルスに置き換えますか?大きなピックルダンプでコンピュータがハングアップ

UPDATE

ハングコンピュータは、文字通り、それは "メモリの限界に近づい" ではありません。また、これは100%のケースで起こるわけではないので、原則として大きなアレイをピックリングすることは可能です。

UPDATE 2

私の恥:ピクルスが有罪ではなかったです。それはnumpy.stackで、40000の画像のリストに対して呼び出されました。

UPDATE 3

いいえ、漬物もnumpy.stack問題が修正された後でも、ハングアップします。

+0

代わりにcPickleを使用してみてください。 'ピックルとして輸入cPickle' –

+1

ああ、神、ジョーク。そしてファイルの大きさはどれくらいですか?匹敵するサイズのファイルがディスクに保存されていると思いますか? – Carcigenicate

+0

怠け者にしないでください!それは本当にあまり働くことではありません。あなたは、少なくともいくつかの分析を表示することができました。 「私のメモリ消費が100%に近づいているので、私のOSは駄目だ」と述べた。あるいは技術用語である ''ハング ''とは何か? :-) '' '' '' '' '' '' '' ''や ''節約''の問題ですか? – sascha

答えて

1

このシリアライズされたデータの内容を教えてください。ピックルマニュアルから

スニペット:

ピクルスモジュールが誤っまたは悪意を持って構築されたデータに対して安全ではありません。信頼されていない、または認証されていないソースから受信したデータは、絶対にunpickleしないでください。

したがって、ピクルスを使用すると、追加のコード、つまり無限ループが実行される可能性があります。

関連する問題