5

NeuralNetworksのパッケージからNeuralFit []がコアを1つしか使用していないように見えて、非常に強力なハードウェア上に非常に大きなニューラルネットを作成しましたが、私のショックと失望を想像しました。私は悲しんだ。最初からNN実装全体を書く必要がありますか?それとも、私は何か簡単なことを逃したのですかWolfram Mathematicaのニューラルネットワークパッケージは並列ではありませんか?

私のネットは、100の出力を生成するために300ニューロンの2つの隠れた層に200の入力を取った。何千もの計算を話していると私は理解していますが、ハードウェアが弱いことがわかっている限り、アップグレードすることができます。 (SATA-IIIでRAID-0 SSDドライブを走らせる24Gbの2000Mhz CL7メモリを搭載した4Ghz 8スレッドマシンであれば、かなり良い結果が得られます。

アイデア?提案?あなたのご意見を事前におねがいします。

+1

"ショック"、 "失望"、 "悲しみ"。うーん、あなたが私に尋ねるならば、ちょっとした反応のように聞こえる。とにかく、NNを簡単に並列化できるかどうかは疑問です。これらすべての相互接続によって、おそらく速度にかなりの影響を及ぼすコア間の多くの通信が必要になるであろう。 –

+0

Mathematicaを使用したNNの実装については、このブログ(http://textanddatamining.blogspot.com/2011/11/buy-or-build-practical-example-to.html)をお読みください。 –

+5

あなたが私に尋ねると、オーバー・ザ・トップの反応のように " - もしあなたが、非常にハイエンドの数学的解法の実証された実績を持つ会社からパッケージのためにお金を払って、次にあなたは1回の反復をすることができない現実世界の問題を投げかけるなら24時間でのトレーニング、はい、私はそれが少し感情的になる良い理由だと思います。 :-)さらに、私は自分のやりたいことに情熱を持っています。それはすべて私のための数字ではなく、これは私の仕事ではありません。これは私の個人的な「子供」です。 –

答えて

1

あなたはパッケージの著者に直接連絡することができます。彼は非常に親近感があり、いくつかの提案をすることができます。

+0

あなたの応答でもう少し詳細を提供できる場合は+1 –

+0

@berniethejet:連絡先情報はありますか?このパッケージはwolframによって作者への言及なしに販売されています。私は作者に手を差し伸べて、彼と一緒にパッケージにいくつかの変更や追加について話したいと思います。コードやコード作成に時間を費やすことさえあります。 –

+0

@ Gregory:著者の名前はJonasSjöbergです。あなたは正しいです、彼はパッケージの所有権を宣伝しません。彼は数年前に会議で発表しました:http://library.wolfram.com/infocenter/Conferences/5417/ – berniethejet

0

コードの書き方や、使用しているパッケージの中での記述方法はわかりません。ベクトル化を使用しようとすると、実際に線形代数計算が高速化されます。 ml-class.orgコースでは、どのように作られているかを見ることができます。

2

私はニューラルネットワークパッケージの著者です。入力が与えられると、ニューラルネットワークの評価を並列化することは容易である。すなわち、入力(およびすべての重み、ネットワークのパラメータ)が与えられたときのネットワークの出力を計算する。しかし、この評価はあまり時間がかかりませんが、ほとんどの問題でそれを並列化することはあまり面白くありません。一方で、ネットワークのトレーニングはしばしば時間がかかり、残念ながら並列化が容易ではありません。トレーニングはさまざまなアルゴリズムで実行でき、最適なものは並列化が容易ではありません。私の連絡先情報は、Wolfram Webの製品ホームページで確認できます。改善の提案は大歓迎です。

パッケージの最後のバージョンは、推奨設定バーをオフにした場合(環境設定で)バージョン9と10のどちらかがうまく動作します。その理由は、パッケージがドキュメントのために古いヘルプブラウザを使用していて、それが提案バーと組み合わせてクラッシュするためです。

あなたのJonas

関連する問題