再帰関数のネットワークアナログとは何ですか？

Question

これはヴォルフラム科学会議から野心的な質問です：再帰関数のネットワークアナログなどがそのようなことですか？多分反復的な "map-reduce"パターンのようなものでしょうか？反復に対話を追加すると、複雑になります。多数の対話するエンティティを連続して反復すると、非常に複雑な結果が生成される可能性があります。複雑なシステムを定義する無数の相互作用の結果を見る方法を持つことはいいことです。ネストされた伝搬ループを含む接続されたノードの反復的なネットワークで再帰関数の対応を見つけることはできますか？

分散計算の基本的なパターンの一つは、地図-削減である：それはセルオートマトン（CA）とニューラルネットワーク（NN）で見つけることができます。 NNのニューロンは、シナプスを介して情報を収集し（還元）、それを他のニューロンに送る（マップ）。 CAのセルは同様に動作し、近隣の人から情報を収集し（削減）、移行ルールを適用して（削減）、近隣の人に結果を再度提供します。したがって、> <に再帰関数のネットワークアナログがある場合、Map-Reduceは確かにその重要な部分です。どのような反復的な「マップ・リダクション」パターンが存在しますか？特定の種類の「マップ削減」パターンは、特定の種類のストリームや渦や渦を発生させますか？マップ・リダクション・パターンの微積分を定式化できますか？

Answer 1

私は、ニューラルネットワークの再帰についての質問で刺しを取るだろうが、私は本当にすべてでこれに演劇をマップは、減らす方法を見ていません。私は、ニューラルネットワークは、分散計算を実行し、その後、よりローカルな表現にそれを減らすことができることを得るが、用語を地図削減は主にGoogleとのHadoopに関連したこの分散/ローカル配管の非常に特定のブランド、です。

とにかく、あなたの質問に対する簡単な答えは、一般ニューラルネットワークの再帰の方法がないということです。実際には、ニューラルネットワークにおける一般的な役割価値結合を実装する、非常に関連したより単純な問題は、現在のところ未解決の問題である。

なぜニューラルネットワーク（ANN）の役割結合や再帰などが非常に難しいのかという一般的な原則は、ANNが性質上非常に相互依存しているということです。確かに、彼らの計算能力の大部分は、どこから得られたのかです。関数呼び出しと変数バインディングはどちらも非常に細かい操作ですが、彼らが含まれているものは、多かれ少なかれ関係であり、その離散は多くの場合、貴重な財産です。したがって、計算能力を犠牲にすることなく、一方を他方の内部に実装することは、実に難しいことです。ここで

は部分的な解決策であり、手を試し論文の小さなサンプルです。あなたにとって幸運なことに、多くの人々がこの問題を非常に興味深いと感じています！

ビジュアルセグメンテーションと動的バインディング問題：私はものの、人工ニューラルネットワークプランクトン分類器（1993）の頑健性

A Solution to the Binding Problem for Compositional Connectionism

A (Somewhat) New Solution to the Binding Problem