2016-11-02 8 views
0

私はディープラーニングにはかなり新しく、さまざまなネットとその応用分野にかなり圧倒される。したがって、どのような種類のネットワークが存在するのか、どのような主要な機能があるのか​​、どのような目的を持っているのか、といった種類の概要があるかどうかを知りたい。ディープラーニングネットワークの概要

たとえば、私はabut LeNet、ConvNet、AlexNetを知っています。どういうわけか彼らは同じですが、まだ違いはありますか?

答えて

1

ニューラルネットワークには基本的に2種類あり、と教師なし学習です。どちらにも「学習する」訓練が必要です。 トレーニングセットを学ぶあなたができるとして大規模な本として想像してみてください。教師あり学習では、本には解答キーが提供されていますが、解答解説書がない場合は、教師なし学習には解答キーや解法マニュアルがありません。しかし、目標は同じです。質問と回答(教師あり学習)と質問(教師なし学習)のパターンを見つけることです。

ここでは、これらの2つを区別して、モデルに入ります。のは、基本的には主に3つのモデルを持っている教師付き学習、について議論してみましょう:

  • 人工ニューラルネットワーク(ANN)を

  • 畳み込みニューラルネットワーク(CNN)

  • リカレントニューラルネットワーク(RNN)

ANNは3つすべての中で最も簡単です。私はあなたがそれを理解していると信じているので、CNNに進むことができます。

基本的にCNNで行うことは、フィーチャディテクタで入力を畳み込むことだけです。フィーチャディテクタは、行、列、深さ(フィーチャディテクタの数)の次元を持つ行列です。入力を畳み込む目的は、空間データに関連する情報を抽出することです。猫は犬とは異なる目を持っていますが、欠点は畳み込みレイヤーが増えるほど計算時間が遅くなることです。これを緩和するために、というプールをまたはダウンサンプリングですが、これは基本的には、フィーチャディテクタのサイズを減らしながら、フィーチャや情報の損失を最小限に抑えます。次のステップではを平滑化するか、すべての3Dマトリックスを(n、次のステップは自明であり、通常のANNです。CNNは本質的に特定の特徴を検出することができるので、画像分類、時系列分類、またはビデオ分類などの分類に主に(おそらく常に)使用される。 CNNのクラッシュコースについては、Siraj Ravalのvideoをご覧ください。彼はいつも私の好きなあなたです!

おそらく最も洗練された3つのうち、最も正確に言えば、情報を持続させる「ループ」を導入することによって「記憶」を有するニューラルネットワークとして最もよく説明される。何でこれが大切ですか?これを読んでいる間、あなたの脳は前の記憶を使ってこの情報をすべて理解します。あなたは最初からすべてを再考するようには思われません。これは、従来のニューラルネットワークが行うことです。すべてを忘れて、再学習することです。しかし、ネイティブRNNは有効ではないので、人々が話すときにはRNNは、ほとんどがロング短期記憶の略語であるLSTMを指しています。それがあなたに混乱していると思われる場合、Cristopher Olahは非常に簡単な方法で深い説明を与えます。私はどのようにRNN、特にLSTMバリアント

は教師なし学習のためとして、私は、私はそれらを学ぶために時間を持っていないことごめんなさいので、これについての完全な理解のための彼のリンクをチェックアウトすることができアドバイス私ができることは最高です。頑張って楽しんでね!

1

これらは同じタイプのネットワークです。畳み込みニューラルネットワーク。概要の問題は、あなたが何かを投稿するとすぐに、それは時代遅れだということです。あなたが記述するネットワークのほとんどは、わずか数年前ですが、すでに古いものです。

しかし、caffe(https://github.com/BVLC/caffe/tree/master/models)が提供するネットワークをご覧ください。

私の個人的な見解では、ディープラーニングの最も重要な概念は、リカレントネットワーク(https://keras.io/layers/recurrent/)、残りの接続、開始ブロック(https://arxiv.org/abs/1602.07261を参照)です。残りは主に理論上の概念であり、スタックオーバーフローの解答には収まらない。