さて、今回は、ディープラーニングを含めた、ニューラルネットワークの技術革新について、詳しく話して行こう。

 

そもそも、ニューラルネットワークは、機械学習という立場というよりは、「脳の模倣」という立場で研究が主にされてきた。

 

なので、脳の模倣として次のステップで考えられたのは、脳のニューロンは非常に多いので、それを真似てニューラルネットワークを多層化することだった。

 

これは実際、多層パーセプトロンが非線形問題を解決できることがわかり、実行されようとしたのだが、残念ながら当時のコンピュータでは計算が困難で、しかも成果もサポートベクターマシンと比べて別によくなかった。

 

だがその後、計算機の性能が向上し、解析技術や計測技術も発達してきて、さらに脳の研究も進んだことで、再び脳の研究の成果をニューラルネットワークに反映してみようという流れになったのが、今日の人工知能の技術発展の礎となった。

 

まず、二つの大きな技術革新があった。

 

それは、「スパースコーディング」と、「事前学習」である。

 

スパースコーディングとは、ニューラルネットワークの各ユニットの一部しか反応しないようにする学習方法だ。

 

実際、例えば我々の目においては、常に視神経につながる全てのニューロンが活動しているわけではなく、見ているものに応じて、何をみているのか認識できる最低限のニューロンの活動に抑えられている。

 

このようなアルゴリズムを実際に研究によって、実用化できるようになった。

 

そして、事前学習とは、多層化されたネットワーク構造に対し、1層ごとに学習を行い、学習を終えたものを繋いでいくという発想だ。

 

学習をそれぞれ行ってから繋げていくことで、結果的に多層構造となり、この構造をみてディープラーニングと呼ばれるようになった。

 

多層化という発想は昔からあったが、この事前学習こそが、ディープラーニングの最初のモデル、ディープビリーフネットワークの革新的な手法となったのだ。

 

そして、これらの技術革新を礎にして、ニューラルネットワークの研究が発展していき、現在のディープラーニングへとつながった。

 

そして、ディープラーニングによる機械学習は、機械学習の本流であったサポートベクターマシンの性能をも上回ることとなり、機械学習の分野においてもニューラルネットワークは復権を果たすことができたのである。

 

さて、次回から、ディープラーニングにより何が出来るようになったのか、将来何が期待できるのかという話に移っていきたい。

ランキングポチは必ず頼むぞ。読み逃げは厳禁だ。

人気ブログランキングへ
にほんブログ村 為替ブログへ
にほんブログ村

売買ルールを手に入れたいなら、、、
動画講座はこちら
売買ルールの実践練習に、、、
チャートブックはこちら