多層パーセプトロン（1）その生い立ちから自然勾配学習法まで

摘要

多層パーセプトロンは1950年代末，脳の仕組みがまだよくわかっていなかった時代に，脳をモデルとした学習機械として提案され，一世を風靡した．しかし，その後のコンピュータの躍進と，それに支えられた人工知能やパターン認識技術の発展によって，情報工学の分野では振り向かれなくなったかに見えた．ところが1980年代に入って，認知科学が並列分散処理を標榜して脳のモデルと接近し，バックプロパゲーション（逆誤差伝搬）学習が提案されると，パーセプトロンが万能学習機械のモデルであることから再び勢いを回復し，今は工学における学習の標準的な手法の一つとして定着している．さらに，パーセプトロンは特異構造を持つモデルであることが分かり，その解析を通じて統計学の分野にも新しい発展をもたらした．さらに昨今のディープラーニングの成功で完全復活を成し遂げた．パーセプトロンの栄枯盛衰を眺めてみよう．