ネオコグニトロン

ウィキペディアから、無料の百科事典

ネオコグニトロン(英: Neocognitron)は、1979年に福島邦彦によって提唱された畳み込みニューラルネットワークである[1][2] 。

概要

畳み込みの手法を導入する以前のコグニトロン(「教師なし学習」を行う多層神経回路)では位置ずれや変形の影響を受けやすかった。 このため、形の類似性だけに基づいてパターン認識することを目的としてネオコグニトロンが開発された。 ネオコグニトロンは複数の種類の細胞から構成され、その中で最も重要な細胞は「S細胞」および「C細胞」と呼ばれる[3] 。 局所特徴量はS細胞によって抽出され、微小変位(local shift)といったこれらの特徴の変形はC細胞に委ねられている。 入力中の局所特徴量は、隠れ層によって徐々に統合され、分類される[4]。

デイヴィッド・ヒューベルとトルステン・ウィーセルが1959年に提唱したモデルから発想を得ている。 彼らは「単純細胞(英語版)」および「複雑細胞(英語版)」と呼ばれる一次視覚野の2種類の細胞を発見し、パターン認識タスクにおいて使用されるこれら2種類の細胞のカスケードモデルを提唱した[5][6]。

1998年、ヤン・ルカンらはネオコグニトロンにバックプロパゲーションによる教師あり学習を適用し、LeNet と名付けて公表した[7]。 手書き文字認識やその他のパターン認識の課題に用いられている[8]。

ネオコグニトロンには様々な種類が存在する[9]。例えば、ある種のネオコグニトロンは、逆伝播シグナルを用いることによって同一入力中の複数のパターンを検出でき、選択的注意(selective attention)を達成する[10]。

脚注

  1. ↑ Fukushima, Kunihiko「位置ずれに影響されないパターン認識機構の神経回路のモデル --- ネオコグニトロン ---」『Trans. IECE』J62-A第10号、October 1979、658–665頁。
  2. ↑ Fukushima, Kunihiko (1980). “Neocognitron: A self-organizing neural network model for a mechanism of pattern recognition unaffected by shift in position”. Biological Cybernetics 36 (4): 93–202.
  3. ↑ Fukushima 1987, p. 83.
  4. ↑ Fukushima 1987, p. 84.
  5. ↑ David H. Hubel and Torsten N. Wiesel (2005). Brain and visual perception: the story of a 25-year collaboration. Oxford University Press US. p. 106. ISBN 978-0-19-517618-6
  6. ↑ Hubel, DH; Wiesel, TN (October 1959). “Receptive fields of single neurones in the cat's striate cortex”. J. Physiol. (Lond.) 148: 574–91. doi:10.1113/jphysiol.1959.sp006308. PMC 1363130. PMID 14403679.
  7. ↑ Lecun, Y (1998). “Gradient-based learning applied to document recognition”. Proceedings of the IEEE 86 (11): 2278-2324. doi:10.1109/5.726791.
  8. ↑ LeCun, Yann; Bengio, Yoshua; Hinton, Geoffrey (2015). “Deep learning”. Nature 521: 436–444. doi:10.1038/nature14539. PMID 26017442.
  9. ↑ Fukushima 2007
  10. ↑ Fukushima 1987, pp.81, 85

参考文献

関連項目

外部リンク