On Computational Capability of Recurrent Higher Order Neural Networks

有限個の連続値出力ニューロンからなるニューラルネットワークは，任意の決定性チューリング機械をシミュレートする能力をもつことが知られている．これまで，いくつかのシミュレートモデルが提案されているが，テープ部を実時間でシミュレートするには膨大な数のニューロンが必要となることが問題となる．本論文では，再帰型高次結合ニューラルネットワークが任意のチューリング機械をシミュレートできることを示し，シミュレート時間とこれに要するニューロン数の下限を明らかにする．まず，しきい値入出力関数と線形入出力関数を用いる有限個のニューロンからなる再帰型高次結合ニューラルネットワークが，任意の決定性チューリング機械を実時間でシミュレートでき，テープのシミュレートに要するニューロン数を6個まで削減できることを示す．また，のこぎり型関数を用いれば，シミュレートに要するニューロン数を4個に削減できることを示す．単純化されたこのシミュレートモデルは，将来ニューラルネットワークによる形式言語の学習を実現する上で有用な枠組みとなる