Comparison of feedforward neural networks with one and two hidden layers in modeling of linear dynamic system

U ovom se radu na primjeru učenja modeliranja linearnog dinamičkog sustava prvog reda (indentifikacija sustava) pokazala se kvaliteta učenja i generalizacije statičke neuronske mreže s jednim i dva skrivena sloja neurona. Za usporedbu se odabralo više različitih topologija jednoslojne i dvoslojne mreže. Uspoređivale su se mreže s jednakim brojem parametara učenja. Metode po kojima su uspoređivane su: brzina učenja do određenog NRMS-a te učenje do određenog koraka. Učenje se izvodilo po uzorku s zamahom prvog i drugog reda, a algoritam učenja je povratno raspostiranje greške. Nakon učenja gledalo se vrijeme potrebno da se dosegne cilj, postignut NRMS učenja te kvaliteta odziva. Nakon usporedba uzele su se mreže koje su se pokazale najbolje u generalizaciji te ih se pobudilo različitim pobudnim funkcijama (sinusnom i nagibnom) koje nisu bile u setu za učenje. Potom su ponovno uspoređene na temelju mogućnosti generalizacije odziva koje nisu učene.This paper dealt with neural network learning of first lag order element. In it the quality of learning and quality of generalization of networks with one and two hidden layers is shown. Multiple topologies of networks with one and two layers were chosen for comparison. Networks with equal number of learning parameters were compared. There were two methods of evaluation of neural networks: learning up to a predetermined error threshold and learning up to predetermined number of epochs. Learning method used was pattern learning with momentum of first and second order. Upon completion of learning process time elapsed , achieved NRMS and quality of response were considered. After comparison, networks that proved best in generalization were introduced to different input functions (sine and ramp) which weren't in original learning set and compared again