Konveksna optimizacija u učenju CMAC neuronskih mreža

Simplicity of structure and learning algorithm play an important role in the real-time application of neural networks. The Cerebellar Model Articulation Controller (CMAC) neural network, with associative memory type of organization and Hebbian learning rule, satisfies these two conditions. But, Hebbian rule gives poor performance during off-line identification, which is used as a preparation phase for on-line implementation. In this paper we show that optimal CMAC network parameters can be found via convex optimization technique. For standard l2 approximation this is equivalent to the solution of Quadratic Program (QP), while for l1 or l‡ approximation solving Linear Program (LP) suffices. In both cases physical constraints on parameter values can be included in an easy and straightforward way.Jednostavnost građe i algoritama učenja od iznimne su važnosti u primjenama neuronskih mreža u stvarnom vremenu. CMAC neuronska mreža s asocijativnom memorijskom organizacijom i Hebbianovim algoritmom učenja udovoljava ovim zahtjevima. Međutim, Hebbianov algoritam učenja ne daje dobre rezultate pri off-line identifikaciji, koja se koristi kao pripremna faza za on-line identifikaciju. U ovom se članku pokazuje da se optimalne vrijednosti parametara CMAC neuronske mreže mogu dobiti primjenom tehnika konveksne optimizacije. Za standardnu l2 aproksimaciju koristi se kvadratno programiranje (QP), a za l1 i l‡ aproksimacije linearno programiranje (LP). U oba je slučaja jednostavno uključiti fizikalna ograničenja na vrijednosti parametara u algoritam optimizacije