Simplified Multiplication in Convolutional Neural Networks

Tato práce se zaměřuje na problematiku klasických i konvolučních neuronových sítí. Jsou zde probrány konvenční techniky hardwarového násobení a možnosti jeho optimalizace v kontextu umělých neuronových sítí. Je navržena metoda zjednodušeného násobení, a to násobení bez násobičky. Tato metoda je implementována a integrována do knihovny TypeCNN. Poté je proveden odhad ceny hardwarového řešení jak konvenčního, tak zjednodušeného násobení. Představeny jsou dostupné nástroje pro práci s konvolučními neuronovými sítěmi a datové sady pro jejich testování v úloze klasifikace obrazů. Jsou navrženy testovací architektury a metodika testování a experimentů. Následně jsou zhodnoceny výsledky testů jak z pohledu úspěšnosti klasifikace, tak ceny hardwarového řešení.This thesis provides an introduction to classical and convolutional neural networks. It describes how hardware multiplication is conventionally performed and optimized. A simplified multiplication method is proposed, namely multiplierless multiplication. This method is implemented and integrated into the TypeCNN library. The cost of the hardware solution of both conventional and simplified multipliers is estimated. The thesis also introduces software tools developed to work with convolutional neural networks and datasets used to test them in the image classification task. Test architectures and experimentation methodology are proposed. The results are evaluated, and both the classification accuracy and cost of the hardware solution are discussed.