Aceleración de la fase de inferencia en redes neuronales profundas con dispositivos de bajo coste y consumo

Este trabajo profundiza en el ámbito del Deep Learning o aprendizaje profundo. Analizaremos el estado del arte y nos centraremos en las tecnologías de aceleración de la fase de inferencia con dispositivos de bajo coste. Para ello, se ha realizado una aplicación de reconocimiento facial en vídeo sobre el que se han tomado medidas de consumo, rendimiento y escalabilidad. Para el despliegue de la aplicación, se han utilizado dos modelos distintos de red neuronal basados en Tensorflow, el Intel© OpenVINO™ Toolkit y los dispositivos Intel© Neural Compute Stick 2 para la aceleración de la inferencia. Con todo ello, se ha podido comprobar la utilidad de los dispositivos NCS2 para la aceleración de la fase de inferencia consiguiendo tiempos cercanos al real-time y mejorando el rendimiento de la red neuronal en escenarios de alta demanda