Desarrollo de técnicas hardware no-convencionales para su aplicación al aprendizaje automático

Resumen

Nuestro cerebro realiza de forma diaria tareas complejas basadas en el reconocimiento de patrones tales como el procesamiento de im´agenes y el reconocimiento de voz con aparente facilidad. Inspirados por c´omo el cerebro logra ejecutar dichas tareas, diferentes modelos de aprendizaje autom´atico, especialmente los basados en Redes Neuronales Artificiales o ANNs, han sido intensamente estudiados en los ´ultimos a˜nos. Los modelos ANNs intentan imitar el comportamiento biol´ogico del sistema nervioso a partir del modelado de los elementos de procesamiento simples llamados neuronas y sus interconexiones. Con un entrenamiento espec´ıfico, las ANNs tienen la capacidad de aprender relaciones complejas a partir de la informaci´on de entrada mediante el ajuste apropiado de sus pesos. Las SNNs, la ´ultima generaci´on de ANNs, se caracterizan tanto por su naturaleza bioinspirada como por una mayor capacidad computacional respecto a otros modelos de redes neuronales. Sin embargo, a pesar de que muchos enfoques hardware logran mejoras significativas en t´erminos de rendimiento y consumo de energ´ıa, su implementaci´on sigue requiriendo grandes cantidades de recursos de hardware que, a su vez, impiden explotar plenamente los beneficios del hardware. Por lo tanto, las implementaciones hardware eficientes de SNNs se vuelven cruciales para explotar el paralelismo inherente de las redes neuronales. A diferencia de las t´ecnicas de computaci´on convencionales, la SC permite realizar c´alculos aritm´eticos complejos utilizando un bajo n´umero de puertas l´ogicas. Por ejemplo, una simple puerta l´ogica XOR puede realizar una multiplicaci´on en el dominio estoc´astico. Adem´as de su simplicidad, los circuitos SC son tolerantes a los errores debido a su naturaleza probabil´ıstica inherente. En esta tesis se proponen diferentes t´ecnicas de computaci´on no convencionales para una implementaci´on hardware eficiente de ANNs. Se proponen y analizan varias metodolog´ıas para la implementaci´on digital de ANNs convencionales utilizando un nuevo esquema de codificaci´on acu˜nado como ESL (Extended Stochastic Logic). Tambi´en se proponen dos nuevos modelos neuronales de hardware bioinspirados que imitan a las neuronas pulsantes tradicionales. Finalmente, como prueba de concep- to, se describen y estudian en detalle los diferentes enfoques propuestos junto con aplicaciones reales sobre FPGAs de alta gama incluida su aplicaci´on masiva sobre grandes bases de datos.