ARN

REDES NEURONALES

Segundo semestre de 2021

Facultad de Matemática, Astronomía, Física y Computación
Universidad Nacional de Córdoba

ARN

    Programa

    Primera parte: modelado matemático de sistemas neuronales

    Unidad 1: Elementos de sistemas dinámicos

    El concepto de sistema dinámico. El proceso de modelado. Linealidad vs. no linealidad. Describiendo un sistema dinámico desde el punto de vista matemático. Ecuaciones diferenciales ordinarias. Clasificación de Sistemas Dinámicos. Sistemas autónomos y no autónomos. Sistemas estacionarios vs. sistemas no estacionarios. Comportamiento caótico.

    El caso unidimensional. Análisis geométrico de las soluciones. Puntos de equilibrio y el concepto de estabilidad. Análisis de estabilidad lineal. Existencia y unicidad. Diagramas de fases. Métodos numéricos para la resolución de ecuaciones diferenciales ordinarias. Método de Euler y métodos de Runge-Kutta de 2 y 4 orden. Análisis de bifurcaciones.

    El caso bidimensional. Anális de estabilidad lineal. Clasificación de los puntos fijos. El plano de fase. Puntos fijos y linealización. Bifurcaciones en sistemas bidimensionales.

    El caso tridimensional y de dimensiones mayores a tres. El ejemplo del sistema de Lorenz. El concepto de caos. Atractores extraños. Sensibilidad a las condiciones iniciales. El exponente de Liapunov. El efecto de la dimensionalidad del sistema en su dinámica. Sistemas discretos. Mapas unidimensionales. Puntos fijos. El mapa logístico. La ruta de duplicación de período al caos.

    Unidad 2: Modelado matemático de neuronas

    Propiedades eléctricas de las neuronas. ¿Qué es una neurona artidicial?. Neurona de McCulloch-Pitts. Modelos “integrate-and-fire”. Conductancias dependientes del voltaje. El modelo de Hodgkin-Huxley. Modelados de canales. Conductancia sináptica. Sinapsis en neuronas “integrate-and-fire”.


    Segunda parte: Neurociencia computacional y su aplicaciones al aprendizaje automático

    Unidad 3: Introducción a las redes neuronales

    ¿Qué es el aprendizaje automático? Repaso y presentación de diferentes problemas y técnicas. Aprendizaje de conceptos. Árboles de decisión. Evaluación de hipótesis. Aprendizaje Bayesiano. Conjuntos de clasificación. Reducción de dimensionalidad. Regresión lineal. Regresión no lineal y logística. Neuronas artificiales. Inspiración biológica. Historia. Redes de neuronas artificiales. La función de activación. Posibles arquitecturas.

    Unidad 4. Redes neuronales Feed-forward

    Reglas de la plasticidad sináptica. Aprendizaje supervisado. El perceptron simple. Neuronas escalón, lineales y no lineales. El método del descenso por el gradiente. El perceptron multicapas. Separabilidad lineal. El método de back-propagation y algoritmos asociados. Generalización. Aproximación de funciones continuas. Algoritmos de crecimiento de arquitecturas. Aprendizaje no supervisado. Condicionamiento clásico. Aprendizaje reforzado. Aprendizaje representacional. Aprendizaje competitivo. Aplicaciones.

    Unidad 5. Redes neuronales recurrentes

    Inspiración biológica. Funciones de base radial. Redes de base radial. Algoritmos. Aplicaciones. El modelo de Hopfield para memoria asociativa. Capacidad de almacenamiento. Neuronas estocásticas. El modelo de la pseudo inversa. Dilución sináptica. Mapas auto-organizados. Red neuronal de Kohonen. La máquina de Boltzmann. La máquina de Boltzmann Restringida. Autoencoders.

    Unidad 6: Aprendizaje profundo

    Introducción al aprendizaje profundo. El problema de supreción y explosióon del gradiente. Apilamiento de RBM y de autoencoders. Redes profundas de creencias. Descenso por el gradiente estocástico. Sustitución de las funciones de activiación por Unidades Lineales de Rectificación (ReLU). Bias-Variance Tradeoff. Métodos combinados: bagging, boosting y gradient boosted. Redes convolucionales. Boltzmann profunda. Modelos generativos profundos. Auto--atención y Tranformers. Aplicaciones y casos de éxito.

Facultad de Matemática, Astronomía, Física y Computación

Universidad Nacional de Córdoba


Haya de la Torre esq. Medina Allende
Ciudad Universitaria
5000 Córdoba
Argentina
Email: francisco.tamarit@unc.edu.ar