Deep Learning

Redes Neuronales Artificiales & Deep Learning

Inteligencia Computacional
Máster en Ingeniería Informática

• Redes neuronales artificiales

• Aplicaciones de las redes neuronales artificiales

• El algoritmo de aprendizaje del perceptrón

• El algoritmo de propagación de errores: Backpropagation

• Entrenamiento de redes neuronales

• Técnicas de regularización (cómo conseguir que una red aprenda mejor)

• Técnicas de optimización (cómo conseguir que una red aprenda más rápido)

• Redes convolutivas

• Capas softmax

• Modelos estocásticos: máquinas de Boltzmann y DBNs [Deep Belief Networks]

Extras

• Herramientas para deep learning

• XAI [eXplainable AI]

• IA generativa [Generative AI]

• LLM [Large Language Models]

• Aprendizaje automático [ML 101]

• Sobre el deep learning: IA360'2023, CEATIC'2019

• Autoencoders

• DSNs [Deep Stacking Networks]

• Cápsulas (a.k.a. CapsNets)

• GANs [Generative Adversarial Networks]: Modelos con adversario

• RNNs [Recurrent Neural Networks]: Redes recurrentes

• Mecanismos de atención (y "transformers")

• Word embeddings

• Reconocimiento de voz

Material de prácticas

• Reconocimiento óptico de dígitos manuscritos

• Conjuntos de datos

• Base de datos MNIST

Bibliografía recomendada

Fernando Berzal:
Redes Neuronales & Deep Learning
https://deep-learning.ikor.org
Edición independiente, 2018
ISBN-10: 1-7312-6538-7 (blanco y negro) / 1-7313-1433-7 (color)
ISBN-13: 978-1-7312-6538-8 (blanco y negro) / 978-1-7313-1433-8 (color)
Edición en dos volúmenes, 2019
ISBN-10: 1-0903-2030-2 (volumen 1) / 1-0903-3688-8 (volumen 2)
ISBN-13: 978-1-0903-2030-8 (volumen 1) / 978-1-0903-3688-0 (volumen 2)

Ian Goodfellow, Yoshua Bengio & Aaron Courville
Deep Learning
https://www.deeplearningbook.org
MIT Press, 2016
ISBN 0262035618

Bibliografía complementaria

Christopher M. Bishop & Hugh Bishop
Deep Learning: Foundations and Concepts
Springer, 2024
https://link.springer.com/book/10.1007/978-3-031-45468-4 

Charu C. Aggarwal:
Neural Networks and Deep Learning: A Textbook
Springer, 2018
ISBN 3031454677
https://link.springer.com/book/10.1007/978-3-031-29642-0

François Chollet:
Deep Learning with Python
Manning Publications, 2018
ISBN 1617294438
https://www.manning.com/books/deep-learning-with-python

David Foster:
Generative Deep Learning
O'Reilly Media, 2nd edition, 2023
ISBN 1098134184
https://www.oreilly.com/library/view/generative-deep-learning/9781098134174/

Yoav Goldberg:
Neural Network Methods in Natural Language Processing
Morgan & Claypool Publishers, Synthesis Lectures on Human Language Technologies, 2017
ISBN 1627052984
https://doi.org/10.2200/S00762ED1V01Y201703HLT037

Martin T. Hagan, Howard B. Demuth, Mark H. Beale & Orlando de Jesús:
Neural Network Design
Martin Hagan, 2nd edition, 2014
ISBN 0971732116
https://hagan.okstate.edu/NNDesign.pdf

Simon O. Haykin:
Neural Networks and Learning Machines
Prentice Hall, 3rd edition, 2008.
ISBN 0131471392

Fredric M. Ham & Ivica Kostanic:
Principles of Neurocomputing for Science and Engineering
McGraw-Hill Higher Education, 2000
ISBN 0070259666

Mohamad H. Hassoun:
Fundamentals of Artificial Neural Networks
MIT Press, 2003.
ISBN 0262514672

Christopher M. Bishop:
Neural Networks for Pattern Recognition
Oxford University Press, 1996
ISBN 0198538642

James A. Freeman & David M. Skapura:
Neural Networks: Algorithms, Applications, and Programming Techniques
Addison-Wesley, 1991
ISBN 0201513765
Redes Neuronales: Algoritmos, aplicaciones y técnicas de programación
Addison-Wesley / Díaz de Santos, 1993
ISBN 020160115X