L5 MIT  Deep Reinforcement Learning

Résumé en français :
Cette cinquième leçon du cours MIT 6.S191 est dédiée aux réseaux de neurones récurrents (RNN) et aux modèles séquentiels, utilisés pour traiter des données ordonnées dans le temps. Le document présente les limites des réseaux classiques pour les séquences et introduit le principe de récurrence, permettant de conserver une mémoire des états passés. Il explique le fonctionnement des RNN, ainsi que les problèmes de gradients qui disparaissent ou explosent lors de l'apprentissage. Des architectures améliorées comme les LSTM (Long Short-Term Memory) et les GRU sont introduites pour résoudre ces problèmes. La leçon aborde également des applications majeures telles que le traitement du langage naturel, la reconnaissance vocale, la modélisation de séries temporelles et la génération de séquences.

Summary in English:
Lecture 5 of the MIT 6.S191 course focuses on Recurrent Neural Networks (RNNs) and sequential models for time-ordered data. The document explains why standard neural networks are not suitable for sequence modeling and introduces recurrence as a way to retain memory of past states. It describes how RNNs work and highlights training challenges such as vanishing and exploding gradients. Advanced architectures like Long Short-Term Memory (LSTM) and Gated Recurrent Units (GRU) are presented as solutions to these issues. The lecture also covers key applications including natural language processing, speech recognition, time-series modeling, and sequence generation