Traitement automatique des langues et réseaux de neurones

Introduction au TAL – les vecteurs de mots : transparents transparents (2x2)

Implémentation de word2vec par maximum de vraisemblance

• tutoriels pytorch
• documentation pytorch
• Natural Language Processing with PyTorch

• cours de Christopher Manning : cours 1 et cours 2

  ---

Les vecteurs de mots : transparents transparents (2x2)

Implémentation de word2vec par méthode contrastive

Les réseaux convolutifs pour le texte : transparents (1ere partie) transparents (2x2)

Analyse d'opinion avec des CNN

• cours de Christopher Manning : cours 11 et la vidéo
• https://arxiv.org/abs/1408.5882 [un bon rapport de stage ;)]
• page web qui décrit les données de TP : https://deft.limsi.fr/2018/

Les réseaux récurrents : transparents (2e partie) et transparents

Analyse d'opinion avec des CNN

• cours de Christopher Manning cours 6 (RNN à partir de la page 22, mais introduit les modèles de langues avant!) et cours 7 (problème du gradient dans les RNN)

Modèles n-grammes et réseaux récurrents : transparents (suite)

Modèle de langue n-gramme vs. RNN]]

Traduction automatique (cours par Nadi Tomeh)