Formation Introduction à l’intelligence artificielle : outils & enjeux

2. Réseaux de neurones et Deep Learning

• Qu’est-ce qu’un réseau de neurones ? Du simple neurone au Multi Layer Perceptron, shallow to deep network.
• Qu’est-ce que l’apprentissage d’un réseau de neurones ? Fonction de coût, Back propagation et convergence.
• Généralisation d’un réseau de neurones : comment s’assurer de l’utilité d’un modèle ? Train, validation, test sets. Occam’s razor et capacité optimale.
• Dépendance à la donnée d’entrée : modélisations possibles, recherche et neutralisation de biais.
• Data augmentation : amélioration d’un dataset par identification d’invariances.
• Génération de représentations internes au sein d’un réseau de neurones.
• Révolution du Deep Learning face au Machine Learning.

3. Applications du Deep Learning : revue des états de l’art et exemples d’applications

• Classification de donnée
  • Comprendre ce qu’est la classification de données dans différents scénarios : donnée brute, image, son, texte, etc.
  • Comprendre les enjeux d’une classification de données et les choix impliqués par un modèle de classification.
  • Présentation des outils usuels de classification et notamment des réseaux de type MLP (Multilayer perceptron) ou CNN (Convolutional neural network) VS outils de Machine Learnig (Random Forest, Naïve bayes)
  • Présentation d’exemples de solutions existantes (par exemple : classification d’images médicales, d’historique client, de textes rédigés par des utilisateurs, etc.)
  • Clustering : cas particulier d’apprentissage non supervisé. Présentation des différents algorithmes (k-means, Random Forests, etc.)
  • Détection d’anomalies : outils et limites.
• Prédiction d’information et donnée séquentielle/temporelle
  • Enjeux et limite d’une prédiction d’information. Recherche de règles structurelles au sein de la donnée pouvant permettre une logique de prédiction.
  • La prédiction comme une classification ou une régression.
  • Pièges usuels d’une approche prédictive.
  • Présentation des outils usuels de prédiction : RNN (Recurrent Neural Networks), LSTM (Long Short Term Memory).
  • Exemples : prévision des images suivant une séquence vidéo. Prédiction de pollution atmosphérique en milieu urbain, ou autres.
• Transformation/Génération de données
  • Qu’est-ce que transformer une donnée exactement ? Quelles barrières, quels enjeux.
  • Opération de ré-interprétation d’une même donnée : dé-bruitage, génération de résumés textuels, segmentation d’image.
  • Opération de transformation sur un même format : traduction de texte d’une langue à une autre (présentation sommaire de l’architecture Google Machine Translation ou BERT par Google).
  • Opération de génération de donnée « originale » : neural Style, superrésolution, génération d’images à partir de présentations textuelles.
• Reinforcement Learning : contrôle d’un environnement
  • Présentation du Deep Reinforcement Learning
  • Experience Replay et apprentissage de jeux vidéo par un réseau de neurones
  • Applications : contrôle de simulations numériques, voiture automatique, robotique

4. Quels problèmes peut-on adresser avec Machine/Deep Learning ?

• Condition sur les données : volumétries, dimensionnement, équilibre entre les classes, description. (Curse of dimensionality, No Free Lunch theorem)
• Donnée brute VS features travaillées : que choisir ? Comment créer des features ? Utilisation des états intermédiaires d’un réseau de neurones.
• Machine Learning VS Deep Learning : quand préférer les algorithmes plus anciens du Machine Learning aux réseaux de neurones ? Volumétrie, complexité, etc.
• Qualifier un problème : unsupervised learning ? Supervised learning ? Reinforcement learning ?
• Qualifier une solution : comprendre la distance entre une affirmation métier et le résultat d’un algorithme. Mises en situation, étude des outils d’analyse usuels des résultats d’un modèle

7. Mise en œuvre d’un projet, étape 3 : industrialisation

• Industrialiser un réseau de neurones par un encadrement strict de son processus et un monitoring continu
• Présentation de solutions techniques : TensorFlow Serving, Kubernetes, Docker.
• Gestion d’une première version et surveillance des résultats.
• Mise en place de réapprentissages successifs pour conserver un réseau à jour et optimal dans sa qualité de réponse.
• Formation des utilisateurs à la compréhension du réseau et à sa bonne utilisation.
• Optimisation d’un réseau de neurones : stratégie de pruning pour inférence sur un périphérique mobile ou limité
• Sécurité d’un réseau de neurones : Adversarial attacks