Apprentissage profond

L'apprentissage profond est un type d'apprentissage automatique ou machine learning qui repose sur l’apprentissage de représentations de données par opposition à des algorithmes, qui sont spécifiques à une tâche. L'apprentissage profond utilise des couches cachées de réseaux de neurones artificiels, des « machines de Boltzmann restreintes » et des séries de calculs propositionnels complexes.

Les algorithmes d'apprentissage profond s’opposent aux algorithmes d’apprentissage peu profonds du fait du nombre de transformations réalisées sur les données entre la couche d’entrée et la couche de sortie, où une transformation correspond à une unité de traitement définie par des poids et des seuils.

En d’autres termes, l'algorithme apprend à partir d’exemples de données afin d’être en mesure de produire des résultats précis lorsqu’on lui présente de nouvelles données.

L’apprentissage profond fait partie d’une famille de méthodes d'apprentissage automatique fondées sur l’apprentissage de modèles de données. Une observation (une image, par exemple) peut être représentée de différentes façons par un vecteur, une matrice ou un tenseur de données décrivant la scène observée, notamment en fonction de :

• l’intensité des pixels dont elle est constituée ;
• ses différentes arêtes ;
• ses différentes régions, aux formes particulières.

Certaines représentations et une bonne capacité d'analyse automatique des différenciations[4] rendent la tâche d’apprentissage plus efficace.

Une des finalités des techniques de l'apprentissage profond consiste à supprimer certaines tâches simples tels que des calculs mathématiques, encore relativement laborieux, par des modèles algorithmiques d’apprentissage supervisé et non supervisé (c’est-à-dire ne prenant pas en compte pas des connaissances spécifiques du domaine étudié) ou encore par des techniques d’extraction hiérarchique des caractéristiques.

Les recherches dans ce domaine s’efforcent de construire de meilleures représentations du réel et de créer des modèles capables d’apprendre ces représentations à partir de données brutes et non-travaillées en amont par l'homme, et ce à grande échelle. Certaines de ces représentations s’inspirent des dernières avancées en neuroscience. Il s'agit, donc pour résumer d'interprétations du traitement de l'information et des modèles de communication du système nerveux, à l'image de la façon dont le système nerveux établit des connexions en fonction des messages reçus, de la réponse neuronale et du poids des connexions entre les neurones du cerveau.

Les différentes architectures d’apprentissage profond telles que les réseaux de neurones profonds, les réseaux neuronaux convolutifs « convolutional deep neural networks », et les réseaux de croyance profonde (en) ont plusieurs champs d’application :

• La vision par ordinateur (reconnaissance de formes) ;
• La reconnaissance automatique de la parole ;
• Le traitement automatique du langage naturel ;
• La reconnaissance audio
• La bio-informatique[5] - [6] - [7].

Dans ces deux derniers domaines, notamment, elles ont obtenu des résultats très prometteurs.

Le concept d'apprentissage profond prend forme dans les années 2010, avec la convergence de quatre facteurs :

• Des réseaux de neurones artificiels[8] multicouches (eux-mêmes issus entre autres du concept de perceptron, datant de la fin des années 1950) ;
• Des algorithmes d'analyse discriminante[9] et apprenants[10] (dont l'émergence remonte aux années 1980) ;
• Des machines dont la puissance de traitement permet de traiter des données massives ;
• Des bases de données suffisamment grandes, capables d'entraîner des systèmes de grandes tailles[11].

En octobre 2015, le programme AlphaGo, à qui l'on a « appris » à jouer au jeu de go grâce à la méthode de l'apprentissage profond, bat le champion européen Fan Hui[12] par 5 parties à 0. En mars 2016, le même programme bat le champion du monde Lee Sedol par 4 parties à 1[13].

L'apprentissage profond s'applique à divers secteurs des NTIC, notamment :

• La reconnaissance visuelle — par exemple, d'un panneau de signalisation par un robot ou une voiture autonome[14] — et vocale[15] ;
• La robotique ;
• La bioinformatique[16], p. ex., pour l'étude de l'ADN[6] et des segments non codants du génome[5], ou encore la Cytométrie[17];
• La reconnaissance ou la comparaison de formes[18] ;
• La sécurité ;
• La santé[3] ;
• La reconnaissance de voix humaine ou de signaux sonores animaux;
• La pédagogie assistée par l'informatique[19] ;
• L'art ;
• L'intelligence artificielle en général ;
• Des jeux de société complexes (échecs, go, shogi);
• La traduction (outils tels que Google, DeepL, pons).

La méthode de l'apprentissage profond est aujourd'hui utilisée pour l'élaboration des moteurs de traduction automatique.

L'apprentissage profond peut, par exemple, aider à :

• Mieux reconnaître des objets hautement déformables[20] ;
• Analyser les émotions révélées par un visage photographié ou filmé[21] ;
• Analyser les mouvements et position des doigts d'une main, ce qui peut être utile pour traduire les langues signées[22] ;
• Améliorer le positionnement automatique d'une caméra, etc.[23] ;
• Poser, dans certains cas, un diagnostic médical (ex. : reconnaissance automatique d'un cancer en imagerie médicale[24], ou détection automatique de la maladie de Parkinson par la voix[25]), ou de prospective ou de prédiction (ex. : prédiction des propriétés d'un sol filmé par un robot[26]) ;
• Reproduire une œuvre artistique à partir d'une photo à l’ordinateur[27]
• à reconnaître des emplacements dans une image en combinant ses caractéristiques, cela a été démontré par Aude Oliva et ses collaborateurs. Par exemple, un lit, une fenêtre et des affiches peuvent indiquer une chambre, tandis qu'un poêle, des carreaux et un comptoir peuvent indiquer une cuisine[28].

Une application du deep learning à la santé publique est le projet Horus de la société Eyra[29]. Il s’agit d’un appareil portable utilisant la plate-forme NVidia Jetson, qui aide les mal-voyants ou les aveugles à s’orienter et à reconnaître des personnes ou des objets, en retranscrivant en audio une image captée par une caméra. Des liens entre l'apprentissage profond et la théorie de jeux ont été établis par Hamidou Tembine en utilisant notamment des jeux de type champ moyen[30].

En physique, l'apprentissage profond est utilisé pour la recherche sur les particules exotiques[31].

En 2021, on utilise également de plus en plus les techniques d'apprentissage profond en télédétection (notamment en imagerie satellitaire)[32].

Sont pointés de possibles usages malveillants du deep learning. Il devient ainsi possible d'incruster le visage d'une personne sur une autre, à son insu, et de lui faire faire ou dire des choses qu'elle n'a pas faites (comme dans le film Running man de 1986), le deep learning recréant les mouvements du visage en rendant l'incrustation réaliste. Ainsi, plusieurs actrices comme Gal Gadot, Emma Watson, Cara Delevingne, Emma Stone, Natalie Portman ou Scarlett Johansson se sont retrouvées avec leur visage incrusté sur celui d'une actrice pornographique à l'aide d'un logiciel accessible au grand public nommé Deepfakes, soulevant des craintes quant à la généralisation d'un tel usage, permettant à n'importe qui de nuire à la réputation d'une autre personne[33]. Face à ce danger, plusieurs plates-formes telles que PornHub, Twitter et Reddit ont réagi en interdisant la publication de telles vidéos, et l'utilisateur « deepfakes », créateur du logiciel éponyme permettant à tout usager de créer des fausses vidéos à caractère pornographique, a été banni de reddit et son fil dédié supprimé[34].

En 2019, OpenAI a publié plusieurs intelligences artificielles très performantes permettant de générer un texte synthétique à partir d'un résumé. Tout en exprimant leurs inquiétudes sur les détournements possibles de ce type de technologie, les chercheurs de l'association ont renoncé à partager la version complète de l'intelligence artificielle[35].

• Comparaison de logiciels d'apprentissage profond