Comment une machine apprend-elle à partir d'exemples ?
Le machine learning consiste à montrer à un ordinateur beaucoup d'exemples étiquetés, comme des photos marquées « chat » ou « chien ». Pendant l'entraînement, il ajuste un modèle jusqu'à ce que ses suppositions collent aux étiquettes, puis on le teste sur des exemples jamais vus. Plus les données sont variées, mieux il gère les situations réelles.
▶ À toi de jouer
Pourquoi c'est important
Un modèle ne connaît que ce que ses exemples lui ont montré. Choisir des données variées et bien étiquetées compte plus qu'empiler toujours les mêmes.
En 6 minutes, tu sauras
- Machine learning = exemples étiquetés + entraînement + test sur des données nouvelles.
- Des données variées aident plus que beaucoup d'exemples identiques.
- Les mauvaises étiquettes et les exemples manquants deviennent de mauvaises réponses.
Ce que tu vas pratiquer
La recette
Tous les modèles de machine learning se fabriquent de la même façon.
- 🗂️ Données d'entraînement
- Une collection d'exemples, comme des milliers de photos d'animaux. C'est tout ce que le modèle saura jamais.
- 🏷️ Étiquettes
- La bonne réponse pour chaque exemple : « chat » ou « chien ». Souvent ajoutées par des gens : une erreur d'étiquette devient une erreur du modèle.
- ⚙️ Entraînement
- Le modèle devine, compare avec l'étiquette et s'ajuste, encore et encore, jusqu'à ce que ses réponses collent presque toujours.
- 🧪 Test
- Enfin, on le teste sur de nouveaux exemples jamais vus. On voit ainsi s'il a appris le schéma ou seulement retenu les photos par cœur.
Entraîne un mini-modèle
Choisis jusqu'à 5 photos d'entraînement, puis appuie sur Entraîner. Le modèle sera testé sur 5 nouvelles photos.
Chat · Chien
Exemples d'entraînement
- Chat tigré roux sur un canapé → Chat
- Un autre chat tigré roux, endormi → Chat
- Chat noir dans une pièce sombre → Chat
- Petit chaton aux grands yeux → Chat
- Chat gris vu de dos → Chat
- Grand chien doré sur l'herbe → Chien
- Un autre grand chien doré, qui court → Chien
- Petit chien tout doux sur des genoux → Chien
- Chiot qui mâchouille une chaussure → Chien
- Chien debout dans la neige → Chien
Cas de test
- Un chat noir la nuit → Chat
Aucun chat sombre dans l'entraînement : le modèle n'a jamais appris qu'un chat peut ressembler à ça. - Un chaton dans un panier → Chat
Un chaton ne ressemble pas à un chat adulte. Sans exemple de chaton, le modèle n'avait aucun repère. - Un grand chien dans un parc → Chien
Le modèle n'a jamais vu de grand chien, alors il n'a pas relié cette silhouette à « chien ». - Un minuscule chien dans un sac à main → Chien
Un petit chien se confond vite avec un chat si le modèle n'a vu que des grands. - Un husky dans la neige profonde → Chien
Un fond enneigé était nouveau pour le modèle. Il faut varier les décors, pas seulement les animaux.
Qu'as-tu appris ?
Noor peut ajouter 1 000 photos de plus. Quel lot aidera le plus le modèle ?
- 1 000 photos variées : tailles, couleurs, âges et lieux (Réponse)
- 1 000 photos de plus de chats tigrés roux
Le modèle a 100 % sur ses photos d'entraînement mais de mauvais résultats sur les nouvelles. Que s'est-il passé ?
- Il a retenu les exemples par cœur au lieu d'apprendre le schéma (Réponse)
- Les nouvelles photos doivent être mal étiquetées
Un assistant a étiqueté par erreur quelques chiens « chat ». Qu'est-ce que ça change ?
- Le modèle apprend aussi ces erreurs (Réponse)
- Rien, le modèle repérera les erreurs
Retiens bien
Un modèle ne vaut que ses exemples. La variété bat la quantité.
Les chiffres clés
- Dans un article de 1959, l'informaticien Arthur Samuel décrivait un programme de jeu de dames qui avait appris à jouer mieux que son auteur, une étape pionnière du machine learning. · Source: A. L. Samuel, Some Studies in Machine Learning Using the Game of Checkers, IBM Journal of Research and Development, 1959
- Le projet ImageNet, dont les photos étiquetées ont aidé à lancer l'essor actuel de l'apprentissage profond, décrivait dans son premier article 3,2 millions d'images étiquetées par des travailleurs en ligne. · Source: Deng et al., ImageNet: A Large-Scale Hierarchical Image Database, CVPR 2009
- MNIST, un jeu de données classique d'écriture manuscrite, sépare ses images en 60 000 pour l'entraînement et 10 000 pour le test : les modèles sont jugés sur des chiffres jamais vus. · Source: LeCun, Bottou, Bengio & Haffner, Gradient-Based Learning Applied to Document Recognition, Proceedings of the IEEE, 1998
- Tester un modèle sur des exemples qu'il n'a pas vus pendant l'entraînement est la méthode standard pour vérifier qu'il a appris un schéma général plutôt que ses données par cœur.
Mis à jour:
Les questions qu'on se pose
Que sont les données d'entraînement ?
Ce sont les exemples dont un modèle de machine learning apprend, comme des photos, des textes ou des enregistrements étiquetés. Le modèle ne peut apprendre que les schémas présents dans ces données.
Quelle différence entre apprentissage supervisé et non supervisé ?
En apprentissage supervisé, chaque exemple vient avec la bonne réponse, une étiquette, comme « chat ». En non supervisé, il n'y a pas d'étiquettes : le modèle cherche lui-même des groupes ou une structure dans les données.
De combien de données le machine learning a-t-il besoin ?
Ça dépend de la tâche. Une tâche simple peut marcher avec quelques centaines d'exemples, alors que les grands modèles en utilisent des milliards. La variété et la justesse des étiquettes comptent souvent autant que la quantité.
Qu'est-ce que le surapprentissage ?
Le surapprentissage (overfitting), c'est quand un modèle retient ses exemples par cœur au lieu d'apprendre le schéma général. Il paraît parfait à l'entraînement mais marche mal sur des données nouvelles.
Termes associés