Le machine learning en partant de zéro

Module 0 · Le jeu complet

À quoi ressemble le parcours complet, de la question à l’évaluation ?

1. 0.1Tout le processus en 15 minutes, du début à la finLe parcours complet d’un projet de machine learning sur un seul jeu de données, de la question à l’évaluation. Sans référence, un score ne dit rien.15 min · Interactif

Module 1 · Comment un modèle apprend à partir d’exemples

D’où le modèle tire-t-il sa règle, et à quoi la comparer ?

1. 1.1Qu’est-ce que l’apprentissage automatique ?En apprentissage automatique, un programme trouve sa règle dans des exemples au lieu qu’on l’écrive pour lui. La leçon le montre sur de vraies tumeurs.10 min · Interactif
2. 1.2Données, variables, étiquettes et découpageUn jeu de données est un tableau d’exemples, de variables et d’étiquettes. Pourquoi le jeu de test doit rester caché, et pourquoi sa taille compte.10 min · Interactif
3. 1.3La référence : à quoi comparer votre modèle ?Avant de vanter un modèle, calculez le score sans apprentissage : classe la plus fréquente ou moyenne. Si les malades sont rares, « toujours sain » brille.12 min · Interactif
4. 1.4Plus proches voisins : le modèle le plus simplekNN n’apprend aucune règle : un cas nouveau prend l’étiquette majoritaire de ses k exemples les plus proches. k règle les frontières, les unités la proximité.12 min · Interactif
5. 1.5Régression linéaire : ajuster une droiteLa régression linéaire trace la droite qui manque le moins les données. Sur des données de diabète, l’EQM désigne la meilleure droite.10 min · Interactif
6. 1.6Descente de gradient : apprendre à petits pasLa descente de gradient trouve de bons paramètres en descendant pas à pas la pente de l’erreur. Le taux d’apprentissage décide entre progrès et explosion.10 min · Interactif

Module 2 · Classification et évaluation

Quand un résultat est-il bon, et pour qui ?

1. 2.1Classification : tracer une frontièreUn classifieur transforme des mesures en catégorie. La régression logistique donne une probabilité et une frontière, montrées sur deux espèces de manchots.10 min · Interactif
2. 2.2Évaluer un classifieur : au-delà de l’exactitudeL’exactitude cache le type d’erreurs d’un modèle. Matrice de confusion, précision et rappel révèlent le compromis créé par un seuil sur des données de tumeurs.10 min · Interactif
3. 2.3Seuil, ROC et PR : tous les seuils à la foisLes courbes ROC et PR montrent tous les seuils. Si une classe est rare, le ROC AUC bouge à peine et l’AP chute : les fausses alertes mangent la précision.12 min · Interactif
4. 2.4Calibration : 0,8 veut-il dire 80 % ?Un modèle peut bien trier et mal donner les pourcentages. Le Bayes naïf déclare 98 % et a raison à 88 %. La température corrige cela sans changer de décision.12 min · Interactif
5. 2.5Classes déséquilibréesSi une classe est rare, l’exactitude cache les pertes et le modèle apprend à dire « la classe fréquente ». Rappel, exactitude équilibrée et poids le corrigent.12 min · Interactif
6. 2.6Métrique et seuil selon le coût des erreursOn choisit le seuil selon le prix des erreurs, pas par habitude. Si un oubli coûte 10 fois plus qu’une fausse alerte, le seuil le moins cher est près de 0,09.12 min · Interactif
7. AProjet A : dépistageVotre premier projet de portfolio : choisir modèle et seuil d’un dépistage où un cas manqué coûte 10 fausses alertes, puis vérifier sur un test caché.Projet · 40 min

Module 3 · Généralisation

Le modèle marchera-t-il demain, sur de nouvelles données ?

1. 3.1Surapprentissage : quand un modèle apprend par cœurUn modèle souple peut coller parfaitement à ses données d’entraînement et échouer sur de nouvelles. Quand le degré d’un polynôme monte, les erreurs divergent.10 min · Interactif
2. 3.2Validation et validation croiséeChoisir ses réglages avec le jeu de test le gâche. La validation croisée teste un modèle sur chaque partie des données tour à tour et montre si son score tient.10 min · Interactif
3. 3.3Courbes d’apprentissage : données ou meilleur modèle ?Les courbes d’apprentissage montrent le score en entraînement et en validation quand les données croissent. Leur forme dit : collecter ou changer de modèle.12 min · Interactif
4. 3.4Régularisation : ridge et lassoPénaliser les gros poids calme le modèle. Le lasso met les poids à zéro un par un : avec 3 variables sur 10, le R² de test passe de 0,470 à 0,386.12 min · Interactif
5. 3.5Régler les hyperparamètres sans tricherLe meilleur des 9 réglages de l’arbre obtient 93,7 % en validation croisée et 88,3 % sur de nouvelles biopsies. Choisir le gagnant gonfle son score.14 min · Interactif
6. 3.6Arrêt précoceUn réseau entraîné trop longtemps mémorise les étiquettes fausses. Avec 20 % d’étiquettes au hasard, 100 époques font passer le test de 86,1 % à 76,3 %.12 min · Interactif

Module 4 · Les données en pratique

Qu’est-ce qui casse les modèles avant même de commencer ?

1. 4.1Exploration : regarder avant de modéliserQuatre jeux avec la même moyenne, la même corrélation 0,82 et la même droite ne se ressemblent pas. Dessinez les données avant de croire les nombres.12 min · Interactif
2. 4.2Données manquantesSupprimez les lignes à trous : il reste 333 manchots sur 344. Si l’IMC manque chez les plus lourds, la moyenne dans les trous affaiblit le lien avec la maladie.12 min · Interactif
3. 4.3Catégories et mise à l’échellekNN sur des vins : 0,695 sans mise à l’échelle, 0,963 standardisé. Des îles codées 0, 1, 2 simulent un ordre : le one-hot porte le R² de 0,469 à 0,546.12 min · Interactif
4. 4.4Ingénierie des variablesLe cépage 2 est au milieu de l’axe, aucun seuil ne le découpe. Une colonne x² donne 77,4 % au lieu de 60,4 % ; 200 colonnes de bruit font chuter le kNN.12 min · Interactif
5. 4.5Fuite de donnéesUne fuite, c’est une information du test ou du futur qui atteint l’entraînement. Sur du bruit pur, elle simule 82 %. Découvrez 8 types et trouvez-les.14 min · Interactif
6. 4.6Pipeline : du tableau à la prédictionLe scaler fait partie du modèle et n’apprend que sur l’entraînement. Ajusté sur le test lui-même, il donne 44,1 % au lieu de 99,0 % pour des manchots un par un.14 min · Interactif
7. BProjet B : un tableau propreDeuxième projet de portfolio : d’un tableau brut de manchots (trous, catégories), faites un pipeline sans fuite, puis trouvez la fuite chez trois autres.Projet · 45 min

Module 5 · Les modèles qui gagnent sur les tableaux

Quel modèle, quand et pourquoi ?

1. 5.1Arbres de décision : le jeu des vingt questionsUn arbre de décision classe en posant des questions oui/non, chacune choisie pour séparer au mieux les données. L’exemple : qui a survécu au Titanic.10 min · Interactif
2. 5.2Ensembles : pourquoi une forêt bat un seul arbreUn ensemble combine de nombreux modèles imparfaits dont les erreurs se compensent en partie. Ainsi, une forêt aléatoire gagne en exactitude et en stabilité.10 min · Interactif
3. 5.3Gradient boosting : des arbres qui se corrigentChaque arbre corrige les erreurs des précédents. Après 200 arbres au pas 1, l’entraînement tombe à 2287 et le test monte à 5944, pire qu’une droite (4095).12 min · Interactif
4. 5.4Bayes naïf : une hypothèse fausse, de bonnes décisionsLe Bayes naïf suppose les variables indépendantes. Sur les pétales d’iris (r = 0,80) : 93,3 % ; sur 171 tumeurs de validation, il déclare 98,3 % pour 88,3 %.12 min · Interactif
5. 5.5Machines à vecteurs de support et noyauxUne SVM cherche la bande la plus large entre les classes. Quand C passe de 0,01 à 100, elle rétrécit de 3,9 à 0,15 cm et le test bouge à peine.12 min · Interactif
6. 5.6Quel modèle, quand ?Cinq modèles, cinq jeux, 20 découpages. Aucun modèle n’est en tête partout, et 0,3 point d’écart peut être un nul : 10 contre 7.12 min · Interactif
7. CProjet C : une mini-compétition dans le navigateurProjet · Bientôt

Module 6 · Sans professeur, interprétation, le modèle dans le monde

Que fait un modèle sans étiquettes, que regarde-t-il, et que se passe-t-il après le déploiement ?

1. ·k-moyennes : des groupes sans étiquettesBientôt
2. ·ACP : moins de dimensions, le même contenuBientôt
3. ·Détection d’anomaliesBientôt
4. ·Que regarde le modèle ? Importance des variablesBientôt
5. ·Après le déploiement : dérive et équitéBientôt
6. DProjet D : expliquer un modèleProjet · Bientôt

Passerelle (facultative): Réseaux de neurones et modèles de langage

La suite : un pas vers les réseaux et les grands modèles de langage.

Le cours complet: Les réseaux de neurones de l’intérieur (PL) · 12 leçons

1. 7.1Réseaux de neurones : beaucoup d’unités simplesUn réseau de neurones empile des unités simples qui tracent chacune une droite pliée. Avec plus de neurones cachés, les régions se courbent autour des iris.12 min · Interactif
2. 7.2Des réseaux de neurones aux grands modèles de langageUn grand modèle de langage apprend à deviner le token suivant. La leçon part d’un modèle qui compte les mots et montre l’effet de la température.12 min · Interactif