ML Atlas

Kurs · 33 von 38 Lektionen fertig · 385 Min.

Machine Learning von Grund auf

Kurze Lektionen, die dich von „Was ist ein Modell?“ bis dahin führen, wie ein Sprachmodell das nächste Wort wählt. In jeder Lektion veränderst du etwas in einem Labor mit echten Daten, siehst, wie das Modell reagiert, und prüfst dich mit drei Fragen. Ganz ohne Programmieren.

Mit Lektion 0.1 beginnen

Lektionen

Sieben Module: vom ganzen Weg an einem Datensatz bis zum Modell in der echten Welt. Lektionen ohne Link entstehen gerade.

Modul 0 · Das ganze Spiel

Wie sieht der ganze Weg von der Frage bis zur Bewertung aus?

  1. 0.1Der ganze Prozess in 15 Minuten, von Anfang bis EndeDer ganze Weg eines Machine-Learning-Projekts an einem Datensatz: Frage, Daten, Aufteilung, Raten, Modell und Bewertung. Ohne Vergleich sagt eine Zahl nichts.15 Min. · Interaktiv

Modul 1 · Wie ein Modell aus Beispielen lernt

Woher hat ein Modell seine Regel, und womit vergleichst du sie?

  1. 1.1Was ist maschinelles Lernen?Beim maschinellen Lernen findet ein Programm seine Regel in Beispielen, statt dass ein Mensch sie schreibt. Die Lektion zeigt das an echten Tumordaten.10 Min. · Interaktiv
  2. 1.2Daten, Merkmale, Labels und AufteilungEin Datensatz ist eine Tabelle aus Beispielen, Merkmalen und Labels. Warum die Testdaten verborgen bleiben müssen und warum ihre Größe zählt.10 Min. · Interaktiv
  3. 1.3Der Vergleichswert: Womit vergleichst du dein Modell?Bevor du ein Modell lobst, rechne das Ergebnis ohne Lernen aus: häufigste Klasse oder Mittelwert. Sind Kranke selten, trifft „immer gesund“ und findet keinen.12 Min. · Interaktiv
  4. 1.4Nächste Nachbarn: das einfachste ModellkNN lernt keine Regel: Ein neuer Fall bekommt das Label der Mehrheit seiner k nächsten Beispiele. k formt die Grenzen, die Einheiten bestimmen, wer nah ist.12 Min. · Interaktiv
  5. 1.5Lineare Regression: eine Gerade anpassenLineare Regression zieht die Gerade, die die Daten am wenigsten verfehlt. An Diabetesdaten wird klar, wie der MSE entscheidet, welche Gerade die beste ist.10 Min. · Interaktiv
  6. 1.6Gradientenabstieg: Lernen in kleinen SchrittenDer Gradientenabstieg findet gute Parameter, indem er auf dem Fehler immer wieder bergab geht. Die Lernrate entscheidet über Erfolg oder Absturz.10 Min. · Interaktiv

Modul 2 · Klassifikation und Bewertung

Wann ist ein Ergebnis gut, und für wen?

  1. 2.1Klassifikation: eine Grenze ziehenEin Klassifikator macht aus Messwerten eine Kategorie. Logistische Regression liefert eine Wahrscheinlichkeit und eine Grenze – hier an zwei Pinguinarten.10 Min. · Interaktiv
  2. 2.2Einen Klassifikator bewerten: mehr als GenauigkeitDie Genauigkeit verschweigt, welche Fehler ein Modell macht. Konfusionsmatrix, Präzision und Recall zeigen den Zielkonflikt, den ein Schwellenwert erzeugt.10 Min. · Interaktiv
  3. 2.3Schwelle, ROC und PR: alle Schwellen auf einmalROC- und Precision-Recall-Kurven zeigen alle Schwellen zugleich. Ist eine Klasse selten, bleibt ROC AUC fast gleich, AP fällt: Fehlalarme fressen Präzision.12 Min. · Interaktiv
  4. 2.4Kalibrierung: Heißt 0,8 auch 80 %?Ein Modell kann gut sortieren und falsche Prozente nennen. Naive Bayes erklärt 98 % Sicherheit und trifft zu 88 %. Temperatur hilft, Entscheidungen bleiben.12 Min. · Interaktiv
  5. 2.5Unausgewogene KlassenIst eine Klasse selten, verdeckt die Genauigkeit Verluste, und das Modell lernt „die häufige Klasse“ zu sagen. Sensitivität und Gewichte zeigen und flicken das.12 Min. · Interaktiv
  6. 2.6Metrik und Schwelle nach den Kosten der FehlerDie Schwelle folgt dem Preis der Fehler, nicht der Gewohnheit. Kostet ein Übersehen 10-mal so viel wie ein Fehlalarm, liegt die beste Schwelle nahe 0,09.12 Min. · Interaktiv
  7. Projekt A: ScreeningDein erstes Portfolio-Projekt: Modell und Schwelle für ein Screening wählen, bei dem ein übersehener Fall 10 Fehlalarme kostet. Prüfung am verdeckten Test.Projekt · 40 Min.

Modul 3 · Generalisierung

Funktioniert das Modell morgen, mit neuen Daten?

  1. 3.1Überanpassung: Wenn ein Modell auswendig lerntEin flexibles Modell trifft seine Trainingsdaten perfekt und versagt bei neuen. Steigt der Grad eines Polynoms, gehen Trainings- und Testfehler auseinander.10 Min. · Interaktiv
  2. 3.2Validierung und KreuzvalidierungWer Einstellungen mit den Testdaten wählt, verdirbt sie. Kreuzvalidierung testet ein Modell nacheinander auf jedem Teil der Daten und zeigt, wie stabil es ist.10 Min. · Interaktiv
  3. 3.3Lernkurven: mehr Daten oder ein besseres Modell?Lernkurven zeigen den Wert auf Training und Validierung, während die Daten wachsen. Ihre Form sagt, ob du Daten sammeln oder das Modell wechseln solltest.12 Min. · Interaktiv
  4. 3.4Regularisierung: Ridge und LassoEine Strafe für große Gewichte beruhigt das Modell. Lasso setzt Gewichte nacheinander auf null: Mit 3 von 10 Merkmalen fällt das Test-R² von 0,470 auf 0,386.12 Min. · Interaktiv
  5. 3.5Hyperparameter abstimmen, ohne zu schummelnDie beste von 9 Baumeinstellungen hat in der Kreuzvalidierung 93,7 % und auf neuen Biopsien 88,3 %. Die Wahl des Siegers bläht sein Ergebnis auf.14 Min. · Interaktiv
  6. 3.6Frühes StoppenEin zu lange trainiertes Netz lernt falsche Labels auswendig. Bei 20 % zufälligen Labels senken 100 Epochen die Testgenauigkeit von 86,1 % auf 76,3 %.12 Min. · Interaktiv

Modul 4 · Daten in der Praxis

Was macht Modelle kaputt, bevor du überhaupt anfängst?

  1. 4.1Exploration: erst schauen, dann modellierenVier Datensätze mit gleichem Mittelwert, Korrelation 0,82 und Gerade sehen völlig verschieden aus. Zeichne die Daten, bevor du Zahlen und Modellen traust.12 Min. · Interaktiv
  2. 4.2Fehlende DatenLösche Zeilen mit Lücken, und von 344 Pinguinen bleiben 333. Fehlt der BMI bei den Schwersten, schwächt der Mittelwert den Zusammenhang mit der Krankheit.12 Min. · Interaktiv
  3. 4.3Kategorien und SkalierungkNN erreicht bei Weinen 0,695 ohne Skalierung, 0,963 nach Standardisierung. Inseln als 0, 1, 2 täuschen eine Ordnung vor: One-Hot hebt R² von 0,469 auf 0,546.12 Min. · Interaktiv
  4. 4.4Feature EngineeringRebsorte 2 liegt mitten auf der Achse, keine Schwelle trennt sie ab. Eine Spalte x² bringt 77,4% statt 60,4%; 200 Rauschspalten drücken kNN auf 77,4%.12 Min. · Interaktiv
  5. 4.5DatenleckEin Datenleck ist Information aus dem Test oder der Zukunft, die ins Training gelangt. Auf reinem Rauschen täuscht es 82 % vor. Lerne 8 Typen und finde sie.14 Min. · Interaktiv
  6. 4.6Pipeline: von der Tabelle zur VorhersageDer Skalierer ist Teil des Modells und lernt nur am Training. Am Test selbst angepasst, ergibt er 44,1% statt 99,0%, wenn die Pinguine einzeln ankommen.14 Min. · Interaktiv
  7. Projekt B: eine saubere TabelleZweites Portfolio-Projekt: Baue aus einer rohen Pinguin-Tabelle (Lücken, Kategorien) eine Pipeline ohne Leck und finde das Leck in drei fremden Pipelines.Projekt · 45 Min.

Modul 5 · Modelle, die bei Tabellen gewinnen

Welches Modell, wann und warum?

  1. 5.1Entscheidungsbäume: zwanzig Fragen an die DatenEin Entscheidungsbaum klassifiziert mit Ja-Nein-Fragen, die die Daten jeweils möglichst sauber aufteilen. Das Beispiel: Wer überlebte die Titanic?10 Min. · Interaktiv
  2. 5.2Ensembles: Warum viele Bäume einen schlagenEin Ensemble kombiniert viele unvollkommene Modelle, deren Fehler sich teils aufheben. Deshalb wird ein Random Forest mit mehr Bäumen genauer und stabiler.10 Min. · Interaktiv
  3. 5.3Gradient Boosting: Bäume, die Fehler korrigierenJeder Baum korrigiert die Fehler der vorigen. Nach 200 Bäumen mit Lernrate 1 fällt das Training auf 2287, der Test steigt auf 5944, über die Gerade (4095).12 Min. · Interaktiv
  4. 5.4Naive Bayes: falsche Annahme, gute EntscheidungenNaive Bayes nimmt unabhängige Merkmale an. Bei Iris-Kronblättern (r = 0,80) trifft es 93,3 %, bei 171 Validierungstumoren erklärt es 98,3 % und trifft 88,3 %.12 Min. · Interaktiv
  5. 5.5Support-Vector-Maschinen und KerneEine SVM sucht das breiteste Band zwischen den Klassen. Steigt C von 0,01 auf 100, schrumpft es von 3,9 auf 0,15 cm, und der Test bewegt sich kaum.12 Min. · Interaktiv
  6. 5.6Welches Modell wann?Fünf Modelle, fünf Datensätze, 20 Aufteilungen. Kein Modell liegt überall vorn, und 0,3 Punkte können ein Remis sein: 10 gegen 7.12 Min. · Interaktiv
  7. Projekt C: ein Mini-Wettbewerb im BrowserProjekt · Demnächst

Modul 6 · Ohne Lehrer, Interpretation, das Modell in der Welt

Was macht ein Modell ohne Labels, worauf achtet es, und was passiert nach dem Einsatz?

  1. k-Means: Gruppen ohne LabelsDemnächst
  2. PCA: weniger Dimensionen, derselbe InhaltDemnächst
  3. AnomalieerkennungDemnächst
  4. Worauf achtet das Modell? MerkmalswichtigkeitDemnächst
  5. Nach dem Einsatz: Drift und FairnessDemnächst
  6. Projekt D: ein Modell erklärenProjekt · Demnächst

Brücke (optional): Neuronale Netze und Sprachmodelle

Wie weiter: ein Schritt zu Netzen und großen Sprachmodellen.

Der ganze Kurs: Neuronale Netze von innen (PL) · 12 Lektionen

  1. 7.1Neuronale Netze: viele einfache Einheiten im VerbundEin neuronales Netz stapelt einfache Einheiten, die je eine Gerade ziehen und knicken. Mit mehr verborgenen Einheiten biegen sich die Grenzen um Iris-Blüten.12 Min. · Interaktiv
  2. 7.2Von neuronalen Netzen zu großen SprachmodellenEin großes Sprachmodell lernt, das nächste Token zu raten. Die Lektion baut die Idee aus einem Wörterzähl-Modell auf und zeigt, was die Temperatur bewirkt.12 Min. · Interaktiv

Dieser Kurs in anderen Sprachen

English · Machine learning from zeroPolski · Kurs uczenia maszynowego od zeraEspañol · Machine learning desde ceroFrançais · Le machine learning en partant de zéroPortuguês · Machine learning do zero