Kurs · 33 z 38 lekcji gotowych · 385 min
Kurs uczenia maszynowego od zera
Krótkie lekcje, które prowadzą od pytania „czym jest model?” do tego, jak model językowy wybiera kolejne słowo. W każdej lekcji coś zmieniasz w eksperymencie na prawdziwych danych, patrzysz, jak reaguje model, i sprawdzasz się w trzech pytaniach. Bez programowania.
Lekcje
Siedem modułów: od całej drogi na jednym zbiorze danych po model w świecie. Lekcje bez linku dopiero powstają. Nowe słowo w lekcji? Słowniczek pierwszych pojęć. Prowadzisz zajęcia? Plan spotkań i kartkówki.
Moduł 0 · Cała gra
Jak wygląda cała droga od pytania do oceny?
Moduł 1 · Jak model uczy się z przykładów
Skąd model bierze regułę i z czym ją porównać?
- 1.1Czym jest uczenie maszynowe?Uczenie maszynowe to program, który regułę wyprowadza z przykładów, zamiast dostać ją od człowieka. Lekcja pokazuje różnicę na prawdziwych danych o guzach.Lekcja 1.1
- 1.2Dane, cechy, etykiety i podział zbioruZbiór danych to tabela przykładów, cech i etykiet. Lekcja wyjaśnia, czemu zbiór testowy musi być schowany i czemu jego wielkość decyduje o zaufaniu do wyniku.Lekcja 1.2
- 1.3Punkt odniesienia: z czym porównujesz model?Zanim pochwalisz model, policz wynik bez uczenia: najczęstszą klasę lub średnią. Gdy chorych jest mało, „zawsze zdrowy” ma wysoką trafność i nikogo nie wykryje.Lekcja 1.3
- 1.4Najbliżsi sąsiedzi: najprostszy modelkNN nie uczy się reguły: nowy przypadek dostaje etykietę większości z k najbliższych przykładów. k decyduje o granicach, a jednostki o tym, kto jest blisko.Lekcja 1.4
- 1.5Regresja liniowa: dopasowanie prostejRegresja liniowa rysuje prostą, która najmniej mija się z danymi. Na danych o cukrzycy widać, jak błąd średniokwadratowy wybiera najlepszą prostą.Lekcja 1.5
- 1.6Spadek gradientu: nauka małymi krokamiSpadek gradientu szuka dobrych parametrów, krok po kroku schodząc w dół po błędzie. Współczynnik uczenia decyduje, czy będzie postęp, czy eksplozja.Lekcja 1.6
Moduł 2 · Klasyfikacja i ocena
Kiedy wynik jest dobry i dla kogo?
- 2.1Klasyfikacja: rysowanie granicyKlasyfikator zamienia pomiary w kategorię. Regresja logistyczna daje prawdopodobieństwo i granicę decyzji; lekcja pokazuje je na dwóch gatunkach pingwinów.Lekcja 2.1
- 2.2Ocena klasyfikatora: więcej niż trafnośćTrafność ukrywa, jakie pomyłki popełnia model. Macierz pomyłek, precyzja i czułość pokazują kompromis, który tworzy próg, na danych o guzach piersi.Lekcja 2.2
- 2.3Próg, ROC i PR: wszystkie progi narazKrzywe ROC i precyzja–czułość pokazują wszystkie progi naraz. Gdy klasa jest rzadka, ROC AUC prawie stoi, a AP spada, bo fałszywe alarmy zjadają precyzję.Lekcja 2.3
- 2.4Kalibracja: czy 0,8 znaczy 80%?Model może dobrze sortować, a źle podawać procenty. Naiwny Bayes deklaruje 98% pewności i trafia w 88%. Temperatura naprawia procenty bez zmiany decyzji.Lekcja 2.4
- 2.5Niezrównoważone klasyGdy jednej klasy jest mało, trafność ukrywa straty, a model uczy się mówić „częsta klasa”. Czułość, zbalansowana trafność i wagi klas pokazują i łatają problem.Lekcja 2.5
- 2.6Metryka i próg pod koszt pomyłekPróg wybierasz pod ceny pomyłek, nie z przyzwyczajenia. Gdy przeoczenie kosztuje 10 razy więcej niż fałszywy alarm, najtańszy próg leży blisko 0,09, nie 0,5.Lekcja 2.6
- Projekt A: badanie przesiewowePierwszy projekt do portfolio: wybierz model i próg badania przesiewowego, gdy przeoczenie kosztuje 10 fałszywych alarmów. Sprawdzian na ukrytym teście.
Moduł 3 · Generalizacja
Czy model zadziała jutro, na nowych danych?
- 3.1Przeuczenie: gdy model uczy się na pamięćElastyczny model potrafi idealnie dopasować się do danych treningowych i zawieść na nowych. Gdy rośnie stopień wielomianu, błędy się rozchodzą.Lekcja 3.1
- 3.2Walidacja i walidacja krzyżowaWybieranie ustawień na zbiorze testowym go psuje. Walidacja krzyżowa sprawdza model po kolei na każdej części danych i pokazuje, jak stabilny jest wynik.Lekcja 3.2
- 3.3Krzywe uczenia: więcej danych czy lepszy model?Krzywe uczenia pokazują wynik na treningu i walidacji, gdy danych przybywa. Z ich kształtu wiesz, czy zbierać dane, czy zmienić model na bogatszy.Lekcja 3.3
- 3.4Regularyzacja: ridge i lassoKara za duże wagi uspokaja model. Ridge ściąga wszystkie wagi, lasso zeruje je po kolei: przy 3 cechach z 10 R² na teście spada z 0,470 do 0,386.Lekcja 3.4
- 3.5Strojenie hiperparametrów bez oszukiwaniaNajlepsze z 9 ustawień drzewa ma w walidacji krzyżowej 93,7%, a na nowych biopsjach 88,3%. Wybór zwycięzcy zawyża wynik, tak samo jak wybór ziarna.Lekcja 3.5
- 3.6Wczesne zatrzymanieSieć uczona za długo zapamiętuje błędne etykiety. Przy 20% losowych etykiet 100 epok zamiast zatrzymania obniża trafność testową z 86,1% do 76,3%.Lekcja 3.6
Moduł 4 · Dane w praktyce
Co psuje modele, zanim w ogóle zaczniesz?
- 4.1Eksploracja: patrz, zanim modelujeszCztery zbiory o tej samej średniej, korelacji 0,82 i prostej wyglądają zupełnie inaczej. Narysuj dane, zanim zaufasz liczbom i zbudujesz model.Lekcja 4.1
- 4.2Braki danychUsuń wiersze z brakiem, a z 344 pingwinów zostaje 333. Gdy BMI brakuje u najcięższych, średnia w lukach osłabia związek z chorobą, a sam brak coś mówi.Lekcja 4.2
- 4.3Kategorie i skalowaniekNN na winach bez skalowania ma trafność 0,695, po standaryzacji 0,963. Wyspy zapisane jako 0, 1, 2 udają porządek: one-hot podnosi R² z 0,469 do 0,546.Lekcja 4.3
- 4.4Inżynieria cechOdmiana 2 leży pośrodku osi i żaden próg jej nie wytnie. Nowa kolumna x² daje 77,4% zamiast 60,4%, a 200 kolumn szumu obniża kNN z 98,1% do 77,4%.Lekcja 4.4
- 4.5Wyciek danychWyciek to informacja z testu albo z przyszłości, która trafia do nauki modelu. Na czystym szumie daje 82% w walidacji. Poznaj 8 typów i znajdź je sam.Lekcja 4.5
- 4.6Pipeline: od tabeli do predykcjiSkaler to część modelu i uczy się tylko na treningu. Skaler dopasowany na samym teście daje pingwinom przychodzącym po jednym 44,1% zamiast 99,0%.Lekcja 4.6
- Projekt B: czysta tabelaDrugi projekt do portfolio: z surowej tabeli pingwinów (braki, kategorie) zbuduj pipeline bez wycieku, a potem znajdź wyciek w trzech cudzych pipeline’ach.
Moduł 5 · Modele, które wygrywają na tabelach
Który model, kiedy i dlaczego?
- 5.1Drzewa decyzyjne: dwadzieścia pytań do danychDrzewo decyzyjne klasyfikuje, zadając pytania tak lub nie, z których każde możliwie czysto dzieli dane. Przykład: kto przeżył katastrofę Titanica.Lekcja 5.1
- 5.2Zespoły modeli: czemu wiele drzew bije jednoZespół łączy wiele niedoskonałych modeli, których błędy częściowo się znoszą. Las losowy zyskuje trafność i stabilność z każdym nowym drzewem.Lekcja 5.2
- 5.3Gradient boosting: drzewa, które poprawiają błędyKażde drzewo poprawia błędy poprzednich. Po 200 drzewach z krokiem 1 trening spada do 2287, a test rośnie do 5944, gorzej niż prosta (4095).Lekcja 5.3
- 5.4Naiwny Bayes: fałszywe założenie, dobre decyzjeNaiwny Bayes zakłada niezależne cechy. Na płatkach irysów (r = 0,80) trafia 93,3%, a na 171 guzach walidacyjnych deklaruje 98,3% pewności przy 88,3% trafności.Lekcja 5.4
- 5.5Maszyny wektorów nośnych i jądraSVM szuka najszerszego pasa między klasami. Gdy C rośnie z 0,01 do 100, pas kurczy się z 3,9 do 0,15 cm, a test prawie stoi. Jądro wycina środek osi.Lekcja 5.5
- 5.6Który model kiedy?Pięć modeli, pięć zbiorów, 20 podziałów. Żaden model nie jest w czołówce wszędzie, a różnica 0,3 pkt proc. bywa remisem: 10 do 7 podziałów.Lekcja 5.6
- Projekt C: mini-konkurs w przeglądarce
Moduł 6 · Bez nauczyciela, interpretacja, model w świecie
Co model robi bez etykiet, na co patrzy i co się dzieje po wdrożeniu?
- k-średnich: grupy bez etykiet
- PCA: mniej wymiarów, ta sama treść
- Wykrywanie anomalii
- Na co patrzy model? Ważność cech
- Model po wdrożeniu: dryf i sprawiedliwość
- Projekt D: wyjaśnij model
Most (dla chętnych): Sieci neuronowe i modele językowe
Co dalej: krok w stronę sieci i dużych modeli językowych.
Cały kurs: Sieci neuronowe od środka · 12 lekcji
- 7.1Sieci neuronowe: wiele prostych elementów razemSieć neuronowa łączy proste elementy, z których każdy rysuje jedną linię i ją zagina. Więcej neuronów ukrytych pozwala granicom oplatać kwiaty irysa.Lekcja 7.1
- 7.2Od sieci neuronowych do dużych modeli językowychDuży model językowy uczy się zgadywać następny token. Lekcja buduje tę ideę od modelu liczącego słowa i pokazuje, jak temperatura zmienia to, co model pisze.Lekcja 7.2
Ten kurs w innych językach
English · Machine learning from zeroEspañol · Machine learning desde ceroDeutsch · Machine Learning von Grund aufFrançais · Le machine learning en partant de zéroPortuguês · Machine learning do zero