Słowniczek · 29 pojęć
Słowniczek pierwszych pojęć ML
Słowa, które spotkasz w pierwszych lekcjach kursu ML i na stronie Start tutaj, wyjaśnione prostymi słowami. Przy każdym: przykład z życia, hasło w Atlasie, gdy chcesz wiedzieć więcej, i lekcja, w której to słowo naprawdę pada.
Pojęcia w kolejności alfabetycznej. Po kolei, jak w nauce, prowadzi przez nie kurs.
Cecha
ang. feature
Jedna rzecz, którą model widzi o przypadku: kolumna tabeli, na przykład długość dzioba albo wiek.
Z życia: Gdy zgadujesz, czy pada deszcz, patrząc na chmury i parasole przechodniów, chmury i parasole są Twoimi cechami.
W Atlasie: Typy danych w uczeniu maszynowym
W kursie: Lekcja 1.2: Dane, cechy, etykiety i podział zbioru; pojawia się też w lekcjach 1.1, 1.5, 1.6, 2.1.
Czułość
ang. recall, sensitivity
Spośród wszystkich prawdziwych przypadków „tak”, jaką część model znalazł. Mówi, ile model przeocza.
Z życia: Przy przesiewowym badaniu na raka ważne jest, żeby znaleźć prawie każdego chorego, nawet kosztem dodatkowych badań u zdrowych.
W Atlasie: Precyzja i recall
W kursie: Lekcja 2.2: Ocena klasyfikatora: więcej niż trafność; pojawia się też w lekcjach 2.3, 2.5, 4.5.
Drzewo decyzyjne
ang. decision tree
Model, który zadaje po kolei pytania tak albo nie o cechy, aż dojdzie do odpowiedzi.
Z życia: Gra w „zgadnij, kim jestem”, w której każda odpowiedź „tak” albo „nie” odcina część możliwości.
W Atlasie: Drzewo decyzyjne
W kursie: Lekcja 0.1: Cały proces w 15 minut, od pytania do oceny; pojawia się też w lekcjach 1.3, 3.1, 3.2, 5.1.
Duży model językowy (LLM)
ang. large language model
Sieć neuronowa nauczona na ogromnej ilości tekstu, która przewiduje kolejne słowo. Tak działają czaty AI.
Z życia: Podpowiedzi kolejnego słowa w klawiaturze telefonu to bardzo mały krewny takiego modelu.
W Atlasie: Duży model językowy (LLM)
W kursie: Lekcja 7.2: Od sieci neuronowych do dużych modeli językowych; pojawia się też w lekcjach 1.1, 1.6.
Etykieta
ang. label, target
Poprawna odpowiedź przy przykładzie, czyli to, czego model ma się nauczyć przewidywać.
Z życia: Na zdjęciach w telefonie podpisujesz twarze imionami: te podpisy są etykietami, z których telefon uczy się rozpoznawać osoby.
W Atlasie: Uczenie nadzorowane a nienadzorowane
W kursie: Lekcja 1.1: Czym jest uczenie maszynowe?; pojawia się też w lekcjach 1.2, 1.4, 3.6, 4.5.
Funkcja straty
ang. loss function
Liczba, która mówi, jak bardzo model się myli. Nauka modelu polega na tym, żeby ją zmniejszać.
Z życia: W zabawie w „ciepło, zimno” każde „zimno” mówi, jak daleko jesteś od ukrytej rzeczy, i pomaga poprawić kierunek.
W Atlasie: Funkcja straty (loss)
W kursie: Lekcja 3.6: Wczesne zatrzymanie; pojawia się też w lekcjach 1.6, 2.1, 2.5, 5.3.
Granica decyzyjna
ang. decision boundary
Linia na wykresie cech, która oddziela miejsca, gdzie model mówi „to”, od miejsc, gdzie mówi „tamto”.
Z życia: Na mapie dzielnic każdy adres po jednej stronie ulicy należy do jednej szkoły, a po drugiej do innej: ta ulica to granica decyzyjna.
W Atlasie: Granica decyzyjna
W kursie: Lekcja 1.4: Najbliżsi sąsiedzi: najprostszy model; pojawia się też w lekcjach 2.1, 2.5, 4.4, 4.5.
Klasyfikacja
ang. classification
Zadanie, w którym model wybiera jedną z kilku kategorii, a nie liczbę: spam albo nie, który gatunek, chory albo zdrowy.
Z życia: Sortowanie prania na białe, kolorowe i ciemne to klasyfikacja.
W Atlasie: Regresja logistyczna
W kursie: Lekcja 2.1: Klasyfikacja: rysowanie granicy; pojawia się też w lekcjach 1.3, 2.2, 4.5, 5.1.
Macierz pomyłek
ang. confusion matrix
Tabelka, która rozpisuje odpowiedzi modelu na trafione i na pomyłki każdego rodzaju, zamiast zliczać je w jedną liczbę.
Z życia: Lekarz liczy osobno chorych, których test przeoczył, i zdrowych, których niepotrzebnie wystraszył, bo te pomyłki kosztują co innego.
W Atlasie: Macierz pomyłek
W kursie: Lekcja 2.2: Ocena klasyfikatora: więcej niż trafność; pojawia się też w lekcjach 2.3.
Model
ang. model
Reguła, którą komputer wyciągnął z przykładów. Dostaje nowy przypadek i zwraca odpowiedź, na przykład gatunek albo cenę.
Z życia: Doświadczony sprzedawca owoców patrzy na arbuza i mówi, czy jest dojrzały: w głowie ma model zbudowany z wielu obejrzanych wcześniej arbuzów.
W Atlasie: Czym jest uczenie maszynowe
W kursie: Lekcja 1.1: Czym jest uczenie maszynowe?; pojawia się też w lekcjach 0.1, 1.2, 1.3, 1.4.
Najbliżsi sąsiedzi (kNN)
ang. k-nearest neighbours
Model, który dla nowego przypadku szuka najbardziej podobnych przykładów z nauki i odpowiada tak, jak większość z nich.
Z życia: Nie wiesz, czy nowa restauracja Ci się spodoba, więc pytasz znajomych o podobnym guście i robisz to, co radzi większość.
W Atlasie: Metoda k najbliższych sąsiadów (kNN)
W kursie: Lekcja 1.4: Najbliżsi sąsiedzi: najprostszy model; pojawia się też w lekcjach 2.5, 4.3, 4.4, 4.5.
Niedouczenie
ang. underfitting
Model jest za prosty, żeby uchwycić regułę, więc myli się i na nauce, i na nowych danych.
Z życia: Kto o każdej potrawie mówi tylko „dobra” albo „niedobra”, nie podpowie, którą przyprawę dodać.
W Atlasie: Przeuczenie i niedouczenie
W kursie: Lekcja 3.1: Przeuczenie: gdy model uczy się na pamięć; pojawia się też w lekcjach 5.1.
Precyzja
ang. precision
Spośród przypadków, przy których model powiedział „tak”, jaka część naprawdę była „tak”. Mówi, ile fałszywych alarmów robi model.
Z życia: Wędkarz z wysoką precyzją wyciąga prawie same ryby, a mało starych butów.
W Atlasie: Precyzja i recall
W kursie: Lekcja 2.2: Ocena klasyfikatora: więcej niż trafność; pojawia się też w lekcjach 2.3, 2.5.
Próg decyzji
ang. decision threshold
Punkt, od którego model mówi „tak”. Model często daje pewność od małej do dużej, a próg zamienia ją w decyzję.
Z życia: Czujnik dymu włącza alarm dopiero, gdy dymu jest wystarczająco dużo: niżej ustawiony próg łapie każdy pożar, ale piszczy też przy przypalonym toście.
W Atlasie: Próg decyzji
W kursie: Lekcja 1.1: Czym jest uczenie maszynowe?; pojawia się też w lekcjach 1.3, 2.1, 2.2, 2.3.
Przeuczenie
ang. overfitting
Model nauczył się przykładów na pamięć, razem z przypadkowym szumem, zamiast reguły. Na nauce wypada świetnie, na nowych danych słabo.
Z życia: Uczeń wykuł odpowiedzi do zadań z zeszłorocznego sprawdzianu, a na nowym, z innymi liczbami, nie wie, co zrobić.
W Atlasie: Przeuczenie i niedouczenie
W kursie: Lekcja 3.1: Przeuczenie: gdy model uczy się na pamięć; pojawia się też w lekcjach 0.1, 2.2, 3.6, 5.1.
Punkt odniesienia
ang. baseline
Wynik najprostszej odpowiedzi bez myślenia, na przykład „zawsze najczęstsza klasa”. Model jest coś wart dopiero wtedy, gdy wyraźnie ją bije.
Z życia: Prognoza „jutro będzie jak dziś” często trafia: synoptyk musi być lepszy od niej, a nie od zgadywania na ślepo.
W Atlasie: Modele bazowe
W kursie: Lekcja 0.1: Cały proces w 15 minut, od pytania do oceny; pojawia się też w lekcjach 1.1, 1.3.
Regresja liniowa
ang. linear regression
Model, który przewiduje liczbę, prowadząc przez punkty na wykresie prostą, która pasuje do nich najlepiej.
Z życia: Im dłużej jedzie taksówka, tym więcej płacisz: z kilku paragonów da się narysować prostą i zgadnąć cenę kolejnego kursu.
W Atlasie: Regresja liniowa
W kursie: Lekcja 1.5: Regresja liniowa: dopasowanie prostej; pojawia się też w lekcjach 1.6, 2.1, 3.4, 4.1.
Sieć neuronowa
ang. neural network
Model złożony z wielu prostych elementów połączonych warstwami. Każdy robi mało, ale razem uczą się bardzo złożonych reguł.
Z życia: Jak w fabryce: każdy pracownik robi jeden prosty ruch, a na końcu taśmy wyjeżdża gotowy samochód.
W Atlasie: Perceptron wielowarstwowy (MLP)
W kursie: Lekcja 7.1: Sieci neuronowe: wiele prostych elementów razem; pojawia się też w lekcjach 1.5, 1.6, 3.1, 3.6.
Skalowanie cech
ang. feature scaling
Sprowadzenie cech do podobnej skali, żeby żadna nie przeważała tylko dlatego, że jest liczona w większych jednostkach.
Z życia: Porównujesz mieszkania po cenie w złotych i po liczbie pokoi: bez przeliczenia sama cena zagłuszyłaby pokoje.
W Atlasie: Skalowanie cech (standaryzacja)
W kursie: Lekcja 1.4: Najbliżsi sąsiedzi: najprostszy model; pojawia się też w lekcjach 1.2, 1.6, 3.2, 4.3.
Spadek gradientu
ang. gradient descent
Sposób nauki małymi krokami: model sprawdza, w którą stronę błąd maleje najszybciej, i przesuwa się trochę w tę stronę.
Z życia: Schodzisz z góry we mgle: nie widzisz doliny, ale czujesz pod stopami, gdzie jest najbardziej w dół, i tam stawiasz kolejny krok.
W Atlasie: Gradient i spadek gradientu
W kursie: Lekcja 1.6: Spadek gradientu: nauka małymi krokami; pojawia się też w lekcjach 2.1, 5.3, 7.1, 7.2.
Trafność
ang. accuracy
Jaka część odpowiedzi modelu jest poprawna. Prosta miara, ale myli, gdy jedna odpowiedź zdarza się dużo częściej niż inne.
Z życia: Kto zawsze mówi „dziś nie spadnie śnieg”, latem ma prawie same trafienia, choć o pogodzie nie wie nic.
W Atlasie: Paradoks dokładności
W kursie: Lekcja 0.1: Cały proces w 15 minut, od pytania do oceny; pojawia się też w lekcjach 1.1, 1.2, 1.3, 1.4.
Uczenie maszynowe
ang. machine learning, ML
Sposób pisania programów, w którym komputer nie dostaje reguły od człowieka, tylko sam ją wyciąga z przykładów ze znaną odpowiedzią.
Z życia: Filtr spamu nie ma listy zakazanych słów od programisty: nauczył się jej z wiadomości, które ludzie oznaczyli jako spam.
W Atlasie: Czym jest uczenie maszynowe
W kursie: Lekcja 1.1: Czym jest uczenie maszynowe?; pojawia się też w lekcjach 0.1, 1.2, 1.5, 1.6.
Walidacja krzyżowa
ang. cross-validation
Dzielimy dane na kilka części i po kolei każda jest sprawdzianem, a reszta nauką. Średni wynik mniej zależy od szczęścia przy jednym podziale.
Z życia: Zamiast oceniać kucharza po jednym obiedzie, próbujesz kilku dań w różne dni.
W Atlasie: Walidacja krzyżowa
W kursie: Lekcja 3.2: Walidacja i walidacja krzyżowa; pojawia się też w lekcjach 2.3, 2.5, 2.6, 3.1.
Współczynnik uczenia
ang. learning rate
Długość kroku w spadku gradientu. Za mały krok to bardzo wolna nauka, za duży to przeskakiwanie celu.
Z życia: Regulując temperaturę pod prysznicem drobnymi ruchami, długo czekasz na ciepłą wodę, a szarpiąc kurkiem, skaczesz od lodowatej do wrzącej.
W Atlasie: Learning rate (współczynnik uczenia)
W kursie: Lekcja 1.6: Spadek gradientu: nauka małymi krokami.
Wyciek danych
ang. data leakage
Informacja ze sprawdzianu albo z przyszłości przecieka do nauki modelu. Wynik wygląda świetnie, a w prawdziwym użyciu się sypie.
Z życia: Uczeń zobaczył klucz odpowiedzi przed sprawdzianem: ma piątkę, ale niczego się nie nauczył.
W Atlasie: Wyciek danych (data leakage)
W kursie: Lekcja 1.2: Dane, cechy, etykiety i podział zbioru; pojawia się też w lekcjach 3.2, 4.5, 4.6.
Zbiór danych
ang. dataset
Tabela przykładów: każdy wiersz to jeden przypadek, a każda kolumna to jedna rzecz, którą o nim wiemy.
Z życia: Zeszyt pielęgniarki szkolnej, w którym każdy uczeń ma swoją linijkę z wzrostem, wagą i klasą, to mały zbiór danych.
W Atlasie: Typy danych w uczeniu maszynowym
W kursie: Lekcja 1.2: Dane, cechy, etykiety i podział zbioru; pojawia się też w lekcjach 0.1.
Zbiór testowy
ang. test set
Przykłady schowane przed modelem na czas nauki. Sprawdzamy na nich model na końcu, bo tylko nowe przypadki pokazują, czy się nauczył, czy zapamiętał.
Z życia: Sprawdzian z zadaniami, których uczeń wcześniej nie widział: dopiero on pokazuje, czy rozumie materiał.
W Atlasie: Podział na zbiór treningowy i testowy
W kursie: Lekcja 0.1: Cały proces w 15 minut, od pytania do oceny; pojawia się też w lekcjach 1.1, 1.2, 1.3, 1.4.
Zbiór treningowy
ang. training set
Przykłady z odpowiedziami, na których model się uczy. Wszystko, co model wie, wziął właśnie stąd.
Z życia: Zadania z podręcznika, które uczeń rozwiązuje z kluczem odpowiedzi przed sprawdzianem.
W Atlasie: Zbiór treningowy
W kursie: Lekcja 1.1: Czym jest uczenie maszynowe?; pojawia się też w lekcjach 0.1, 1.2, 2.1, 3.1.
Zbiór walidacyjny
ang. validation set
Osobna część danych do wybierania ustawień modelu. Dzięki niej zbiór testowy zostaje nietknięty aż do samego końca.
Z życia: Próbny egzamin przed maturą: na nim zmieniasz sposób nauki, a prawdziwą maturę piszesz raz.
W Atlasie: Zbiór walidacyjny
W kursie: Lekcja 3.2: Walidacja i walidacja krzyżowa; pojawia się też w lekcjach 2.4, 2.5, 2.6, 3.5.