ML Atlas

Kurs: sieci neuronowe od środka · Zakończenie kursu

Test końcowy i karta kursu

W skrócie

Test końcowy kursu NN: 12 nowych pytań z całego kursu, przy błędzie link do lekcji. Zaliczony test i zaliczony projekt odblokowują kartę ukończenia kursu.

Test końcowy

Dwanaście pytań, po jednym z każdej lekcji. Żadne nie powtarza quizów ani testów modułów. Co najmniej 10 dobrych odpowiedzi z 12 (80%) to test zaliczony. Przy błędzie albo „Nie wiem” zobaczysz lekcję do powtórki. Odpowiedź możesz zmienić: test ma pokazać, co już umiesz, a nie pilnować. Wynik pamięta tylko ta przeglądarka.

1. Cztery punkty XOR: (0, 0) i (1, 1) to jedna klasa, (0, 1) i (1, 0) druga. Czy pojedynczy neuron z progiem może je bezbłędnie rozdzielić?
Pokaż odpowiedź

Odpowiedź: Nie: jeden neuron rysuje jedną prostą, a żadna prosta nie oddziela tych par

Neuron to ważona suma i próg, czyli jedna prosta, także z sigmoidą. Punkty jednej klasy leżą na przekątnej kwadratu, więc każda prosta zostawia po złej stronie co najmniej jeden punkt. Pomaga dopiero warstwa ukryta: w notebooku „micrograd w numpy” sieć z 4 neuronami ukrytymi uczy się XOR na 5 z 5 ziaren.

Powtórz: lekcja 1 „Neuron: jedna prosta”

2. Sieć 64 → 16 → 10 na cyfrach 8×8. Ile ma liczb do nauczenia, licząc wyrazy wolne?
Pokaż odpowiedź

Odpowiedź: 1210

64 · 16 + 16 = 1040 w warstwie ukrytej i 16 · 10 + 10 = 170 w wyjściowej, razem 1210. Bez wyrazów wolnych wyszłoby 1184. Sieć z labu, 64 → 32 → 10, ma ich 2410.

Powtórz: lekcja 2 „Sieć wielowarstwowa na cyfrach”

3. Sieć ma trzy warstwy liniowe, 4 → 4 → 4 → 2, i żadnej funkcji aktywacji. Co potrafi?
Pokaż odpowiedź

Odpowiedź: Tyle samo co jedna warstwa liniowa 4 → 2

Złożenie przekształceń liniowych jest liniowe: trzy macierze mnożą się w jedną macierz 4 × 2, a wyrazy wolne składają się w jeden wektor. Granicę wygina dopiero nieliniowość między warstwami.

Powtórz: lekcja 3 „Funkcje aktywacji: po co zginać”

4. Dwa modele trafiają ten sam przykład: pierwszy daje prawdziwej klasie 0,9, drugi 0,6. Jak wypada ich strata entropii krzyżowej?
Pokaż odpowiedź

Odpowiedź: Pierwszy ok. 0,11, drugi ok. 0,51: niepewna dobra odpowiedź też kosztuje

Strata to −ln prawdopodobieństwa prawdziwej klasy: −ln 0,9 ≈ 0,11, a −ln 0,6 ≈ 0,51. Trafność widzi tu dwa razy to samo, a entropia krzyżowa wciąż daje gradient w stronę większej pewności.

Powtórz: lekcja 4 „Wyjście i strata: softmax i entropia krzyżowa”

5. W grafie obliczeń ta sama liczba wchodzi dwa razy: L = x · x przy x = 3. Ile wynosi ∂L/∂x, gdy liczy go propagacja wsteczna?
Pokaż odpowiedź

Odpowiedź: 6, bo gradienty z obu dróg do x się dodają

Węzeł mnożenia podaje każdemu wejściu gradient razy drugi czynnik, czyli dwa razy po 3. Oba trafiają do tego samego x, więc się sumują: 6, tyle co pochodna x². Dlatego w notebooku „micrograd w numpy” gradienty się dodają (+=).

Powtórz: lekcja 5 „Propagacja wsteczna krok po kroku”

6. Zbiór ma 1000 przykładów, a paczka 50. Ile kroków optymalizatora to 3 epoki?
Pokaż odpowiedź

Odpowiedź: 60

Epoka to jedno przejście przez cały zbiór: 1000 / 50 = 20 kroków. Trzy epoki to 60 kroków. Mniejsza paczka daje więcej kroków na epokę, ale każdy z nich jest bardziej zaszumiony.

Powtórz: lekcja 6 „Krok, paczka i optymalizator”

7. Sygnał wsteczny przechodzi przez 10 sigmoid, jedna za drugą. Pochodna sigmoidy nie przekracza 0,25. Jaka część gradientu najwyżej dociera do początku, licząc same pochodne aktywacji?
Pokaż odpowiedź

Odpowiedź: Mniej niż jedna milionowa: 0,25 do potęgi 10

Reguła łańcuchowa mnoży pochodne kolejnych warstw: 0,25¹⁰ ≈ 9,5·10⁻⁷. To zanikający gradient. Lekarstwa z lekcji 7: ReLU, inicjalizacja He, normalizacja i skróty.

Powtórz: lekcja 7 „Głęboka sieć: gdy sygnał nie dociera”

8. Wysyłasz trzy różne sieci na ten sam test i do raportu bierzesz najlepszy z trzech wyników. Co jest nie tak?
Pokaż odpowiedź

Odpowiedź: Wynik jest zawyżony: wybór dopasował się do testu, więc test stał się kolejną walidacją

Każdy wynik testu ma w sobie trochę losu podziału, a najlepszy z kilku prób zbiera też szczęście. Wybieraj na walidacji, a test licz raz, na końcu. Dlatego w projekcie liczy się pierwsza wysyłka.

Powtórz: lekcja 8 „Przeuczenie w sieciach: dropout i wczesne zatrzymanie”

9. Sieć ocenia zdjęcia rentgenowskie z dwóch szpitali. W szpitalu A chorych jest dużo więcej, a na każdym zdjęciu widać znacznik szpitala. Trafność na teście z tych samych szpitali jest wysoka. Co sprawdzasz najpierw?
Pokaż odpowiedź

Odpowiedź: Wynik na zdjęciach z innego szpitala albo z zasłoniętym znacznikiem

Znacznik mówi, skąd jest zdjęcie, a więc pośrednio, czy pacjent jest chory. Sieć może się uczyć znacznika zamiast choroby, jak model ze znakiem wodnym w lekcji 9. Test z tych samych szpitali ma tę samą zależność, więc jej nie wykryje.

Powtórz: lekcja 9 „Co sieć naprawdę widzi: skróty i ataki”

10. Warstwa splotowa ma 16 filtrów 3×3 na obrazie z jednym kanałem. Ile ma liczb do nauczenia, licząc wyrazy wolne?
Pokaż odpowiedź

Odpowiedź: 160, tyle samo na obrazie 8×8 co na zdjęciu 1000×1000

Filtr 3×3 ma 9 wag i 1 wyraz wolny, a te same liczby działają w każdym miejscu obrazu: 16 · 10 = 160. Rozmiar obrazu zmienia mapę cech, a nie liczbę wag.

Powtórz: lekcja 10 „Konwolucja: ten sam filtr w każdym miejscu”

11. Zdanie ma 1000 słów. Przez ile kroków musi przejść informacja z pierwszego słowa do ostatniego w zwykłej RNN, a przez ile w uwadze?
Pokaż odpowiedź

Odpowiedź: W RNN przez 999, w uwadze przez 1

RNN niesie początek w stanie, krok po kroku, a po drodze sygnał wiele razy się mnoży i słabnie. W uwadze ostatnie słowo patrzy na pierwsze wprost, w jednym kroku.

Powtórz: lekcja 11 „Sekwencje: od pamięci RNN do uwagi”

12. Model, który pisze tekst, ma maskę przyczynową. Na ile pozycji patrzy uwaga piątego słowa w zdaniu z 8 słów?
Pokaż odpowiedź

Odpowiedź: Na 5: na słowa od pierwszego do siebie samego

Maska zasłania przyszłe słowa: słowo i widzi pozycje do i włącznie. Piąte słowo widzi więc 5 pozycji, a kolejność zdradza już sama maska.

Powtórz: lekcja 12 „Transformer: klocki, które już znasz”

Karta ukończenia kursu

Kartę odblokowują dwie rzeczy: zaliczony projekt „Twoja sieć na cyfrach” (liczy się pierwsza wysyłka) i zaliczony test końcowy. Oba wyniki pamięta tylko ta przeglądarka. Karta (PNG) ma nazwę kursu, wynik projektu na ukrytym teście, wynik testu końcowego i datę. Imię wpisujesz tylko na karcie: nie trafia do adresu ani na serwer. Karta nie jest certyfikatem zawodowym i niczego nie obiecuje.

Karta powstaje w przeglądarce z włączonym JavaScriptem.

Dla ambitnych: micrograd w numpy

Własny autograd w ok. 100 liniach numpy (silnik ma ich 89). Każda operacja pamięta, z czego powstała, i zna swoją lokalną pochodną, a backward() przechodzi graf od straty do wag. Tak, w miniaturze, liczą gradient PyTorch i JAX. Pomysł i format pochodzą z micrograd Andreja Karpathy'ego. Kod jest napisany od nowa i działa na tablicach numpy, a nie na pojedynczych liczbach.

Sprawdzian na neuronie z lekcji 5: silnik daje ∂L/∂w₁ = −0,255 przy w₁ = 0,5, tyle samo co lab i różnica skończona (różnią się o 1,1·10⁻¹⁰). Potem mała sieć uczy się XOR w 1000 krokach: z 4 neuronami ukrytymi na 5 z 5 ziaren, a z 2 neuronami tylko na 1 z 5. Na końcu notebooka są trzy zadania do samodzielnego dopisania.