ML Atlas

Newsletter · kurs „ML w 10 dni” · dzień 10 z 10 · ok. 3 min czytania

Model, który zgaduje następne słowo

W skrócie

Dzień 10 kursu mailowego „ML w 10 dni”: sieci neuronowe i duże modele językowe, czyli jak model zgaduje następne słowo i co zmienia temperatura.

Pojęcie: Od sieci do LLM ·

1. Haczyk

Piszesz SMS-a, a telefon podpowiada następne słowo. Duży model językowy, taki jak ChatGPT, robi w gruncie rzeczy to samo. Robi to tylko na ogromnej skali i patrzy na dużo dłuższy kontekst niż ostatnie słowo.

2. Przewidź

Mały model nauczył się z krótkiego tekstu, co występuje po słowie „w”. Zna je z 14 miejsc, a najczęściej po nim stoi „ogrodzie”: 3 razy na 14. Obniżasz temperaturę z 1 do 0,1. Jaką szansę dostanie „ogrodzie”: nadal około 21%, około 50% czy około 97%?

Zapamiętaj swoją odpowiedź. Rozwiązanie jest niżej.

3. Wyjaśnienie

Sieć neuronowa to wiele prostych elementów połączonych warstwami. Każdy liczy ważoną sumę wejść i przepuszcza ją przez prostą funkcję. Uczy się spadkiem gradientu, tym samym co w dniu 4. Większa sieć to jednak nie zawsze lepsza sieć: w lekcji o sieciach 2 neurony ukryte dają 81,3% na teście, a 32 neurony tylko 70,7%, choć na treningu mają 94,7%. Przeuczenie z dnia 7 wraca.

Duży model językowy to ogromna sieć, która dostaje tekst i liczy szansę każdego możliwego następnego słowa. Potem losuje jedno z nich, dopisuje je i powtarza. Temperatura decyduje, jak bardzo to losowanie faworyzuje najczęstsze słowa.

Rozwiązanie: około 97%. Przy temperaturze 1 „ogrodzie” ma 21%, przy 0,5 ma 37%, a przy 0,1 aż 97%, choć w tekście to tylko 3 z 14 wystąpień. Niska temperatura wyostrza rozkład: najczęstsze słowo zabiera prawie wszystko. Wysoka temperatura, na przykład 3, spłaszcza go: wtedy „ogrodzie” ma tylko 13%.

Sprawdź sam. W lekcji wpisujesz słowo, przesuwasz suwak temperatury i każesz modelowi napisać zdanie.

4. Częsty błąd

„Model językowy wie, co jest prawdą.” Model liczy, które słowo jest prawdopodobne w tym miejscu tekstu. Prawdopodobne i prawdziwe to często to samo, ale nie zawsze. Stąd biorą się zmyślone, choć pewne siebie odpowiedzi (halucynacje).

5. Gdzie ta analogia się psuje

Telefon patrzy na kilka ostatnich słów. Duży model widzi długi fragment tekstu naraz (okno kontekstu) i nauczył się wzorców z ogromnej ilości tekstu, więc potrafi dużo więcej niż podpowiadanie. Zasada jest jednak ta sama: przewiduje, a nie sprawdza.

6. Dlaczego to ważne w pracy

Kto rozumie przewidywanie następnego słowa i temperaturę, lepiej pisze polecenia dla modeli i lepiej ocenia ich odpowiedzi. Niska temperatura przydaje się, gdy chcesz powtarzalnych odpowiedzi, wyższa, gdy szukasz pomysłów.

7. Pytanie powtórkowe

Odpowiedź na pytanie z poprzedniego dnia

Bo błąd treningowy zawsze nagradza elastyczność. W lekcji „Przeuczenie: gdy model uczy się na pamięć” stopień 10 ma najmniejszy błąd treningowy, 51,1, ale błąd na nowych pacjentach aż 132,6. To ponad dwa razy więcej niż 64,1 zwykłej prostej.

Nowe pytanie

Wracamy do dnia 8. Walidacja krzyżowa z k = 10 daje w poszczególnych częściach od 83,3% do 100,0%. Czy to znaczy, że model jest niestabilny?

To ostatni dzień kursu, więc odpowiedź jest od razu: niekoniecznie. Każda część liczy tylko 17 lub 18 win, więc jedna pomyłka zmienia wynik o ponad 5 punktów. Średnia, 96,7%, jest prawie taka sama jak przy k = 2.

Co dalej

To koniec kursu „ML w 10 dni”. Za Tobą dziesięć pojęć, na których stoi uczenie maszynowe.