Uczenie nadzorowane: co to jest i jak działa?

Uczenie nadzorowane (ang. supervised learning) to metoda uczenia maszynowego, w której model trenuje się na parach: dane wejściowe i przypisana im prawidłowa etykieta. Na tej podstawie uczy się reguły, którą stosuje do nowych przypadków. To jedna z głównych gałęzi ML, obok uczenia nienadzorowanego i uczenia ze wzmocnieniem, i zarazem najczęściej stosowana, bo daje jasny sposób weryfikacji, czy model sztucznej inteligencji działa poprawnie.

Czym jest uczenie nadzorowane?

Uczenie nadzorowane polega na tym, że model uczy się mapowania między danymi wejściowymi a prawidłowymi wynikami, korzystając z historycznych, oznaczonych przykładów. Działa to trochę jak nauka z nauczycielem: model dostaje zadania razem z poprawnymi rozwiązaniami i na tej podstawie uczy się generalizować wiedzę, czyli stosować ją do sytuacji, których wcześniej nie widział.

Na czym polega uczenie na oznaczonych danych?

Uczenie na oznaczonych danych polega na dostarczeniu algorytmowi zestawu przykładów, w którym każdy element wejściowy jest sparowany z prawidłową etykietą wyjściową. W systemie filtrującym spam model dostaje na przykład tysiące wiadomości e-mail, z których każda jest oznaczona jako „spam” lub „nie spam”. Dzięki temu algorytm uczy się rozpoznawać cechy charakterystyczne dla obu kategorii i stosuje tę wiedzę do klasyfikacji nowych wiadomości.

Jakie są etapy procesu uczenia nadzorowanego?

Proces uczenia nadzorowanego składa się z kilku następujących po sobie etapów zapewniających skuteczne wytrenowanie i wdrożenie modelu.

1. Gromadzenie i przygotowanie danych: zebranie wysokiej jakości, oznaczonych danych, które będą podstawą treningu. Dane te dzieli się następnie na zbiory treningowe, walidacyjne i testowe.
2. Trening modelu: wybrany algorytm uczy się na zbiorze treningowym, iteracyjnie dostosowując swoje wewnętrzne parametry, aby minimalizować błąd między swoimi przewidywaniami a rzeczywistymi etykietami.
3. Ewaluacja modelu: model jest oceniany na zbiorze walidacyjnym, czyli danych, których nie widział podczas treningu. Pozwala to sprawdzić jego zdolność do generalizacji i uniknąć tzw. przeuczenia (overfitting).
4. Wdrożenie i predykcja: po pomyślnej walidacji gotowy model trafia do środowiska produkcyjnego, gdzie dokonuje predykcji (wnioskowania) dla nowych, rzeczywistych danych.

Do czego służy zbiór treningowy i walidacyjny?

Zbiór treningowy i walidacyjny pełnią dwie odrębne, choć równie ważne funkcje w budowie modelu. Zbiór treningowy służy bezpośrednio do nauki wzorców przez algorytm, natomiast zbiór walidacyjny pozwala obiektywnie ocenić jego skuteczność i dostroić hiperparametry. Prawidłowy podział danych zapobiega sytuacji, w której model doskonale radzi sobie z danymi treningowymi, ale zawodzi przy kontakcie z nowymi informacjami.

Kluczem do sukcesu w uczeniu nadzorowanym jest jakość, nie tylko ilość danych. Zbiór treningowy powinien być zróżnicowany, reprezentatywny dla rzeczywistych problemów i wolny od błędnych etykiet. Zasada „garbage in, garbage out” (śmieci na wejściu, śmieci na wyjściu) sprawdza się tu niezwykle trafnie: model nauczy się dokładnie tego, co dostanie, łącznie z błędami w danych.

Jak ocenia się skuteczność modelu nadzorowanego?

Skuteczność modelu nadzorowanego można zmierzyć obiektywnie, bo do porównania zawsze są dostępne prawdziwe etykiety. To jedna z głównych przewag tego podejścia nad uczeniem nienadzorowanym, gdzie ocena jakości wyniku jest dużo trudniejsza. W praktyce stosuje się inne metryki dla zadań klasyfikacji, a inne dla regresji.

Metryki klasyfikacji: accuracy, precision, recall i F1-score

Podstawową metryką jest accuracy (dokładność), czyli odsetek poprawnych predykcji ze wszystkich przewidywań. Bywa jednak myląca przy niezbalansowanych klasach: jeśli 99% e-maili to nie spam, model zwracający zawsze „nie spam” osiągnie 99% dokładności i mimo to będzie bezużyteczny. Dlatego częściej patrzy się na:

• precision (precyzję): jaki odsetek przykładów oznaczonych przez model jako pozytywne rzeczywiście jest pozytywny,
• recall (czułość): jaki odsetek rzeczywiście pozytywnych przykładów model poprawnie wykrył,
• F1-score: średnią harmoniczną precision i recall, przydatną, gdy zależy nam na równowadze między obiema wartościami.

Pełny rozkład trafień i pomyłek pokazuje macierz pomyłek (confusion matrix), czyli tabela zestawiająca prawdziwie pozytywne, prawdziwie negatywne, fałszywie pozytywne i fałszywie negatywne predykcje. To ona pozwala zobaczyć, w którą stronę model się myli, nie tylko jak często.

Metryki regresji: MAE, RMSE i R²

Przy zadaniach regresji, gdzie wynikiem jest liczba, a nie kategoria, stosuje się inne metryki:

Jakie są główne zalety uczenia nadzorowanego?

Uczenie nadzorowane osiąga wysoką dokładność predykcji i ma jasne, mierzalne cele, bo pracuje na oznaczonych danych, co upraszcza ocenę i optymalizację modelu. Sprawdza się w szerokim spektrum problemów biznesowych.

Dlaczego modele nadzorowane osiągają wysoką dokładność?

Modele nadzorowane osiągają wysoką dokładność, ponieważ proces ich treningu jest bezpośrednio ukierunkowany na minimalizację konkretnego, mierzalnego błędu. Algorytm na bieżąco porównuje swoje prognozy z prawidłowymi etykietami ze zbioru treningowego, co pozwala mu precyzyjnie korygować parametry i uczyć się złożonych zależności prowadzących do poprawnego wyniku.

Jakie problemy rozwiązuje klasyfikacja i regresja?

Klasyfikacja i regresja to dwa podstawowe typy problemów, które rozwiązuje uczenie nadzorowane, różniące się rodzajem przewidywanego wyniku.

• Klasyfikacja: polega na przypisaniu obiektu do jednej z predefiniowanych kategorii. Przykłady to filtrowanie spamu (kategorie: „spam”/„nie spam”), rozpoznawanie obrazów (np. „kot”/„pies”) czy analiza sentymentu (np. „pozytywny”/„negatywny”).
• Regresja: polega na przewidywaniu ciągłej wartości liczbowej. Przykłady to prognozowanie ceny nieruchomości, szacowanie przychodów firmy na kolejny kwartał czy przewidywanie temperatury powietrza.

Jakie popularne algorytmy wykorzystuje ta metoda?

Metoda uczenia nadzorowanego wykorzystuje szeroką gamę algorytmów, a wybór odpowiedniego zależy od specyfiki problemu, rozmiaru zbioru danych i wymaganej dokładności. Poniższa tabela przedstawia porównanie kilku popularnych algorytmów.

Wybierając algorytm, warto zacząć od prostszych modeli, jak regresja logistyczna. Często okazują się wystarczająco skuteczne, a są łatwiejsze w interpretacji i szybsze w treningu niż złożone sieci neuronowe. Bardziej skomplikowane modele wprowadza się dopiero wtedy, gdy prostsze rozwiązania nie dają satysfakcjonujących wyników.

Czym różni się uczenie nadzorowane od częściowo i samonadzorowanego?

Uczenie nadzorowane nie jest jedynym podejściem korzystającym z etykiet, tylko skrajnym punktem na skali, na której przeciwnym końcu stoi w pełni nieoznaczone uczenie nienadzorowane. Między nimi mieszczą się dwa podejścia, które w ostatnich latach zyskały spore znaczenie, głównie za sprawą rozwoju dużych modeli.

Uczenie częściowo nadzorowane (semi-supervised) korzysta z niewielkiej ilości danych oznaczonych i dużo większego zbioru danych nieoznaczonych. Sprawdza się tam, gdzie etykietowanie jest drogie lub wymaga eksperta, na przykład przy opisywaniu obrazów medycznych, a surowych danych jest pod dostatkiem.

Uczenie samonadzorowane (self-supervised) idzie o krok dalej: model sam generuje sobie etykiety z surowych danych, bez udziału człowieka. Klasyczny przykład to przewidywanie zamaskowanego słowa w zdaniu (tak trenuje się BERT) albo kolejnego tokenu w tekście. Formalnie to wciąż wariant uczenia nadzorowanego, bo istnieje konkretna, prawidłowa odpowiedź do porównania, tylko etykiety nie pochodzą od człowieka, lecz są automatycznie wyprowadzone z samej struktury danych.

Jak uczenie nadzorowane napędza trenowanie dużych modeli językowych?

Jednym z największych praktycznych zastosowań uczenia nadzorowanego w ostatnich latach jest trenowanie dużych modeli językowych (LLM). Proces budowy takiego modelu przebiega zwykle w kilku etapach, z których część opiera się bezpośrednio na nadzorze, a część na samonadzorze.

Pretrening samonadzorowany i nadzorowane dostrajanie (SFT)

Model językowy najpierw przechodzi pretrening na ogromnych zbiorach tekstu, ucząc się przewidywać kolejny fragment tekstu na podstawie poprzedniego. To etap samonadzorowany, bo etykiety (kolejne słowa) pochodzą wprost z tekstu, bez ręcznego oznaczania. Dopiero potem następuje nadzorowane dostrajanie (supervised fine-tuning, SFT): model uczy się na starannie przygotowanym zbiorze par instrukcja-odpowiedź, oznaczonym przez ludzi albo inny model, żeby nauczyć się podążać za poleceniami i odpowiadać w oczekiwanym stylu. To już klasyczne uczenie nadzorowane: każdemu promptowi odpowiada konkretna, pożądana odpowiedź, a model minimalizuje różnicę między swoją predykcją a tą odpowiedzią.

Klasycznym przykładem modelu, który po samonadzorowanym pretreningu przechodzi nadzorowane dostrajanie do konkretnych zadań, takich jak klasyfikacja czy analiza sentymentu, jest wspomniany BERT. Po SFT modele konwersacyjne często przechodzą jeszcze dodatkowy etap dostrajania na podstawie ludzkich preferencji, na przykład RLHF (uczenie ze wzmocnieniem z ludzką informacją zwrotną), który dalej koryguje ich zachowanie.

Kiedy najlepiej stosować uczenie nadzorowane?

Uczenie nadzorowane najlepiej stosować w sytuacjach, gdy dostępna jest duża ilość historycznych danych z prawidłowymi etykietami, a cel biznesowy można jednoznacznie sformułować jako problem klasyfikacji lub regresji. To rozwiązanie dobrze sprawdza się w zadaniach, gdzie wymagana jest wysoka precyzja i istnieje możliwość weryfikacji wyników na podstawie znanych odpowiedzi.

Do jakich zadań nadaje się ta metoda uczenia maszynowego?

Uczenie nadzorowane dobrze nadaje się do zadań wymagających precyzyjnego przewidywania na podstawie wzorców historycznych. Do najczęstszych zastosowań należą:

• rozpoznawanie obiektów na obrazach i wideo (np. identyfikacja twarzy, autonomiczne pojazdy),
• analiza i klasyfikacja tekstu (np. analiza sentymentu, kategoryzacja artykułów, filtrowanie spamu),
• prognozowanie finansowe (np. ceny akcji, ryzyko kredytowe, prognozy sprzedaży),
• diagnostyka medyczna (np. wykrywanie chorób na podstawie obrazów medycznych, predykcja ryzyka zachorowania),
• systemy rekomendacyjne (np. rekomendowanie produktów w e-commerce, filmów na platformach streamingowych).

Przykłady zastosowań w biznesie i diagnostyce

W biznesie uczenie nadzorowane wykorzystuje się do prognozowania rezygnacji klientów (churn), co pozwala firmom podejmować działania prewencyjne, oraz do dynamicznego ustalania cen w zależności od popytu. W diagnostyce medycznej algorytmy wytrenowane na oznaczonych obrazach, na przykład z rezonansu magnetycznego, potrafią z wysoką skutecznością wykrywać wczesne stadia nowotworów, wspierając pracę radiologów.

Jakie warunki muszą być spełnione do jego wdrożenia?

Skuteczne wdrożenie uczenia nadzorowanego wymaga spełnienia trzech kluczowych warunków. Po pierwsze, niezbędny jest dostęp do obszernego i wysokiej jakości zbioru danych z poprawnymi etykietami. Po drugie, problem musi być jasno zdefiniowany, żeby dało się wybrać odpowiednie metryki oceny sukcesu. Po trzecie, organizacja musi dysponować odpowiednimi zasobami obliczeniowymi oraz kompetencjami do budowy, treningu i utrzymania modelu.

Źródła

• Supervised learning – Wikipedia (EN) – https://en.wikipedia.org/wiki/Supervised_learning
• Uczenie nadzorowane – Wikipedia (PL) – https://pl.wikipedia.org/wiki/Uczenie_nadzorowane
• Machine Learning Glossary: Fundamentals – Google for Developers – https://developers.google.com/machine-learning/glossary/fundamentals
• Supervised learning – scikit-learn – https://scikit-learn.org/stable/supervised_learning.html
• SFT Trainer – Hugging Face TRL – https://huggingface.co/docs/trl/en/sft_trainer
• Training language models to follow instructions with human feedback – arXiv – https://arxiv.org/abs/2203.02155