Zrozumienie i tworzenie cech dla maszynowego uczenia się

Co to są cechy?

W podstawie, cecha to pojedyncza mierzalna właściwość lub cecha obserwowanego zjawiska. W kontekście uczenia maszynowego, mogą one być rzeczami takimi jak wiek klienta, cena produktu lub liczba kliknięć na stronie internetowej.

Cechy powinny reprezentować ideale podstawowe wzory w danych, które są relevanckie dla zadania prognozy. Zlej wybrana cecha może zmylić model i prowadzić do nieprawidłowych wyników.

Proces inżynierii cech

Inżynieria cech obejmuje kilka kroków: 1) zrozumienie danych, 2) wybranie relevantnych cech, 3) przekształcenie istniejących cech (skalowanie, normalizacja), oraz 4) tworzenie nowych cech na podstawie kombinacji istniejących.

Eksperţa dziedziny jest kluczowa tutaj. Znawstwo w tym, które aspekty problemu są ważne, może znacząco wpłynąć na proces tworzenia cech.

Feature Engineering = Data Transformation + Feature Combination

Techniki tworzenia cech

Zwykle używane techniki obejmują funkcje wielomianowe (np. kwadrat lub sześcian zmiennej), wyrazy interakcyjne (mnożenie dwóch zmiennych) oraz upackowywanie zmiennych ciągłych do dyskretnych kategorii.

Techniki redukcji wymiarowości, takie jak Analiza Skompensowanych Współczynników Glownych (PCA), pozwalają na utworzenie mniejszej liczby niezaleznych cech, zachowując jednocześnie większość wariancji danych.

Interaction Term = Feature_A * Feature_B

Wybór cech

Nie wszystkie cechy są równie użyteczne. Wybór cech ma na celu zidentyfikowanie i zachowanie tylko najbardziej istotnych cech, zmniejszając szum i poprawiając efektywność modelu.

Metody obejmują filtry (oparte na miarach statystycznych, takich jak korelacja), opaski (ocenianie podzbiorów cech przy użyciu konkretnego algorytmu uczenia maszynowego) oraz wbudowane metody (wybór cech w integrowanej procesie treningu modelu).

Często zadawane pytania