Regresja logistyczna (ang. logistic regression) – to metoda analizy regresji stosowana wtedy, gdy zmienna zależna ma charakter kategorialny. W najczęściej stosowanej binarnej regresji logistycznej zmienna zależna przyjmuje dwie wartości, np. 0 i 1, oznaczające niewystąpienie lub wystąpienie określonego zdarzenia.
Regresja logistyczna należy do rodziny uogólnionych modeli liniowych (GLM). Predyktory mogą być zarówno zmiennymi ilościowymi, jak i kategorialnymi. Zmienne kategorialne są odpowiednio kodowane, np. za pomocą dummy coding, dzięki czemu mogą zostać uwzględnione w modelu. Regresja logistyczna służy do modelowania prawdopodobieństwa wystąpienia określonego zdarzenia na podstawie wartości jednego lub większej liczby predyktorów .
W odróżnieniu od regresji liniowej, w której przewidywana jest wartość ilościowej zmiennej zależnej, regresja logistyczna szacuje prawdopodobieństwo przynależności obserwacji do określonej kategorii. Model wykorzystuje w tym celu logit, czyli logarytm ilorazu szans (log odds), dzięki czemu przewidywane prawdopodobieństwo mieści się w zakresie od 0 do 1.
Wyniki regresji logistycznej można interpretować m.in. za pomocą współczynników regresji oraz ilorazu szans (OR, odds ratio). OR > 1 wskazuje, że wraz ze wzrostem wartości predyktora rosną szanse wystąpienia analizowanego zdarzenia, natomiast OR < 1 wskazuje na ich spadek. W przypadku predyktorów kategorialnych iloraz szans interpretuje się względem przyjętej kategorii referencyjnej. Iloraz szans pozwala określić, jak zmieniają się szanse wystąpienia zdarzenia wraz ze zmianą wartości predyktora lub względem określonej kategorii referencyjnej .
Regresję logistyczną wykorzystuje się nie tylko do wyjaśniania zależności między zmiennymi, ale również do klasyfikacji. Na podstawie oszacowanego prawdopodobieństwa i przyjętego progu decyzyjnego można przypisać obserwację do jednej z dwóch kategorii, a jakość takiej klasyfikacji ocenić m.in. za pomocą krzywej ROC i wskaźnika AUC.
Przykład problematyki badawczej: Grupa analityków biznesowych chce sprawdzić, czy na podstawie cech osobowości z teorii Wielkiej Piątki można przewidzieć prawdopodobieństwo wyboru koloru lodówki: czarnej lub białej. Cechy osobowości stanowią predyktory, natomiast kolor lodówki jest dychotomiczną zmienną zależną. Przykładowy wynik analizy mógłby wskazać, że wraz ze wzrostem ekstrawersji zwiększają się szanse wyboru lodówki w kolorze białym.
Literatura
Field, A. (2018). Discovering statistics using IBM SPSS statistics (Vol. 5). London: sage.
Bruce, P., Bruce, A., Gedeck, P. (2020). Practical statistics for data scientists. Sebastopol: O’Reilly Media, Incorporated.