Słownik
Metoda eliminacji wstecznej (analiza regresji)
Metoda eliminacji wstecznej (ang. backward elimination) – to technika automatycznego wyboru zmiennych niezależnych do modelu regresji. Procedura rozpoczyna się od modelu zawierającego wszystkie rozważane predyktory, a następnie stopniowo usuwa te, które w najmniejszym stopniu poprawiają model.
Eliminacja wsteczna zaczyna od pełnego modelu, a następnie krok po kroku upraszcza go poprzez usuwanie kolejnych predyktorów. W najprostszej wersji w każdym kroku usuwana jest zmienna o najwyższej wartości p, o ile przekracza ona przyjęty próg istotności statystycznej. Po jej usunięciu model jest estymowany ponownie, ponieważ zmiana zestawu predyktorów może wpłynąć na wartości współczynników regresji i ich istotność. Procedura kończy się po spełnieniu określonego kryterium zatrzymania.Nie zawsze jednak kryterium selekcji musi opierać się wyłącznie na wartości p. W zależności od zastosowanej procedury można wykorzystywać również kryteria dopasowania, takie jak AIC lub BIC. To, które zmienne pozostaną w modelu, zależy od przyjętego kryterium selekcji oraz zależności występujących między predyktorami. Metoda może być użyteczna, gdy początkowy model obejmuje wiele potencjalnych predyktorów i potrzebne jest jego uproszczenie. Nie należy jednak traktować jej jako automatycznego sposobu odnajdywania „najważniejszych” przyczyn zmiennej zależnej. Szczególnym problemem jest współliniowość, ponieważ silnie skorelowane predyktory mogą wzajemnie wpływać na swoje współczynniki i wartości p.
Podobnie jak inne procedury krokowe, eliminacja wsteczna może prowadzić do niestabilnych modeli. Niewielka zmiana próby może spowodować wybór innego zestawu predyktorów, a wielokrotne testowanie zwiększa ryzyko nadmiernego dopasowania i zbyt optymistycznej oceny wyników. Model uzyskany metodą eliminacji wstecznej powinien być traktowany jako wynik procedury selekcji, a nie jako ostateczny dowód znaczenia poszczególnych predyktorów.
