Scomposizione della devianza

La scomposizione della devianza è un'operazione utilizzata in statistica per calcolare, tra le altre cose, il coefficiente di determinazione e la statistica test ANOVA. Data una variabile numerica ${\displaystyle y}$ si chiama devianza la somma degli scarti quadratici dalla media campionaria ${\textstyle \sum _{i}(y_{i}-{\bar {y}})^{2}}$; questa quantità si può scomporre in una parte "spiegata" da una o più variabili ${\displaystyle x}$ e una parte "residua"; la somma di queste due parti è costante e corrisponde alla devianza totale.

Quando si dispone di ${\displaystyle k}$ gruppi distinti di ${\displaystyle n_{j}}$ osservazioni ciascuno di una variabile numerica ${\displaystyle y}$, si può calcolare la devianza complessiva di ${\displaystyle y}$ ignorando la distinzione tra gruppi, e la si può scomporre in due quantità SSW (devianza entro gruppi, in inglese Sum of Squares Within) e SSB (devianza tra gruppi, in inglese Sum of Squares Between):

• la media campionaria di ${\displaystyle y}$ nel j-esimo gruppo si indica come ${\displaystyle {\bar {y}}_{j}}$;
• la devianza di ${\displaystyle y}$ entro il j-esimo gruppo si indica come ${\displaystyle SS_{j}}$;
• la media campionaria generale di ${\displaystyle y}$ si indica come ${\displaystyle {\bar {y}}}$, e la devianza totale di ${\displaystyle y}$ si indica come ${\displaystyle SST}$;
• ${\displaystyle SSW=\sum _{j=1}^{k}SS_{j}}$;
• ${\displaystyle SSB=\sum _{j=1}^{k}n_{j}({\bar {y}}_{j}-{\bar {y}})^{2}}$;
• ${\displaystyle SST=SSW+SSB}$.

La devianza tra gruppi sarà maggiore di quella entro gruppi quando i valori di ${\displaystyle y}$ sono ben distinti tra gruppi diversi, e sarà invece bassa quando le medie locali ${\displaystyle {\bar {y}}_{j}}$ si assomigliano. Nel caso limite in cui esse siano tutte uguali, ${\displaystyle SSB=0}$. Questa scomposizione si può usare per creare il coefficiente ${\displaystyle \eta ^{2}=SSB/SST}$, che indica la proporzione della devianza totale di ${\displaystyle y}$ che nasce dall'eterogeneità dei gruppi sui quali la variabile viene osservata^[1]. In virtù della relazione tra devianza e varianza, introducendo i propri denominatori alle equazioni sopra, si ricava la scomposizione della varianza, la quale ha il vantaggio di ricondurre le quantità empiriche sopra alle proprietà della variabile casuale ${\displaystyle y}$ e permette di condurre i test delle ipotesi che vanno sotto il nome di ANOVA (ANalisys Of VAriance).

Quando si dispone di due variabili numeriche ${\displaystyle y}$ e ${\displaystyle x}$, si può analizzare la relazione tra le due variabili con un modello lineare semplice, in questo modo, per misurare l'associazione tra le due variabili, si può scomporre la devianza totale di ${\displaystyle y}$ (la variabile usata come outcome nel modello lineare) in devianza residua SSR e spiegata SSM (Sum of Squares of Model):

• si indica con ${\displaystyle {\hat {y}}_{i}}$ il valore di ${\displaystyle y_{i}}$ previsto dal modello;
• ${\displaystyle SSR=\sum _{i=1}^{n}(y_{i}-{\hat {y}}_{i})^{2}}$;
• ${\displaystyle SSM=\sum _{i=1}^{n}({\hat {y}}_{i}-{\bar {y}})^{2}}$.

Il rapporto tra SSM e devianza totale di ${\displaystyle y}$ SST dà luogo al coefficiente di determinazione ${\displaystyle R^{2}}$, il quale è anche il quadrato del coefficiente di correlazione di Pearson ${\displaystyle R}$. Come si può notare dalle equazioni, ${\displaystyle R^{2}}$ è tanto maggiore quando i valori di ${\displaystyle y}$ risultano vicini a quelli previsti del modello, mentre diminuisce quando il modello prevede valori molto vicini tra loro nella scala della ${\displaystyle y}$.

Chiaramente, questo metodo è facilmente estendibile a un numero maggiore di variabili ${\displaystyle x}$ utilizzando una regressione multivariata, in tal caso il coefficiente ${\displaystyle R^{2}}$ perde il suo valore di indice di associazione tra variabili e si volge ad indicare la capacità del modello lineare di determinare appunto il valore di ciascuna ${\displaystyle y}$ osservata, o, in altre parole, la capacità del modello di "spiegare" appunto la variabilità di ${\displaystyle y}$; si definisce invece "residua" la devianza (e la rispettiva varianza) di ${\displaystyle y}$ che il modello non riesce a spiegare per mezzo dei predittori ${\displaystyle x}$.

Si può verificare facilmente che nel caso di una sola variabile esplicativa ${\displaystyle x}$ categorica, i gruppi definiti dalle categorie di quella variabile danno luogo alle equazioni ${\displaystyle SSR=SSW}$ e ${\displaystyle SSM=SSB}$, perciò ${\displaystyle \eta ^{2}=R^{2}}$.

Portale Matematica

Portale Statistica