Variance résiduelle
La variance résiduelle désigne, dans une régression, la partie de la variance de la variable dépendante qui n’est pas expliquée par le modèle. Elle mesure la dispersion des valeurs observées autour des valeurs calculées par la régression : plus elle est faible, plus le modèle décrit fidèlement les données.
Définition et calcul
Dans une régression, on dispose de n observations de la variable à expliquer, notées yi, et des valeurs que le modèle prédit pour chacune, notées ŷi. L’écart entre les deux, ei = yi − ŷi, s’appelle le résidu. Il représente ce que le modèle ne parvient pas à reproduire.
La variance résiduelle se calcule comme la moyenne des carrés de ces résidus :
Variance résiduelle = (1/n) × Σ (yi − ŷi)²
Le numérateur, Σ (yi − ŷi)², porte le nom de somme des carrés des résidus (SCR). C’est précisément la quantité que la méthode des moindres carrés rend la plus petite possible lorsqu’elle choisit les coefficients de la régression.
La décomposition de la variance
Dans une régression linéaire par les moindres carrés comportant une constante, la variation totale de la variable dépendante se partage exactement en deux :
- la somme des carrés totale (SCT), écarts des observations à leur moyenne ;
- la somme des carrés expliquée (SCE), écarts des valeurs calculées à cette même moyenne ;
- la somme des carrés résiduelle (SCR), écarts des observations aux valeurs calculées.
On a alors SCT = SCE + SCR. En divisant par n, la variance totale est la somme de la variance expliquée et de la variance résiduelle. Ces deux notions sont donc les deux faces d’une même mesure.
L’estimateur sans biais et l’écart-type résiduel
Lorsque l’on veut estimer la variance du terme d’erreur du modèle, et non seulement décrire l’échantillon, on divise la SCR non par n mais par le nombre de degrés de liberté, soit n − p − 1 lorsque le modèle comporte p variables explicatives et une constante. On obtient un estimateur sans biais, souvent noté s².
Sa racine carrée, l’écart-type résiduel (ou erreur standard de la régression), s’exprime dans l’unité de la variable étudiée. Elle sert à construire les intervalles de confiance des prévisions et à tester la significativité des coefficients.
Interpréter la variance résiduelle
Rapportée à la variance totale, la variance résiduelle donne directement le coefficient de détermination : R² = 1 − SCR / SCT. Un R² proche de 1 signifie que la variance résiduelle est faible par rapport à la variation totale.
Une variance résiduelle élevée peut avoir plusieurs causes : une variable explicative importante a été omise, la relation n’est pas linéaire, ou le phénomène comporte une part de hasard irréductible. L’examen graphique des résidus est le complément indispensable du chiffre : des résidus qui dessinent une courbe, ou dont la dispersion augmente avec la valeur prédite, signalent un modèle mal adapté.
En gestion, on rencontre cette notion dans les prévisions de ventes ou dans l’analyse des coûts, par exemple lorsqu’une régression statistique sert à séparer la part fixe et la part variable d’une charge.
vous devez être connecter pour déposer un commentaire connecter