Statistique à deux variables/Ajustement affine par les moindres carrés

Ajustement par la méthode des moindres carrés

La forme d'un nuage de points invite à retenir pour l'ajuster des modèles de fonctions familières :

soit le modèle affine $y=ax+b$
soit le modèle exponentiel $y=a\times b^{x}$
soit le modèle puissance $y=a\times x^{b}$
...

Pour ajuster une série à un modèle, il faut un critère : dans la méthode des moindres carrés, on retient le critère suivant : la somme des carrés des écarts verticaux entre les valeurs $y_{i}$ observés et celles $f(x_{i})$ données par le modèle doit être minimale :

Sur la figure ci-dessous, cela représente la somme des carrés des longueurs vertes :

Définition

Effectuer un ajustement par la méthode des moindres carrées consiste à trouver une fonction $f$ du modèle retenu qui minimise l’expression :

\sum _{i=1}^{n}[y_{i}-f(x_{i})]^{2}

.

Ajustement affine par la méthode des moindres carrés

Lorsque le nuage est de forme allongée, on peut tenter un ajustement affine en utilisant le théorème suivant :

Théorème

La droite d'ajustement affine par la méthode des moindres carrés a pour coefficient directeur :

a={\frac {\sum _{i=1}^{n}(x_{i}-{\bar {x}})(y_{i}-{\bar {y}})}{\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}}}

et passe par le point moyen $G({\bar {x}};{\bar {y}})$ du nuage.

Autrement dit, une équation de la droite est :

y=a(x-{\bar {x}})+{\bar {y}}

.

Remarque 1 : on appelle parfois cette droite droite de régression de y en x.

Remarque 2 : une démonstration de ce théorème est donnée dans la leçon Trace et transposée de matrice.

Interpolation et extrapolation

Pour une valeur $x_{0}$ de la variable $X$ , la connaissance de $f$ permet de prévoir approximativement la valeur correspondante de $Y$ . Pour cela, on calcule $f(x_{0})$ .

Si $x_{0}$ appartient à l'intervalle d'observation des valeurs de $X$ , on dit qu'on fait une interpolation.
Si $x_{0}$ est à l'extérieur de l'intervalle d'observation, on parle d'extrapolation.

Cela suppose de faire l'hypothèse que le modèle reste plausible à l'extérieur de l'intervalle.

Cet article est issu de Wikiversity. Le texte est sous licence Creative Commons - Attribution - Partage dans les Mêmes. Des conditions supplémentaires peuvent s'appliquer aux fichiers multimédias.