Statistiques avancées 201-337 • Complément québécois et cégep à Montréal
Fiche de révision : corrélation et régression linéaire (201-337)
La régression est le chapitre où la calculatrice donne toujours une réponse, y compris quand la question n'a pas de sens. Elle ajuste une droite à un nuage courbé, elle calcule un coefficient sur onze points dont un seul décide de tout, et elle ne signale rien.
Cette fiche rassemble ce que la machine ne fait pas : regarder le nuage avant, lire les résidus après, refuser d'extrapoler, et distinguer une association d'une cause. Ce sont exactement les questions notées à l'examen.
Marque ici la fiche comme lue ou mets-la en favori : un compte gratuit, sans mot de passe, retient tes fiches lues et tes favoris d'une visite à l'autre, te dit quel chapitre attaquer ensuite et te permet de demander la méthode ou l'exercice qui te manque. Crée ton espace, un courriel suffit.
Le fil du chapitre
Un coefficient de corrélation ne se lit jamais seul : il faut le nuage AVANT de le calculer, les résidus APRÈS l'avoir calculé, et la question de la causalité reste entière dans tous les cas.
•On regarde toujours la FORME du nuage avant de calculer : linéarité, courbure, valeurs isolées, dispersion constante ou non.
•Un coefficient calculé sur un nuage non linéaire n'a aucune signification, même s'il est élevé.
•Deux nuages de formes complètement différentes peuvent donner exactement le même r et la même droite.
Deux nuages de même coefficient r=0,82 et de même droite : à gauche la relation est linéaire, à droite elle est nettement courbée et le modèle ne convient pas.
Cette règle est la seule du chapitre qui ne se contourne pas : la calculatrice renvoie un nombre dans tous les cas, y compris là où la régression linéaire est hors de propos.
•r=SxxSyySxy, toujours entre −1 et 1 : le SIGNE donne le sens, la VALEUR ABSOLUE la force.
•Droite des moindres carrés y=a+bx : b=SxxSxy puis a=y−bx.
•Elle passe TOUJOURS par le point moyen (x;y), ce qui donne un contrôle gratuit.
Les traits orange sont les écarts VERTICAUX yi−yi^ que les moindres carrés rendent minimaux ; la droite passe par le point moyen (3,5;5,5) (vert).
« Moindres carrés » désigne la somme des carrés des écarts VERTICAUX. C'est pour cela que la droite de y sur x n'est pas celle de x sur y : les écarts minimisés ne sont pas les mêmes.
r, r au carré, et ce que chacun mesure
•r2 est la proportion de la variation de y expliquée par la relation linéaire avec x, exprimée en pourcentage.
•r=0,80 donne r2=0,64 : 64% de la variation expliquée, pas 80%.
•Résidus ei=yi−yi^ : leur somme est nulle par construction, donc elle ne prouve rien. C'est leur GRAPHIQUE qui informe.
•Erreur type de l'estimation : se=n−2∑ei2, avec ∑ei2=Syy(1−r2).
Le signe de r donne le sens, sa valeur absolue la force ; r2 dit la part de la variation de y expliquée. Un nuage sans pente donne r proche de 0.
La significativité de r se teste par t=1−r2rn−2 à n−2 degrés de liberté. Un même r=0,50 n'est pas significatif sur 10 individus et l'est sur 30.
Les quatre explications d'une corrélation
•x cause y ; ou y cause x ; ou une troisième variable CONFONDANTE cause les deux ; ou c'est le hasard sur un petit échantillon.
•Aucune de ces quatre n'est écartée par le calcul : seule une expérience avec répartition au hasard permet de conclure à une cause.
•EXTRAPOLER, c'est-à-dire prédire hors de l'intervalle des x observés, n'est jamais justifié par le modèle.
Une même corrélation entre x et y admet quatre lectures ; le calcul ne les départage pas, seule une expérience avec répartition au hasard le peut.
La question de causalité vaut souvent autant de points que toute la régression. Nommer une variable confondante plausible et concrète rapporte davantage qu'une phrase générale sur la prudence.
Les pièges qui coûtent des points
Les erreurs ci-dessous sont celles que je corrige le plus souvent en séance. Chacune coûte des points sur une copie, même quand le raisonnement est juste.
1.Calculer un coefficient sans avoir regardé le nuage
3 points, toute la question repose sur ce diagnostic
Ce qu'il ne faut pas écrire
« r=0,82, donc la relation entre les deux variables est forte et linéaire. »
Ce qu'il faut écrire
« Le nuage est nettement courbé : le coefficient 0,82 ne décrit pas la relation, il faut linéariser ou changer de modèle. »
Sept points exactement sur y=x2 : la liaison est totale, et pourtant r=0. Le coefficient mesure l'ALIGNEMENT, pas l'existence d'une relation.
Pourquoi : Le coefficient mesure l'alignement, pas l'existence d'une relation. Une parabole parfaite peut donner r nul alors que la liaison est totale.
2.Lire r comme un pourcentage
1,5 point, à chaque interprétation demandée
Ce qu'il ne faut pas écrire
« r=0,80, donc 80% de la variation de y est expliquée par x. »
Ce qu'il faut écrire
« C'est r2=0,64 qui s'interprète en pourcentage : 64% de la variation de y est expliquée. »
Avec r=0,80, la part expliquée est r2=0,64 : la bande bleue s'arrête à 64%, pas au trait rouge des 80%.
Pourquoi : Seul le carré du coefficient a une lecture en proportion de variance. L'écart est d'autant plus grand que r est moyen : 0,5 n'explique que 25%.
3.Prédire hors de la plage observée
1,5 point, et c'est souvent la dernière question du problème
Ce qu'il ne faut pas écrire
« La droite donne y^=2x, donc pour x=50 on prévoit 100. »
Ce qu'il faut écrire
« Les x observés vont de 1 à 6 : au-delà, le modèle n'a rien à dire, et la prédiction n'est pas justifiée. »
La droite y^=2x décrit la plage observée [1;6] (vert) ; prolongée en rouge, elle ne s'appuie sur aucune donnée.
Pourquoi : Rien ne garantit que la relation se prolonge : les droites d'ajustement décrivent un domaine, elles ne prédisent pas le monde. Une croissance linéaire finit toujours par buter sur une limite physique.
4.Tirer une cause d'une corrélation
2 points, et c'est la question la mieux notée du chapitre
Ce qu'il ne faut pas écrire
« Les ventes de crème glacée et les noyades sont corrélées, donc la crème glacée favorise les noyades. »
Ce qu'il faut écrire
« Une troisième variable, la température, explique les deux : c'est une variable confondante, et la corrélation n'établit aucune cause. »
La température fait monter les deux (flèches vertes) ; entre la crème glacée et les noyades il n'y a qu'une corrélation (rouge), aucune flèche.
Pourquoi : Quatre explications restent possibles après le calcul, et la régression ne les départage pas. Seule une expérience avec répartition au hasard le pourrait.
5.Supprimer le point qui dérange
2 points de méthode, et la copie perd toute crédibilité
Ce qu'il ne faut pas écrire
« Ce point fait chuter r2 de 0,99 à 0,65 : je le retire et je recalcule. »
Ce qu'il faut écrire
« J'enquête sur son origine, puis je publie l'analyse AVEC et SANS ce point, en signalant l'écart. »
Les huit points alignés donnent une pente proche de 1 ; le seul point éloigné en x la fait chuter de moitié, sans que le nuage central ait changé.
Pourquoi : Un point éloigné en x, dit de levier, peut diviser la pente par deux en laissant r élevé. Il peut être une erreur de saisie comme l'observation la plus informative du jeu de données.
6.Échanger les rôles de x et de y
1,5 point, et une prédiction fausse dans le sens inverse
Ce qu'il ne faut pas écrire
« La droite de y sur x est y=2x, donc celle de x sur y est x=2y. »
Ce qu'il faut écrire
« Ce sont deux régressions différentes : la première minimise les écarts verticaux, la seconde les écarts horizontaux, et leurs pentes ne sont inverses que si r2=1. »
La droite de y sur x (bleu) minimise les écarts verticaux, celle de x sur y (orange) les écarts horizontaux : deux droites distinctes, sécantes au point moyen.
Pourquoi : La variable expliquée est celle dont on minimise les écarts. Choisir laquelle est en x n'est donc pas une convention d'écriture, c'est une décision de modèle.
7.Se fier au coefficient sans regarder les résidus
2 points, et le modèle proposé est le mauvais
Ce qu'il ne faut pas écrire
« r2=0,92, donc le modèle linéaire est bon. »
Ce qu'il faut écrire
« Le graphique des résidus dessine une courbe nette : la relation n'est pas linéaire, malgré un r2 élevé. »
Les résidus dessinent une parabole au lieu d'un nuage sans forme : le modèle linéaire rate systématiquement les extrémités et le centre, en sens contraires.
Pourquoi : Un nuage de résidus doit être sans structure. Une courbure signale une relation non linéaire, un entonnoir une dispersion qui change avec x : deux défauts qu'aucun coefficient ne révèle.
8.Oublier que la droite passe par le point moyen
2 points quand l'erreur passe, zéro quand le contrôle est fait
Ce qu'il ne faut pas écrire
« b=2 et a=1,5, je passe à la question suivante. »
Ce qu'il faut écrire
« Contrôle : y^(x)=a+bx doit valoir y. Ici 1,5+2×3,5=8,5=7, donc a est faux. »
La bonne droite y^=2x passe par (3,5;7) ; avec a=1,5, elle passe à 8,5 au-dessus du point moyen (rouge) : l'erreur se voit en une ligne.
Pourquoi : L'ordonnée à l'origine se déduit du point moyen : le contrôle est donc exactement l'opération inverse de son calcul, et il attrape toutes les erreurs de signe.
9.Confondre la force d'une relation et la solidité de la preuve
2 points sur la question de test
Ce qu'il ne faut pas écrire
« r=0,50 sur 10 individus : la relation est significative, elle est moyenne. »
Ce qu'il faut écrire
« Sur 10 individus, t=0,750,508≈1,63 : non significatif. Sur 30, le même r le devient. »
Pourquoi : La significativité dépend de n autant que de r. Elle dit si la relation est établie, jamais si elle est forte, et encore moins si elle est utile.
Quelle méthode choisir
Que faire selon l'allure du nuage
On décrit le nuage en une phrase avant de toucher à la calculatrice.
Les nuages entre lesquels l'arbre décide : alignement, croissance qui s'accélère (exponentiel), courbe qui s'infléchit (puissance), point isolé loin en x (rouge).
Si les points s'alignent sans structure résiduelle → régression linéaire ordinaire, puis r, r2 et les résidus
Exemple : y^=2x avec r2=0,95
Si la croissance s'accélère et les écarts grandissent avec y → modèle exponentiel y=aebx : régresser lny sur x, en semi-logarithmique
Exemple : population, capital placé, décroissance radioactive
Si la relation semble une puissance, sans échelle privilégiée → modèle y=axb : régresser lny sur lnx, la pente donnant directement l'exposant
Exemple : loi d'échelle entre masse et métabolisme
Si un point est isolé, très éloigné en x → recalculer avec et sans, comparer les deux pentes, enquêter sur son origine
Exemple : une pente qui passe de 1,0 à 0,5
Si les points forment plusieurs groupes distincts → ne pas régresser sur l'ensemble : la droite globale ne décrit aucun des groupes
Exemple : deux ateliers réglés différemment
Toutes les linéarisations transforment y, donc le r2 obtenu porte sur les données TRANSFORMÉES. Comparer un r2 semi-log à un r2 brut n'a pas de sens.
Lire un graphique des résidus
On trace les résidus contre x et on regarde s'il reste une forme.
Résidus contre x : le premier n'a aucune forme et valide le modèle ; une courbe, un entonnoir ou un résidu isolé (rouge) signalent un défaut.
Si nuage sans structure, dispersé également de part et d'autre de zéro → le modèle linéaire convient, on peut interpréter r2
Exemple : des résidus dispersés au hasard de part et d'autre de zéro
Si les résidus dessinent une courbe → la relation n'est pas linéaire : linéariser ou changer de modèle
Exemple : résidus négatifs au centre, positifs aux extrémités
Si les résidus s'ouvrent en entonnoir quand x grandit → la dispersion n'est pas constante : les intervalles de prédiction ne valent plus
Exemple : des revenus dont l'écart croît avec le niveau
Si un résidu écrase tous les autres → valeur aberrante : enquêter, puis publier avec et sans
Exemple : un résidu de 8 quand les autres tiennent dans ±1
La somme des résidus est nulle par construction : l'annoncer comme preuve de qualité du modèle est une erreur classique, elle ne prouve que l'exactitude du calcul de a.
La rédaction attendue
Le correcteur coche des étapes. Les voici dans l'ordre, avec la phrase de conclusion qu'il attend mot pour mot.
Rédiger une régression complète
Quand l'utiliser : L'énoncé donne un tableau de couples et demande la droite, le coefficient et une prédiction.
1Décrire le nuage en une phrase : forme, sens, présence ou non de points isolés.
2Écrire les trois sommes de travail Sxy, Sxx, Syy avec leurs valeurs numériques.
3Calculer b, puis a à partir du point moyen, et écrire l'équation avec les unités du contexte.
4Donner r, puis r2 en pourcentage, en précisant que c'est le carré qui s'interprète.
5Prédire seulement à l'intérieur de la plage observée, et écrire cette réserve.
Phrase de conclusion
« b=17,535=2 et a=7−2×3,5=0, donc y^=2x ; r=0,97 et r2=0,95 : 95% de la variation de y est expliquée par la relation linéaire. »
Le piège : Donner la prédiction avant d'avoir vérifié que le x demandé est dans la plage observée.
Barème : 1 point la description du nuage, 2 points les sommes, 1 point l'équation, 1 point l'interprétation de r2, 1 point la réserve sur la prédiction.
Rédiger une conclusion sur la causalité
Quand l'utiliser : L'énoncé demande si une variable « cause » l'autre, ou de commenter une affirmation de journal.
1Rappeler ce que le calcul établit : une association linéaire, avec sa force.
2Énumérer les explications concurrentes, en NOMMANT une variable confondante plausible du contexte.
3Dire ce qu'il faudrait pour conclure à une cause : une expérience avec répartition au hasard.
4Conclure sans nier la relation ni la transformer en cause.
Phrase de conclusion
« Les données établissent une association forte, mais la température peut expliquer à la fois les ventes et les noyades : seule une expérience contrôlée permettrait de conclure à un lien de cause à effet. »
Le piège : Écrire « corrélation n'est pas causalité » sans nommer de variable confondante : la phrase générale ne rapporte pas le point.
Barème : 1 point l'association, 1 point la variable confondante nommée, 1 point la condition d'une conclusion causale.
Vérifier avant de rendre
Cinq minutes de vérification récupèrent plus de points qu'un exercice de plus commencé à la hâte.
La droite passe par le point moyen
Remplacer x par x dans l'équation trouvée : on doit obtenir exactement y.
y^(3,5)=2×3,5=7=y : l'ordonnée à l'origine est correcte.
Le signe de r et celui de la pente
Les deux ont toujours le même signe. Un r positif avec une pente négative signale une erreur de Sxy.
r=0,97 et b=2 : cohérent.
La somme des résidus est nulle
Additionner les yi−yi^ : le total doit être zéro aux arrondis près. Cela valide le calcul, jamais le modèle.
0−1+1+1−1+0=0 : les valeurs prédites sont bien calculées.
r reste entre moins un et un
Toute valeur hors de cet intervalle vient d'une erreur dans Sxx ou Syy, en général un carré oublié.
Un r annoncé à 1,4 : la racine du dénominateur a été omise.
L'exercice type décortiqué
Une régression complète, du nuage à la prédiction
On relève six couples : (1;2), (2;3), (3;7), (4;9), (5;9) et (6;12).
Établir la droite des moindres carrés, interpréter le coefficient de détermination et prédire la valeur pour x=4,5.
Les six couples de l'énoncé : le nuage est franchement linéaire et croissant, sans point isolé, ce qui autorise la régression linéaire.
Étape 1
∑x=21, ∑y=42, ∑xy=182, ∑x2=91, ∑y2=368, donc x=3,5 et y=7.
Pourquoi
Les cinq sommes se calculent une fois pour toutes : tout le reste en découle, et une erreur ici se propage partout. Les recopier au propre vaut le point de méthode.
Ces trois quantités sont des variations, donc toujours positives pour Sxx et Syy. Un Sxx négatif signale une somme de carrés mal calculée.
Étape 3
b=17,535=2 puis a=7−2×3,5=0, donc y^=2x.
Pourquoi
L'ordonnée à l'origine se déduit du point moyen : c'est ce qui garantit que la droite y passe, et c'est le contrôle à faire aussitôt.
Étape 4
r=17,5×7435≈0,973, donc r2≈0,946.
Pourquoi
On donne les deux, mais on n'interprète que le carré : 94,6% de la variation de y est expliquée par la relation linéaire avec x.
Étape 5
Résidus : 0,−1,1,1,−1,0. Somme nulle, ∑e2=4, et se=6−24=1.
Pourquoi
Les résidus ne montrent aucune structure et restent dans ±1 : le modèle linéaire tient, ce qu'aucun coefficient seul ne permettait d'affirmer.
Étape 6
Prédiction : y^(4,5)=9, valeur intérieure à la plage [1;6] des x observés.
Pourquoi
La réserve sur la plage doit être écrite AVANT le nombre. Pour x=50, la même droite ne dirait rien de fiable, et la phrase est attendue par le correcteur.
Étape 7
Contrôle : Syy(1−r2)=74×0,054=4=∑e2.
Pourquoi
Cette identité relie le coefficient et les résidus : les deux voies de calcul se valident l'une l'autre en dix secondes.
Conclusion rédigée
« La droite des moindres carrés est y^=2x, avec r=0,97 et r2=0,95 : 95% de la variation de y s'explique par la relation linéaire avec x. Pour x=4,5, valeur située dans la plage observée, on prédit y^=9. »
L'erreur classique sur cet exercice : Annoncer que 97% de la variation est expliquée : c'est r et non r2 qui vaut 0,97.
À savoir par cœur
•On REGARDE le nuage avant de calculer : un r sur un nuage courbé ne veut rien dire.
•b=SxxSxy, puis a=y−bx : la droite passe TOUJOURS par le point moyen.
•r donne le sens et la force ; seul r2 se lit en pourcentage de variation expliquée.
•Les moindres carrés minimisent les écarts VERTICAUX : la droite de y sur x n'est pas celle de x sur y.
•La somme des résidus est nulle par construction : c'est leur GRAPHIQUE qui juge le modèle.
•Un point de levier peut diviser la pente par deux en laissant r élevé. On enquête, on ne supprime pas.
•Exponentiel : lny contre x. Puissance : lny contre lnx, la pente donnant l'exposant.
•Corrélation n'est pas causalité : nommer la variable confondante, sinon la phrase ne rapporte rien.
Questions fréquentes
Quelle différence entre r et r au carré ?
Le coefficient de corrélation donne le sens de la relation par son signe et sa force par sa valeur absolue, entre moins un et un. Son carré, le coefficient de détermination, se lit en pourcentage : c'est la part de la variation de la variable expliquée par la relation linéaire. Un coefficient de zéro virgule huit correspond ainsi à soixante-quatre pour cent, pas à quatre-vingts.
Pourquoi faut-il regarder le nuage avant de calculer ?
Parce que le coefficient mesure l'alignement et rien d'autre. Une relation parfaitement déterministe mais courbe peut donner un coefficient faible, et deux nuages de formes très différentes peuvent donner exactement le même. La calculatrice renvoie toujours un nombre, y compris là où la droite n'a aucun sens.
Peut-on supprimer un point aberrant ?
Non, pas sans enquête. Un point éloigné peut être une erreur de saisie, mais aussi l'observation la plus informative du jeu de données. La démarche attendue est d'en chercher l'origine, puis de présenter l'analyse avec et sans ce point en signalant l'écart, plutôt que de le faire disparaître.
Que montre le graphique des résidus ?
Ce que le coefficient cache. Un nuage de résidus sans forme valide le modèle linéaire. Une courbure signale que la relation n'est pas une droite. Un élargissement en entonnoir signale une dispersion qui augmente avec la variable explicative, ce qui invalide les intervalles de prédiction même si l'ajustement paraît bon.
Une corrélation forte prouve-t-elle une cause ?
Jamais. Quatre explications restent possibles : la première variable cause la seconde, la seconde cause la première, une troisième variable cause les deux, ou le hasard sur un petit échantillon. Seule une expérience où l'on répartit les individus au hasard entre les conditions permet de conclure à un lien de cause à effet.
Passer à la pratique
Exercices corrigés : Corrélation et régression linéaire
Une méthode se prouve sur une copie, pas sur une fiche. La série du même chapitre reprend chacun de ces pièges dans un exercice, avec le corrigé rédigé étape par étape.
Il manque quelque chose dans cette fiche ?Une méthode, un piège, un exercice pour l'appliquer, une erreur repérée : dis-le-moi, je lis chaque demande.
L'envoi passe par ton espace gratuit : c'est ce qui me permet de te répondre et de te prévenir quand l'exercice est ajouté. Un courriel suffit, pas de mot de passe. Crée ton espace.
Pas envie de créer un compte ? Écris-moi directement.
Vous cherchez un tuteur en statistiques 201-337 à Montréal ?
Contactez-moi pour une première séance. La régression est le chapitre le plus utile du cours pour la suite des études : on y travaille autant le calcul que l'interprétation.