Méthodes quantitatives avancées 360-301 • Sciences humaines au cégep à Montréal
Fiche de révision : comparer deux groupes, test t et taille d'effet
Cette fiche traite le test le plus employé du cours de méthodes quantitatives avancées, et celui dont les conclusions sont le plus souvent surinterprétées. Elle ne redonne pas les formules, elle donne les huit endroits où un calcul juste débouche sur une phrase fausse, et la phrase exacte qui répare chacun.
Elle s'adresse aux étudiants de Sciences humaines du cégep qui suivent le cours 360-301, méthodes quantitatives avancées. La série d'exercices corrigés du même chapitre reprend chaque geste, du choix du test jusqu'à la lecture d'une section de résultats publiée.
Marque ici la fiche comme lue ou mets-la en favori : un compte gratuit, sans mot de passe, retient tes fiches lues et tes favoris d'une visite à l'autre, te dit quel chapitre attaquer ensuite et te permet de demander la méthode ou l'exercice qui te manque. Crée ton espace, un courriel suffit.
Le fil du chapitre
Un test t répond à une seule question : cet écart serait-il crédible s'il n'y avait aucun effet ? Il ne dit ni combien l'écart est grand ni s'il compte, et c'est la taille d'effet qui répond à cela, sans dépendre de l'effectif.
•Erreur de PREMIÈRE espèce α : rejeter H0 alors qu'elle est vraie. C'est le seuil, fixé d'avance, presque toujours 0,05.
•Erreur de DEUXIÈME espèce β : ne pas détecter un effet qui existe. La PUISSANCE vaut 1−β, et on la vise à 0,80.
•La valeur p est la probabilité d'observer un écart au moins aussi grand SI H0 est vraie. Ce n'est jamais la probabilité que H0 soit vraie.
•Un intervalle de confiance à 95 % de la différence contient zéro SI ET SEULEMENT SI le test bilatéral à 5 % ne rejette pas.
La colonne de droite est celle où un effet existe : l'erreur de type II y est le fait de le manquer, et la puissance le fait de le trouver.
Les deux risques se déplacent en sens inverse : baisser α à 0,01 protège des faux positifs et fait manquer davantage d'effets réels.
Les deux risques sur un dessin
•Sous H0, la statistique suit une courbe centrée en 0 ; s'il existe un effet, elle suit une courbe décalée.
•α est l'aire de la courbe de H0 au-delà du seuil ; β est l'aire de la courbe décalée en deçà du seuil ; la puissance 1−β est ce qui reste au-delà.
•Reculer le seuil réduit α et grossit β. Seul un effectif plus grand, qui écarte les deux courbes, réduit les deux risques à la fois.
En bleu foncé, α sous H0 ; en orange, β, l'effet manqué ; en vert, la puissance. Les trois aires se lisent de part et d'autre du même seuil.
Trois tests t, trois dénominateurs
•INDÉPENDANTS, variances comparables : sp2=n1+n2−2(n1−1)s12+(n2−1)s22, puis ET=spn11+n21, ddl=n1+n2−2.
•INDÉPENDANTS, variances très inégales, correction de WELCH : ET=n1s12+n2s22, avec des degrés de liberté réduits. C'est le choix par défaut aujourd'hui.
•APPARIÉS : on travaille sur les n DIFFÉRENCES individuelles, t=sd/nd, ddl=n−1.
•Quand les deux effectifs sont égaux, la formule combinée et celle de Welch donnent exactement la même erreur type.
L'appariement élimine la variabilité entre individus et coûte des degrés de liberté : il gagne dès que les deux mesures sont corrélées, ce qui est presque toujours le cas d'un avant-après.
Ce que le test ne dit pas, et qui le dit
•d de Cohen =spx1−x2 : 0,2 petit, 0,5 moyen, 0,8 grand. Il ne dépend PAS de l'effectif.
•L'INTERVALLE de confiance de la différence donne la fourchette dans l'unité de départ : c'est ce qui intéresse le lecteur, bien plus que p.
•Effectif pour une puissance de 80 % : n≈d22(1,96+0,84)2 par groupe, soit environ d215,7.
•Diviser d par deux QUADRUPLE l'effectif requis : c'est pourquoi les petits effets demandent de très grandes études.
Deux courbes décalées de d écarts-types : à d=0,2 elles se confondent presque, à d=0,8 elles se séparent nettement. L'effectif n'y change rien.
Une conclusion complète cite trois choses : la décision du test, la taille d'effet, et l'intervalle de confiance dans l'unité de l'énoncé.
Les pièges qui coûtent des points
Les erreurs ci-dessous sont celles que je corrige le plus souvent en séance. Chacune coûte des points sur une copie, même quand le raisonnement est juste.
1.Lire la valeur p comme la probabilité que l'hypothèse nulle soit vraie
1,5 point, retiré à chaque conclusion mal formulée
Ce qu'il ne faut pas écrire
« p=0,03 : il n'y a que 3 % de chances qu'il n'y ait aucune différence. »
Ce qu'il faut écrire
« p=0,03 : SI les deux groupes étaient identiques, on observerait un écart au moins aussi grand dans 3 % des échantillons. »
La valeur p est l'aire en bleu, sous la courbe tracée EN SUPPOSANT H0 vraie, au-delà du t observé : une probabilité sur les données, pas sur H0.
Pourquoi : La valeur p est une probabilité calculée SOUS H0, donc en supposant H0 vraie. Elle ne peut pas, dans la même phrase, mesurer la probabilité de cette supposition.
2.Traiter des mesures appariées comme deux groupes indépendants
2 points, et le test perd presque toute sa puissance
Ce qu'il ne faut pas écrire
« J'ai les notes avant et après pour les mêmes 25 étudiants : je compare les deux moyennes avec un test t indépendant, ddl=48. »
Ce qu'il faut écrire
« Ce sont les MÊMES personnes : je travaille sur les 25 différences individuelles, t=sd/25d avec ddl=24. »
Chaque trait relie les deux notes d'un même étudiant : presque tous montent. Le test apparié travaille sur ces pentes, l'indépendant les ignore.
Pourquoi : Le test indépendant met la variabilité entre individus au dénominateur, alors que l'appariement l'élimine. Sur des mesures corrélées, il faut souvent trois fois plus de monde pour détecter le même effet.
3.Combiner les variances alors qu'elles sont très différentes
1,5 point, et un risque de première espèce faussé
Ce qu'il ne faut pas écrire
« s1=4 et s2=16 : je calcule quand même la variance combinée. »
Ce qu'il faut écrire
« Le rapport des variances vaut 16, bien au-delà de ce que l'hypothèse d'homogénéité tolère : j'applique la correction de WELCH, qui n'exige pas cette hypothèse. »
Écarts-types 4 et 16 : les variances sont dans un rapport de 16. Les combiner prêterait au groupe serré la dispersion du groupe étalé.
Pourquoi : La variance combinée est une moyenne pondérée : elle prête au petit groupe la dispersion du grand. Quand les effectifs sont aussi inégaux que les variances, le seuil réel n'est plus 5 %.
4.Conclure à l'absence de différence quand on ne rejette pas
2 points, et la conclusion est retournée
Ce qu'il ne faut pas écrire
« p=0,31 : les deux méthodes d'enseignement donnent les mêmes résultats. »
Ce qu'il faut écrire
« On ne rejette pas H0 : les données ne permettent pas de conclure à une différence. Avec n=12 par groupe, l'étude n'avait la puissance de détecter qu'un effet très grand. »
L'intervalle orange contient 0, donc on ne rejette pas ; mais il contient aussi de grands écarts : les données ne tranchent pas, elles ne prouvent pas l'absence.
Pourquoi : Ne pas trouver et montrer qu'il n'y a rien sont deux choses différentes. Démontrer une équivalence demande un devis d'équivalence et une borne fixée d'avance.
5.Prendre une petite valeur p pour un effet important
2 points, et c'est la faute la plus fréquente du cours
Ce qu'il ne faut pas écrire
« p<0,001 : l'atelier a un effet considérable sur les résultats. »
Ce qu'il faut écrire
« L'effet est très peu compatible avec le hasard. Son ampleur se lit sur d=0,20, soit un petit effet, obtenu ici grâce à mille participants par groupe. »
Les trois lignes sont classées par taille d'effet croissante et par valeur p croissante : c'est l'effectif, et lui seul, qui produit ce classement inversé.
Pourquoi : t vaut environ d2n : la valeur p dépend donc autant de l'effectif que de l'effet. Le d, lui, n'en dépend pas.
6.Se tromper de degrés de liberté
1 point, et parfois une décision inversée près du seuil
Ce qu'il ne faut pas écrire
« Deux groupes de 30 : ddl=30−1=29. »
Ce qu'il faut écrire
« Test indépendant : ddl=n1+n2−2=58. Le n−1 est celui du test APPARIÉ, où il n'y a qu'une seule série de différences. »
Pourquoi : Chaque moyenne estimée coûte un degré de liberté : deux moyennes en coûtent deux. L'erreur se voit tout de suite si l'on se demande combien de moyennes le calcul a exigées.
7.Choisir le test unilatéral après avoir vu les données
1,5 point de méthode, et le seuil réel n'est plus celui annoncé
Ce qu'il ne faut pas écrire
« La différence va dans le sens attendu, donc je divise ma valeur p par deux. »
Ce qu'il faut écrire
« Le caractère unilatéral se décide AVANT de regarder les données, et seulement si un écart en sens contraire serait sans intérêt. Sinon, on reste bilatéral. »
Pourquoi : Choisir le côté après coup revient à s'accorder deux chances de rejeter au seuil de 5 %, donc un risque réel de 10 %. C'est la même logique que les comparaisons multiples.
8.Croire qu'on peut compenser un petit effet par un peu plus de monde
1 point, et une étude conçue sans puissance
Ce qu'il ne faut pas écrire
« L'effet attendu est deux fois plus petit que prévu : je double l'échantillon. »
Ce qu'il faut écrire
« n≈d215,7 : diviser d par deux QUADRUPLE l'effectif requis. Passer de d=0,8 à d=0,4 fait passer de 25 à 98 sujets par groupe. »
La courbe explose à gauche : au-dessous de d=0,3, l'effectif requis atteint déjà environ cent-soixante-quinze sujets par groupe.
Pourquoi : L'effectif entre par sa racine carrée dans la statistique de test : il faut donc quadrupler l'effectif pour doubler la sensibilité. C'est la même loi que la marge d'erreur d'un sondage.
Quelle méthode choisir
Quel test choisir ?
Quatre questions, dans cet ordre : les groupes sont-ils indépendants ou appariés (les mêmes individus mesurés deux fois), quelle est la nature de la variable dépendante, combien de groupes compare-t-on, les variances et la distribution permettent-elles un test paramétrique.
Si deux groupes différents, variable quantitative, variances comparables → test t pour échantillons INDÉPENDANTS, variance combinée, ddl=n1+n2−2
Exemple : atelier contre témoin, 30 étudiants chacun
Si deux groupes différents mais variances très inégales, ou effectifs très déséquilibrés → test t avec correction de WELCH, degrés de liberté réduits
Exemple : un groupe de 12 très homogène contre un groupe de 80
Si les mêmes individus mesurés deux fois, ou des paires constituées → test t APPARIÉ sur les différences individuelles, ddl=n−1
Exemple : notes avant et après le même atelier
Si plus de deux groupes → analyse de VARIANCE, jamais une série de tests t deux à deux
Exemple : trois méthodes d'enseignement
Si la variable dépendante est qualitative, ou les effectifs sont très petits et la distribution très asymétrique → khi-deux, ou test de rangs de Mann-Whitney
Exemple : une échelle de Likert sur deux groupes de huit
Aujourd'hui, la correction de Welch est le choix par défaut sur deux groupes indépendants : elle ne coûte presque rien quand les variances se ressemblent, et elle sauve le test quand ce n'est pas le cas.
Que dire une fois le calcul fait ?
On regarde la décision, puis ce que l'énoncé demande de plus.
Si on rejette et l'énoncé demande l'ampleur → donner le d de Cohen et le situer sur les repères 0,2, 0,5, 0,8
Exemple : d=0,60, effet moyen
Si on rejette et l'énoncé demande une portée pratique → donner l'INTERVALLE de confiance de la différence, dans l'unité de l'énoncé
Exemple : entre 0,8 et 11,2 points
Si on ne rejette pas → parler de manque de preuve, et calculer l'effectif qui aurait donné une puissance de 80 %
Exemple : il aurait fallu 44 sujets par groupe
Si l'énoncé demande si le résultat est important → répondre par la taille d'effet et le contexte, jamais par la valeur p
Exemple : six points sur cent, sur un examen final
Une conclusion complète tient en une phrase : décision, taille d'effet, intervalle. Les trois sont au barème.
La rédaction attendue
Le correcteur coche des étapes. Les voici dans l'ordre, avec la phrase de conclusion qu'il attend mot pour mot.
Rédiger un test t complet
Quand l'utiliser : Dès que l'énoncé compare les moyennes de deux groupes.
1Nommer le test choisi et JUSTIFIER : indépendants ou appariés, combinée ou Welch.
2Écrire H0 et H1 en mots, et préciser bilatéral ou unilatéral, décidé d'avance.
3Calculer l'erreur type, puis t, puis les degrés de liberté.
4Comparer à la valeur critique lue dans la table, et décider.
5Conclure dans le contexte, en donnant AUSSI la taille d'effet et l'intervalle de confiance de la différence.
Phrase de conclusion
« Au seuil de 5 %, t=2,31 avec 58 degrés de liberté dépasse la valeur critique 2,00 : on rejette l'hypothèse d'égalité des moyennes. Les étudiants de l'atelier obtiennent en moyenne 6 points de plus, soit un d de 0,60, et l'intervalle de confiance à 95 % de cet écart va de 0,8 à 11,2 points. »
Le piège : Écrire « la différence est significative » sans dire de combien : la moitié des points de la conclusion est dans le d et l'intervalle.
Barème : 1 point pour le test justifié, 1 point pour les hypothèses, 2 points pour le calcul, 1 point pour la décision, 2 points pour la taille d'effet et l'intervalle.
Traiter un jeu de données appariées
Quand l'utiliser : Quand les deux séries portent sur les mêmes individus, ou sur des paires appariées par le chercheur.
1Construire la colonne des différences individuelles di, en fixant le sens une fois pour toutes.
2Calculer d et sd sur cette colonne, jamais sur les deux séries séparément.
3Appliquer t=sd/nd avec ddl=n−1.
4Donner la taille d'effet sur les différences, sdd, et l'intervalle de confiance de d.
Phrase de conclusion
« Sur les 25 étudiants, la progression moyenne est de d points, avec t à 24 degrés de liberté : l'appariement élimine la variabilité entre individus et donne au test toute sa puissance. »
Le piège : Changer de sens de soustraction en cours de tableau : le signe de d devient ininterprétable et le t aussi.
Barème : 1 point pour la colonne des différences, 2 points pour le calcul, 1 point pour les degrés de liberté.
Vérifier avant de rendre
Cinq minutes de vérification récupèrent plus de points qu'un exercice de plus commencé à la hâte.
L'intervalle et le test disent la même chose
Si le test bilatéral à 5 % rejette, l'intervalle de confiance à 95 % de la différence NE contient PAS zéro. Une contradiction signale une erreur de calcul.
Un rejet annoncé avec un intervalle de −2 à +9 : l'un des deux résultats est faux.
L'ordre de grandeur de t
t≈d2n pour deux groupes de même taille : un t très éloigné de cette estimation dénonce une erreur d'erreur type.
Avec d=0,6 et n=30, on attend t≈2,3 : un t de 12 vient d'un écart-type confondu avec une variance.
Le signe de t suit celui de la différence
Vérifier que le signe de t correspond bien au groupe le plus élevé : c'est la faute la plus rapide à repérer sur une copie.
Un t négatif avec une première moyenne supérieure signale une soustraction inversée.
Les degrés de liberté correspondent au test
Indépendants, n1+n2−2; appariés, n−1 où n est le nombre de PAIRES. Recompter avant de lire la table.
Deux groupes de 30 donnent 58; vingt-cinq paires donnent 24.
L'exercice type décortiqué
Évaluer un atelier de méthodes de travail, du test à la puissance
Trente étudiants suivent un atelier de méthodes de travail : moyenne 72, écart-type 9.
Trente autres, comparables, ne le suivent pas : moyenne 66, écart-type 11.
On demande si l'atelier fait une différence, de combien, et si l'étude avait la puissance nécessaire.
Les deux groupes de l'atelier, de moyennes 72 et 66 : les courbes se recouvrent largement, et c'est l'erreur type de la DIFFÉRENCE qui décidera.
Étape 1
Deux groupes différents, variable quantitative, variances voisines : test t pour échantillons INDÉPENDANTS, bilatéral au seuil de 5 %.
Pourquoi
Le choix se justifie AVANT le calcul et vaut son point. Les effectifs étant égaux, la formule combinée et celle de Welch donneront de toute façon la même erreur type.
Étape 2
sp2=5829(81)+29(121)=101, donc sp=10,05 et ET=10,05301+301=2,59.
Pourquoi
La variance combinée est une moyenne pondérée des variances par leurs degrés de liberté : elle vaut ici exactement la moyenne des deux, puisque les effectifs sont égaux.
Étape 3
t=2,5972−66=2,31 avec ddl=30+30−2=58. Valeur critique bilatérale à 5 % : 2,00. On rejette H0.
Pourquoi
Écrire la valeur critique lue, et pas seulement la décision : c'est ce qui montre qu'on a su entrer dans la table avec les bons degrés de liberté.
Étape 4
d=10,0572−66=0,60, soit un effet MOYEN selon les repères de Cohen.
Pourquoi
Le d se calcule sur l'écart-type combiné, pas sur l'erreur type : diviser par 2,59 donnerait 2,31, c'est-à-dire le t, et non une taille d'effet.
Étape 5
Intervalle de confiance à 95 % de la différence : 6±2,00×2,59, soit de 0,81 à 11,19 points.
Pourquoi
L'intervalle ne contient pas zéro, ce qui confirme le rejet. Il dit aussi que l'effet réel pourrait n'être que d'un point : c'est l'information la plus honnête du problème.
Étape 6
Puissance : pour d=0,60, il faudrait n≈0,6022(2,80)2≈44 sujets par groupe.
Pourquoi
Avec trente par groupe, l'étude était légèrement sous-puissante : elle a détecté l'effet, mais elle avait moins de quatre chances sur cinq d'y parvenir.
Conclusion rédigée
« Au seuil de 5 %, t=2,31 pour 58 degrés de liberté dépasse la valeur critique 2,00 : les étudiants de l'atelier obtiennent une moyenne significativement plus élevée. L'écart est de 6 points, soit d=0,60, un effet moyen, et l'intervalle de confiance à 95 % va de 0,8 à 11,2 points. »
L'erreur classique sur cet exercice : Diviser l'écart de 6 points par l'erreur type 2,59 pour obtenir la taille d'effet : on retrouve le t, et l'ampleur annoncée est quatre fois trop grande.
À savoir par cœur
•La valeur p est calculée SOUS H0 : ce n'est jamais la probabilité que H0 soit vraie.
•INDÉPENDANTS : ddl=n1+n2−2. APPARIÉS : ddl=n−1, où n est le nombre de PAIRES.
•Welch quand les variances ou les effectifs sont très inégaux; avec des effectifs égaux, les deux formules coïncident.
•d=spx1−x2 : 0,2 petit, 0,5 moyen, 0,8 grand, et il ne dépend pas de n.
•L'intervalle de confiance à 95 % contient zéro si et seulement si le test bilatéral à 5 % ne rejette pas.
•n≈d215,7 par groupe pour une puissance de 80 % : diviser d par deux QUADRUPLE l'effectif.
•Ne pas rejeter n'est pas démontrer l'égalité : c'est souvent un manque de puissance.
Questions fréquentes
Quand faut-il utiliser un test t apparié plutôt qu'indépendant ?
Dès que les deux séries portent sur les mêmes individus, ou sur des paires constituées par le chercheur. On travaille alors sur les différences individuelles, avec un nombre de degrés de liberté égal au nombre de paires moins un. L'appariement retire la variabilité entre personnes, ce qui rend le test beaucoup plus sensible sur des mesures avant et après.
Que veut vraiment dire une valeur p de 0,03 ?
Que si les deux groupes étaient réellement identiques, on observerait un écart au moins aussi grand dans trois pour cent des échantillons possibles. Ce n'est pas la probabilité que l'hypothèse nulle soit vraie, ni la probabilité de se tromper en la rejetant : la valeur p se calcule en supposant l'hypothèse nulle vraie.
Comment calculer le d de Cohen ?
On divise la différence des deux moyennes par l'écart-type combiné des deux groupes, jamais par l'erreur type. Une différence de six points avec un écart-type combiné de dix donne un d de 0,60. Les repères habituels sont 0,2 pour un petit effet, 0,5 pour un effet moyen et 0,8 pour un grand.
Combien de sujets faut-il pour détecter un effet ?
Environ quinze virgule sept divisé par le carré de la taille d'effet attendue, par groupe, pour une puissance de quatre-vingt pour cent au seuil de cinq pour cent. Un effet moyen de 0,5 demande donc une soixantaine de sujets par groupe, et un petit effet de 0,2 en demande près de quatre cents.
Que faire quand les deux groupes n'ont pas la même variance ?
On utilise la correction de Welch, qui additionne les deux variances divisées par leurs effectifs respectifs au lieu de les combiner, et qui réduit les degrés de liberté. C'est aujourd'hui le choix par défaut : quand les variances se ressemblent, elle donne presque le même résultat que la formule classique, et elle protège dans le cas contraire.
Passer à la pratique
Exercices corrigés : Comparer deux groupes : test t et taille d'effet
Une méthode se prouve sur une copie, pas sur une fiche. La série du même chapitre reprend chacun de ces pièges dans un exercice, avec le corrigé rédigé étape par étape.
Il manque quelque chose dans cette fiche ?Une méthode, un piège, un exercice pour l'appliquer, une erreur repérée : dis-le-moi, je lis chaque demande.
L'envoi passe par ton espace gratuit : c'est ce qui me permet de te répondre et de te prévenir quand l'exercice est ajouté. Un courriel suffit, pas de mot de passe. Crée ton espace.
Pas envie de créer un compte ? Écris-moi directement.
Vous cherchez un tuteur en méthodes quantitatives avancées à Montréal ?
Contactez-moi pour une première séance. Le 360-301 arrive au moment de la recherche de fin de programme, et c'est le cours où une erreur de méthode coûte tout le chapitre d'analyse.