Méthodes quantitatives 360-300 • Sciences humaines au cégep à Montréal

Exercices corrigés : devis de recherche et lecture critique (360-300)

Ces dix exercices corrigés portent sur ce qui décide de la valeur d'une étude avant tout calcul : la façon dont elle a été construite. Devis, assignation, groupe témoin, menaces à la validité, et la lecture critique d'un article de presse.

Le fil de la série tient en une phrase : ce qu'une étude a le droit de conclure dépend de son DEVIS et non de la sophistication de ses statistiques. Un coefficient parfait sur un devis transversal n'établira jamais une cause, et un petit échantillon tiré au sort en dira plus qu'un grand fichier mal construit.

Trois pièges sont désignés nommément : l'échantillonnage aléatoire confondu avec l'assignation aléatoire, la régression vers la moyenne prise pour un effet de programme, et l'absence de rejet lue comme une preuve d'absence d'effet.

Série autocorrigée Tape tes réponses sous chaque question : la page te dit juste ou faux avant d'ouvrir la correction. Avec un compte, chaque bonne réponse du premier coup rapporte des points.

Ce chapitre fait partie de Méthodes quantitatives en sciences humaines : tous les chapitres du 360-300
Avant de commencer Fiche de révision : les pièges et la méthode de ce chapitre

Avant ce chapitre

Ces notions sont supposées acquises ici. Si le premier exercice résiste, le blocage vient presque toujours de l'une d'elles, pas du chapitre lui-même.

Remonter plus loin : la chaîne complète (5 chapitres) ↓

Le chemin de remédiation, du plus ancien au plus proche. Un élève qui reprend ce chapitre de zéro le reprend dans cet ordre.

  1. 1Concepts, variables et échelles de mesure
  2. 2Échantillonnage et questionnaire
  3. 3Tableaux de distribution et graphiques
  4. 4Cote Z, rang centile et cote R
  5. 5La marge d'erreur d'un sondage

Rappel de cours

  • Une HYPOTHÈSE doit être falsifiable : on doit pouvoir dire d'avance quel résultat la contredirait.
  • On teste H0H_{0} et on cherche à la REJETER. L'hypothèse du chercheur est l'alternative : on ne démontre jamais directement ce que l'on croit.
  • Cinq devis, du plus faible au plus solide : étude de cas, transversal, longitudinal, quasi expérimental, expérimental.
  • ÉCHANTILLONNAGE aléatoire : qui est étudié, protège la validité EXTERNE. ASSIGNATION aléatoire : qui reçoit le traitement, protège la validité INTERNE.
  • Trois conditions de la causalité : association, antériorité, non-fallace. Un tableau croisé n'établit que la première.
  • Menaces à la validité interne : maturation, histoire, testage, instrumentation, sélection, attrition, régression vers la moyenne.
  • DIFFÉRENCE DE DIFFÉRENCES : gain du groupe traité moins gain du groupe témoin. C'est ce que le programme a ajouté à ce qui serait arrivé de toute façon.
  • RÉGRESSION VERS LA MOYENNE : après sélection sur une valeur extrême, la prédiction est z2=rz1z_{2}=r\,z_{1}. Le mouvement est symétrique et il ne demande aucune intervention.
  • Sur kk tests indépendants au seuil de 5 %, la probabilité d'au moins un faux positif vaut 10,95k1-0{,}95^{k}. Elle dépasse 50 % dès 14 tests.
  • Correction de Bonferroni : α=αk\alpha'=\dfrac{\alpha}{k}. Elle rétablit le risque global au prix de la puissance.
  • Taille d'effet d=x1x2sd=\dfrac{\overline{x}_{1}-\overline{x}_{2}}{s}. Repères : 0,2 petit, 0,5 moyen, 0,8 grand.
  • INTENTION DE TRAITER : on garde chaque participant dans le groupe où il a été assigné, qu'il ait suivi le traitement ou non.

Partie A : les bases (/50)

Exercice 1 : De la question à l'hypothèse testable

Une recherche quantitative commence par une question et se poursuit par une hypothèse, c'est-à-dire une phrase qui affirme quelque chose de FALSIFIABLE : on doit pouvoir dire d'avance quel résultat la contredirait.

  • a) Distinguez le PROBLÈME de recherche, la QUESTION et l'HYPOTHÈSE, sur le thème de la conciliation travail-études.
  • b) Transformez en hypothèse testable : « le travail rémunéré nuit aux études ».
  • c) Pourquoi une hypothèse doit-elle être FALSIFIABLE ? Donnez un exemple d'énoncé qui ne l'est pas.
  • d) Formulez l'hypothèse nulle et l'hypothèse alternative correspondant à votre hypothèse de recherche.
  • e) Une hypothèse peut-elle être DIRECTIONNELLE ? Quelle conséquence cela a-t-il sur le test ?

Tape tes réponses, la page te dit juste ou faux 0/14

a)
b)
c)
d)
e)
Voir la correction

Réponses

  • a) Problème : le constat qui motive. Question : ce à quoi l'étude répond. Hypothèse : la réponse anticipée, vérifiable
  • b) « Chez les étudiants à temps plein, le taux de réussite diminue quand les heures de travail augmentent, nettement au-delà de 20 h »
  • c) Parce qu'une affirmation qu'aucun résultat ne contredirait n'apprend rien ; « les causes sont multiples et complexes » en est une
  • d) H0H_{0} : les deux taux sont égaux. H1H_{1} : ils diffèrent. On teste H0H_{0} pour la rejeter
  • e) Oui : le test devient unilatéral et la valeur critique passe de 1,961{,}96 à 1,6451{,}645, mais le sens doit être annoncé d'avance

a) Le PROBLÈME est le constat général qui motive l'étude : une part croissante des étudiants de cégep occupe un emploi pendant la session, et les taux de diplomation stagnent. La QUESTION est ce à quoi l'étude entend répondre : le nombre d'heures de travail rémunéré est-il associé à la réussite scolaire au collégial ? L'HYPOTHÈSE est la réponse anticipée, formulée de façon vérifiable : au-delà de 20 heures par semaine, le taux de réussite de tous les cours est inférieur à celui des étudiants qui travaillent moins. Les trois se distinguent par leur degré de précision, et l'erreur habituelle est de sauter directement du problème à la conclusion.

b) Il faut préciser trois choses : la population, les variables opérationnalisées et le sens attendu. Par exemple : « chez les étudiants inscrits à temps plein au collégial, le taux de réussite de tous les cours de la session diminue à mesure qu'augmente le nombre d'heures de travail rémunéré déclaré, la baisse étant marquée au-delà d'un seuil de 20 heures par semaine ». Le mot « nuit », qui affirme une causalité, a disparu au profit d'une association mesurable : c'est le prix à payer pour un devis transversal.

c) Parce qu'une affirmation qu'aucun résultat ne pourrait contredire n'apprend rien : elle est compatible avec tout, donc elle n'est pas informative. Exemple d'énoncé non falsifiable : « les difficultés scolaires ont des causes multiples et complexes ». Aucune donnée imaginable ne l'infirmerait. Un autre cas courant est l'hypothèse formulée APRÈS avoir vu les résultats, qui n'a plus rien à risquer : elle a l'apparence d'une prédiction et la fonction d'une description.

d) Hypothèse NULLE : le taux de réussite est le même chez les étudiants qui travaillent 20 heures et plus et chez les autres, autrement dit toute différence observée n'est due qu'au hasard de l'échantillonnage. Hypothèse ALTERNATIVE : les deux taux diffèrent. Il faut retenir que le test porte sur H0H_{0}, que l'on cherche à REJETER, et que l'hypothèse de recherche du chercheur correspond à l'alternative : on ne démontre jamais directement ce que l'on croit, on montre que le contraire est difficile à soutenir.

e) Oui : une hypothèse est directionnelle quand elle annonce le SENS de la différence, ici « inférieur » plutôt que « différent ». Le test devient alors UNILATÉRAL, et toute la zone de rejet de 5 % se place d'un seul côté, ce qui abaisse la valeur critique de 1,96 à 1,645 pour une loi normale et rend le rejet plus facile. La contrepartie est stricte : le sens doit être annoncé AVANT de voir les données, et un résultat spectaculaire dans l'autre sens ne pourra pas être déclaré significatif. Choisir l'unilatéral après coup, en fonction du sens observé, revient à doubler discrètement son seuil.

Exercice 2 : Les cinq devis et ce que chacun autorise

Ce qu'une étude a le droit de conclure ne dépend pas de sa taille ni de la sophistication de ses calculs, mais de son DEVIS. L'échelle ci-dessous est celle qu'un lecteur doit avoir en tête avant de lire le moindre résultat.

etude de castransversallongitudinalquasi exp.experimentaldecritassocieetablit une causece que le devis autorise a conclure
  • a) Décrivez en une phrase chacun des cinq devis : étude de cas, transversal, longitudinal, quasi expérimental, expérimental.
  • b) Pour chacun, dites s'il permet d'établir l'ANTÉRIORITÉ de la cause sur l'effet.
  • c) Un chercheur compare le taux de réussite d'étudiants inscrits volontairement à un atelier de méthodes à celui de non-inscrits. Nommez le devis et son défaut principal.
  • d) Comment transformer cette étude en devis expérimental, et pourquoi est-ce souvent impossible ?
  • e) Un devis longitudinal suit 300 étudiants pendant trois ans. Quel problème spécifique le menace, et comment le mesurer ?

Tape tes réponses, la page te dit juste ou faux 0/18

a)
b)
c)
d)
e)
Voir la correction

Réponses

  • a) Cas, transversal, longitudinal, quasi expérimental, expérimental : de l'unité unique au tirage au sort du traitement
  • b) Antériorité : parfois pour le cas, NON pour le transversal, OUI pour le longitudinal et l'expérimental, partielle pour le quasi
  • c) Quasi expérimental ; défaut principal, le biais de sélection, dont le sens même est indécidable
  • d) Tirer au sort parmi les demandeurs ; impossible pour raisons éthiques, administratives et de contamination
  • e) L'attrition : 220220 restants sur 300300, soit 26,67  %26{,}67\;\% de perdus ; on compare partants et restants sur les mesures initiales

a) ÉTUDE DE CAS : analyse approfondie d'une ou quelques unités, riche en détail, sans prétention de généralisation. TRANSVERSAL : une mesure de plusieurs variables à un moment donné sur un échantillon, c'est le devis du sondage. LONGITUDINAL : les mêmes unités mesurées à plusieurs reprises dans le temps. QUASI EXPÉRIMENTAL : comparaison entre un groupe traité et un groupe témoin, sans assignation aléatoire, les groupes étant constitués par les circonstances. EXPÉRIMENTAL : comparaison entre groupes constitués par tirage au sort, seul devis où le chercheur contrôle qui reçoit quoi.

b) Étude de cas : parfois, si la reconstitution chronologique est solide, mais sur une seule unité. Transversal : NON, c'est sa faiblesse fondamentale, tout est mesuré en même temps et rien ne dit ce qui a précédé quoi. Longitudinal : OUI, c'est précisément son apport, la mesure répétée établit l'ordre temporel. Quasi expérimental : oui pour le traitement, dont on connaît la date, non pour les différences préexistantes entre les groupes. Expérimental : OUI, le traitement est administré après la constitution des groupes, à une date connue du chercheur.

c) C'est un devis QUASI EXPÉRIMENTAL, et son défaut principal est le BIAIS DE SÉLECTION : les étudiants qui s'inscrivent volontairement à un atelier de méthodes diffèrent des autres par tout ce qui les a poussés à s'inscrire, motivation, conscience de leurs difficultés, disponibilité, soutien familial. Une différence de réussite entre les deux groupes mélange l'effet de l'atelier et l'effet de ces caractéristiques, sans qu'aucun calcul ne puisse les séparer. Le sens même du biais est indécidable a priori : les volontaires peuvent être les plus motivés, donc meilleurs de toute façon, ou les plus en difficulté, donc plus faibles au départ.

d) Il faudrait TIRER AU SORT qui reçoit l'atelier parmi les candidats intéressés, et comparer les tirés aux non-tirés. Le tirage au sort équilibre en moyenne toutes les caractéristiques, y compris celles qu'on n'a pas mesurées, ce qu'aucun contrôle statistique ne peut faire. C'est souvent impossible pour trois raisons : l'éthique, refuser un service jugé bénéfique à des étudiants qui le demandent est difficile à justifier; l'administration, un établissement ne peut pas toujours restreindre l'accès à un service; et la contamination, les étudiants des deux groupes se parlent, s'échangent les documents, et l'effet du traitement se diffuse. Une solution intermédiaire consiste à tirer au sort l'ORDRE d'accès, en offrant l'atelier au groupe témoin la session suivante.

e) Le problème spécifique est l'ATTRITION, ou mortalité expérimentale : des participants disparaissent en cours de route, et ils ne disparaissent pas au hasard. Les étudiants qui abandonnent leurs études sont précisément ceux dont on voudrait connaître la trajectoire, et leur départ vide l'échantillon de ses cas les plus informatifs, ce qui fait paraître la cohorte de plus en plus performante à mesure que le temps passe. On le mesure en comparant, sur les variables mesurées AU DÉPART, ceux qui restent et ceux qui sont partis : si les deux groupes se ressemblent, l'attrition est probablement sans conséquence; s'ils diffèrent, il faut le dire et pondérer.

Exercice 3 : Deux tirages au sort qu'il ne faut pas confondre

Le mot « aléatoire » apparaît à deux endroits d'une recherche, et il n'y sert pas du tout à la même chose. Confondre les deux est l'erreur conceptuelle la plus coûteuse du cours.

populationechantillonechantillonnagetemointraiteassignationvalidite EXTERNE :a qui on generalisevalidite INTERNE : ce que l'on a le droit d'attribuer au traitement
  • a) Définissez l'ÉCHANTILLONNAGE aléatoire et l'ASSIGNATION aléatoire, et dites ce que chacun protège.
  • b) Une expérience est menée sur 60 étudiants volontaires d'un seul cégep, avec assignation aléatoire. Quelles validités sont fortes, lesquelles sont faibles ?
  • c) Un sondage probabiliste national mesure l'association entre l'usage d'une application d'étude et les résultats. Même question.
  • d) Peut-on avoir les deux à la fois ? Décrivez le devis correspondant.
  • e) Un chercheur écrit : « l'assignation étant aléatoire, nos résultats se généralisent à l'ensemble des collégiens du Québec ». Corrigez.

Tape tes réponses, la page te dit juste ou faux 0/14

a)
b)
c)
d)
e)
Voir la correction

Réponses

  • a) Échantillonnage : qui est étudié, protège la validité externe. Assignation : qui reçoit le traitement, protège l'interne
  • b) Interne forte, externe faible : on sait que ça marche sur ces gens-là, on ignore chez qui d'autre
  • c) L'inverse : externe forte, interne faible ; l'association existe, on ignore si l'application y est pour quelque chose
  • d) Oui, l'essai randomisé sur échantillon probabiliste, rare parce qu'il cumule les contraintes des deux tirages
  • e) Il confond les deux tirages : l'assignation donne la validité interne, la généralisation exigerait une réplication ailleurs

a) L'ÉCHANTILLONNAGE aléatoire tire au sort QUI est étudié, dans une population définie. Il protège la validité EXTERNE, c'est-à-dire la possibilité de généraliser les résultats à cette population. L'ASSIGNATION aléatoire tire au sort QUI REÇOIT LE TRAITEMENT, parmi les personnes déjà retenues. Elle protège la validité INTERNE, c'est-à-dire le droit d'attribuer la différence observée au traitement plutôt qu'à une différence préexistante entre les groupes. Le premier tirage sert à parler de la population, le second à parler de la cause.

b) La validité INTERNE est forte : grâce à l'assignation aléatoire, les deux groupes sont comparables en moyenne sur tout, mesuré ou non, et une différence de résultat peut raisonnablement être attribuée au traitement. La validité EXTERNE est faible : 60 volontaires d'un seul cégep ne représentent ni les non-volontaires ni les autres établissements. On sait donc que ça marche, sur ces gens-là, et on ignore chez qui d'autre.

c) C'est la situation inverse. La validité EXTERNE est forte : l'échantillon probabiliste national permet de généraliser les proportions et les associations à l'ensemble de la population visée. La validité INTERNE est faible : personne n'a été assigné à utiliser l'application, ce sont les étudiants qui ont choisi, et ce choix est lié à leur motivation, à leur aisance numérique et à leurs résultats antérieurs. On sait donc que l'association existe dans la population, et on ignore si l'application y est pour quelque chose.

d) Oui, c'est l'ESSAI RANDOMISÉ SUR ÉCHANTILLON PROBABILISTE : on tire d'abord au sort un échantillon représentatif de la population, puis on assigne au hasard le traitement à l'intérieur de cet échantillon. C'est le devis le plus solide qui existe, et il est rare parce qu'il cumule les coûts et les contraintes des deux : il faut une base de sondage, un taux de participation élevé, et la possibilité éthique de traiter certains et pas d'autres. On le rencontre surtout dans les grandes évaluations de politiques publiques.

e) Le chercheur confond les deux tirages. Correction : « l'assignation étant aléatoire, la différence observée entre les deux groupes peut raisonnablement être attribuée au traitement, ce qui assure la validité interne de l'étude. En revanche, nos participants étant des volontaires d'un seul établissement, rien ne garantit que l'effet serait du même ordre ailleurs; la généralisation demanderait une réplication dans d'autres cégeps, avec des populations étudiantes différentes. » La phrase corrigée nomme la validité obtenue, refuse celle qui n'est pas acquise, et indique ce qu'il faudrait pour l'obtenir.

Exercice 4 : Les trois conditions de la causalité

Affirmer que XX cause YY exige trois choses, et une seule d'entre elles se lit dans un coefficient. Les deux autres viennent du devis et du raisonnement.

  • a) Énoncez les trois conditions et dites laquelle un tableau croisé peut établir à lui seul.
  • b) Une étude trouve que les enfants qui prennent un petit-déjeuner obtiennent de meilleures notes. Examinez les trois conditions.
  • c) Ajoutez aux trois conditions deux critères supplémentaires souvent invoqués, et illustrez-les.
  • d) Le taux de noyades et les ventes de crème glacée sont corrélés à 0,93 sur douze mois. Nommez le mécanisme et proposez le contrôle qui le révélerait.
  • e) Peut-on établir une causalité sans expérience ? Décrivez une stratégie qui s'en approche.

Tape tes réponses, la page te dit juste ou faux 0/17

a)
b)
c)
d)
e)
Voir la correction

Réponses

  • a) Association, antériorité, non-fallace ; un tableau croisé n'établit que la première
  • b) Association oui, antériorité plausible mais non établie, non-fallace NON : revenu et organisation du ménage agissent sur les deux
  • c) Le gradient dose-réponse (15, 20 puis 35 %) et la plausibilité d'un mécanisme (fatigue, temps d'étude amputé)
  • d) Corrélation fallacieuse par la saison ; à température constante, l'association s'effondre (r2=0,8649r^{2}=0{,}8649 ne prouve rien)
  • e) On s'en approche : expérience naturelle, avant-après avec témoin, appariement ; toutes restent aveugles au non mesuré

a) Première condition, l'ASSOCIATION : XX et YY varient ensemble. Deuxième, l'ANTÉRIORITÉ : XX précède YY dans le temps. Troisième, la NON-FALLACE : l'association ne s'explique pas par une troisième variable antérieure aux deux. Un tableau croisé n'établit que la PREMIÈRE. L'antériorité vient du devis, la non-fallace vient du contrôle des variables tierces, et aucune des deux ne se lit dans un coefficient, si élevé soit-il.

b) Association : oui, elle est bien documentée et robuste. Antériorité : plausible, le déjeuner précède la journée de classe, mais si la mesure est transversale, rien ne l'établit formellement, et l'on peut imaginer qu'un enfant qui réussit bien dorme mieux et se lève plus tôt. Non-fallace : c'est ici que tout se joue, et la condition n'est PAS satisfaite. Le revenu et l'organisation du ménage déterminent à la fois la régularité du déjeuner et une foule d'autres avantages scolaires, du calme du logement au vocabulaire à la maison. La conclusion honnête est que le déjeuner est un INDICATEUR de conditions favorables, dont l'effet propre reste à démontrer par une intervention.

c) Le GRADIENT, ou relation dose-réponse : plus la cause augmente, plus l'effet augmente, ce qui rend le hasard moins plausible; dans l'exemple des heures de travail, le taux d'abandon passait régulièrement de 15 % à 20 % puis à 35 %. Et la PLAUSIBILITÉ D'UN MÉCANISME : on doit pouvoir raconter par quel chemin la cause produit l'effet, ici la fatigue, le temps d'étude amputé et l'absence aux activités du collège. Ces critères, popularisés par Bradford Hill en épidémiologie, ne prouvent rien à eux seuls, mais leur absence doit rendre méfiant.

d) C'est une CORRÉLATION FALLACIEUSE due à une variable antérieure commune, la TEMPÉRATURE, ou plus généralement la saison : la chaleur fait acheter de la crème glacée et fait aller se baigner. Le contrôle qui le révélerait est l'élaboration : à température constante, en comparant par exemple uniquement des journées entre 25 et 30 degrés, l'association entre ventes et noyades s'effondrerait. Un coefficient de 0,93 sur douze points mensuels illustre bien le danger des séries temporelles courtes : deux séries qui suivent la même saison sont corrélées presque parfaitement sans avoir le moindre lien.

e) Oui, en approchant l'expérience plutôt qu'en la remplaçant. Trois stratégies sont courantes. L'EXPÉRIENCE NATURELLE : on exploite un événement extérieur qui a modifié XX pour des raisons sans rapport avec YY, par exemple une réforme appliquée à certaines régions et pas à d'autres. La comparaison AVANT-APRÈS AVEC TÉMOIN, qui soustrait ce qui serait arrivé de toute façon. Et l'APPARIEMENT, où l'on compare chaque individu traité à un individu non traité qui lui ressemble sur toutes les variables mesurées. Aucune ne vaut le tirage au sort, parce que toutes restent aveugles aux variables non mesurées, et une conclusion causale tirée de ces devis doit toujours être annoncée comme conditionnelle.

Exercice 5 : Les menaces à la validité interne

Une étude avant-après sans groupe témoin est une étude sans défense. Le groupe témoin sert exactement à soustraire ce qui serait arrivé de toute façon, et la liste des menaces explique pourquoi il en arrive toujours quelque chose.

Un cégep évalue un programme de tutorat par les pairs : le groupe traité passe de 61 à 70, le groupe témoin de 62 à 67.

traite avant61traite apres70temoin avant62temoin apres67015304560gain net : 9 moins 5, soit 4 points
  • a) Quel gain le groupe traité affiche-t-il ? Que conclurait une étude sans groupe témoin ?
  • b) Calculez le gain NET, dit différence de différences. Que mesure-t-il ?
  • c) Nommez et expliquez trois menaces qui produiraient le gain du groupe témoin.
  • d) Un tiers des tutorés a quitté le programme avant la fin et n'a pas été mesuré. Quel effet cela a-t-il sur le gain observé ?
  • e) Le tutorat était offert aux étudiants ayant échoué au premier examen. Quelle menace supplémentaire cela introduit-il ?

Tape tes réponses, la page te dit juste ou faux 0/15

a)
b)
c)
d)
e)
Voir la correction

Réponses

  • a) 7061=970-61=9 points ; sans témoin, on conclurait à un effet de 99 points
  • b) 95=49-5=4 points nets ; il mesure ce que le programme ajoute à ce qui serait arrivé de toute façon
  • c) Maturation, histoire et testage ; l'instrumentation s'y ajoute si le second examen n'a pas la même difficulté
  • d) Il gonfle le gain : on mesure la fin d'un groupe sélectionné (66,67  %66{,}67\;\%) contre le début d'un groupe complet
  • e) La régression vers la moyenne : sélectionner sur un échec garantit une remontée sans aucune intervention

a) Le groupe traité gagne 7061=970-61=9 points. Une étude sans groupe témoin conclurait à un effet de 9 points et publierait un communiqué enthousiaste. C'est le devis le plus répandu dans l'évaluation de programmes, et le plus trompeur, parce qu'il attribue au programme la totalité de ce qui a changé.

b) Le groupe témoin gagne 6762=567-62=5 points sans traitement. Le gain NET vaut donc 95=49-5=4 points. Cette différence de différences mesure ce que le programme a ajouté À CE QUI SERAIT ARRIVÉ DE TOUTE FAÇON, sous une hypothèse explicite : sans traitement, les deux groupes auraient évolué en parallèle. Le vrai effet est donc de 4 points, soit moins de la moitié du chiffre brut.

c) La MATURATION : entre les deux mesures, les étudiants ont simplement progressé, ils se sont habitués au rythme du cégep, ils ont appris à étudier. L'HISTOIRE : un événement extérieur a touché tout le monde, par exemple un enseignant plus clair au second trimestre, ou un examen plus facile. Le TESTAGE : passer une première fois l'épreuve améliore la performance à la seconde, par simple familiarisation avec le format. On pourrait ajouter l'INSTRUMENTATION, si le second examen n'était pas exactement de même difficulté que le premier, ce qui suffit à créer un gain artificiel dans les deux groupes.

d) L'effet est de GONFLER le gain observé, souvent beaucoup. Ceux qui quittent un programme de tutorat sont typiquement ceux pour qui il ne fonctionne pas, ou ceux dont la situation se dégrade : les mesurer aurait tiré la moyenne vers le bas. En ne mesurant que les 66 % restants, on compare la fin d'un groupe sélectionné au début d'un groupe complet. La parade s'appelle l'analyse en INTENTION DE TRAITER : on garde tous les étudiants initialement inscrits au programme dans le groupe traité, qu'ils l'aient suivi ou non. Le résultat est plus faible et il est honnête.

e) Elle introduit la RÉGRESSION VERS LA MOYENNE. Sélectionner les étudiants sur une performance EXTRÊME, ici un échec, garantit qu'une part de leur mauvais résultat est due à des circonstances passagères, maladie, mauvaise nuit, question mal comprise. À la mesure suivante, ces circonstances ne se répètent pas, et le groupe remonte mécaniquement, sans qu'aucune intervention n'y soit pour quelque chose. C'est la menace la plus insidieuse parce qu'elle produit exactement le résultat espéré, et elle justifie à elle seule d'exiger un groupe témoin sélectionné de la même façon.

Partie B : problèmes et raisonnement (/50)

Exercice 6 : La régression vers la moyenne, chiffrée

La menace précédente se calcule. Dès que la corrélation entre deux mesures est inférieure à 1, tout groupe sélectionné sur une valeur extrême se rapproche de la moyenne à la mesure suivante, et l'ampleur du rapprochement se prédit exactement.

Sur 200 étudiants, deux examens de moyenne 65 et d'écart-type 10, corrélés à r=0,60r=0{,}60.

4553616977859345536169778593premier examensecond examen, sans aucune interventionles deux groupes extremes se rapprochent de la moyenne 65
  • a) Les cinq plus faibles ont une moyenne de 48 au premier examen. Calculez leur cote Z.
  • b) La prédiction de la cote Z au second examen est z2=rz1z_{2}=r\,z_{1}. Calculez-la et convertissez en points.
  • c) De combien de points ce groupe « progresse-t-il » sans aucune intervention ?
  • d) Faites le même calcul pour les cinq meilleurs, de moyenne 82. Que se passe-t-il ?
  • e) Un directeur conclut que son programme de rattrapage fonctionne et que son programme d'enrichissement échoue. Que répondre ?

Tape tes réponses, la page te dit juste ou faux 0/12

a)
b)
c)
d)
e)
Voir la correction

Réponses

  • a) z1=486510=1,70z_{1}=\dfrac{48-65}{10}=-1{,}70
  • b) z2=0,60×(1,70)=1,02z_{2}=0{,}60\times(-1{,}70)=-1{,}02, soit 6510,2=54,865-10{,}2=54{,}8
  • c) 54,848=6,854{,}8-48=6{,}8 points de gain prédit, sans aucune intervention
  • d) z1=1,70z_{1}=1{,}70, z2=1,02z_{2}=1{,}02, note prédite 75,275{,}2 : le groupe fort perd 6,86{,}8 points, symétriquement
  • e) Les deux conclusions viennent du même artefact ; seul un témoin sélectionné de la même façon trancherait

a) z1=486510=1,70z_{1}=\dfrac{48-65}{10}=-1{,}70. Le groupe se situe à 1,7 écart-type sous la moyenne, ce qui est une position très basse, occupée par environ 4,5 % de la distribution sous une loi normale.

b) z2=0,60×(1,70)=1,02z_{2}=0{,}60\times \left(-1{,}70\right)=-1{,}02. En points : 65+(1,02)×10=6510,2=54,865+\left(-1{,}02\right)\times 10=65-10{,}2=54{,}8. La prédiction ne suppose aucune intervention : elle découle uniquement du fait que la corrélation entre les deux examens vaut 0,60 et non 1.

c) Le groupe passe de 48 à 54,8, soit un gain PRÉDIT de 6,8 points sans que rien n'ait été fait. Un programme de rattrapage qui obtiendrait 7 points de gain sur ce groupe n'aurait donc démontré strictement aucun effet. Pour conclure à un effet, il faudrait dépasser nettement 6,8 points, ou mieux, comparer à un groupe témoin sélectionné exactement de la même manière.

d) Pour les cinq meilleurs : z1=826510=1,70z_{1}=\dfrac{82-65}{10}=1{,}70, donc z2=0,60×1,70=1,02z_{2}=0{,}60\times 1{,}70=1{,}02 et la note prédite vaut 65+10,2=75,265+10{,}2=75{,}2. Le groupe fort PERD 6,8 points, symétriquement, et toujours sans qu'aucune intervention n'y soit pour quelque chose. Le phénomène est parfaitement symétrique : ce qui remonte les faibles fait redescendre les forts.

e) Il faut lui répondre que ses deux conclusions sont produites par le même artefact, et qu'aucune ne repose sur ses programmes. Sélectionner sur une performance extrême garantit un mouvement vers la moyenne à la mesure suivante, quel que soit ce qu'on fait entre les deux; c'est pourquoi les programmes destinés aux plus faibles semblent toujours marcher et ceux destinés aux plus forts semblent toujours décevoir. Ce raisonnement explique aussi une croyance tenace chez les instructeurs : féliciter semble suivi d'une baisse, réprimander semble suivi d'une amélioration, alors que les deux ne sont que le retour à la moyenne après une performance exceptionnelle. La seule parade est le groupe témoin sélectionné selon le même critère.

Exercice 7 : Quand chercher assez longtemps suffit à trouver

Une étude qui teste vingt hypothèses et n'en publie qu'une n'a pas fait une découverte, elle a fait vingt tirages. La mécanique est arithmétique, et elle explique une part considérable de ce qui se publie.

51015202530354020406080100chances d'au moins un resultat significatif, en %14 tests : plus d une chance sur deuxnombre de tests effectues
  • a) Au seuil de 5 %, quelle est la probabilité qu'un test unique donne un résultat significatif alors que rien n'existe ?
  • b) On effectue 20 tests indépendants sur des variables sans aucun lien réel. Quelle est la probabilité d'obtenir au moins un résultat significatif ?
  • c) À partir de combien de tests la probabilité dépasse-t-elle une chance sur deux ?
  • d) La correction de Bonferroni divise le seuil par le nombre de tests. Quel seuil faut-il pour 20 tests, et quel en est le coût ?
  • e) Nommez trois pratiques qui produisent le même effet sans qu'aucun test supplémentaire n'apparaisse dans l'article.

Tape tes réponses, la page te dit juste ou faux 0/12

a)
b)
c)
d)
e)
Voir la correction

Réponses

  • a) 5  %5\;\%, c'est la définition du seuil α\alpha
  • b) 0,95200,35850{,}95^{20}\approx 0{,}3585, donc 10,35850,64151-0{,}3585\approx 0{,}6415
  • c) k>ln0,5ln0,9513,5k>\dfrac{\ln 0{,}5}{\ln 0{,}95}\approx 13{,}5 : dès 14 tests
  • d) α=0,0025\alpha'=0{,}0025, risque global ramené à 0,04880{,}0488 ; coût : une perte de puissance
  • e) Choix du seuil après coup, arrêt optimiste, degrés de liberté du chercheur ; d'où l'enregistrement préalable

a) Exactement 5 %, c'est la définition même du seuil : α\alpha est la probabilité de rejeter l'hypothèse nulle alors qu'elle est vraie, c'est-à-dire de commettre une erreur de première espèce. Ce risque est accepté d'avance et il ne disparaît jamais.

b) La probabilité qu'un test donné ne soit PAS significatif vaut 0,95. Pour 20 tests indépendants, la probabilité qu'aucun ne le soit vaut 0,95200,35850{,}95^{20}\approx 0{,}3585. Donc la probabilité d'au moins un résultat significatif vaut 10,35850,64151-0{,}3585\approx 0{,}6415, soit près de deux chances sur trois. En cherchant vingt liens qui n'existent pas, on en trouve un dans presque deux cas sur trois.

c) Il faut 10,95k>0,51-0{,}95^{k}>0{,}5, donc 0,95k<0,50{,}95^{k}<0{,}5 et k>ln0,5ln0,95=0,69310,05129313,5k>\dfrac{\ln 0{,}5}{\ln 0{,}95}=\dfrac{-0{,}6931}{-0{,}051293}\approx 13{,}5. Dès 14 tests, il y a plus d'une chance sur deux de trouver au moins un résultat significatif sur du bruit pur. Quatorze tests, c'est un questionnaire ordinaire croisé avec une seule variable dépendante.

d) Bonferroni impose α=0,0520=0,0025\alpha'=\dfrac{0{,}05}{20}=0{,}0025. Le risque global redescend alors à environ 1(10,0025)200,04881-\left(1-0{,}0025\right)^{20}\approx 0{,}0488, soit les 5 % voulus. Le coût est une perte de PUISSANCE : avec un seuil vingt fois plus strict, la valeur critique passe de 1,96 à environ 3,02 écarts-types, et un effet réel mais modéré ne sera plus détecté. La correction est donc conservatrice, et d'autres méthodes, comme le contrôle du taux de fausses découvertes, offrent un compromis moins brutal.

e) Première pratique, le CHOIX DU SEUIL APRÈS COUP, en passant à 10 % quand 5 % ne donne rien, ou en déclarant unilatéral un test prévu bilatéral. Deuxième pratique, l'ARRÊT OPTIMISTE : on collecte, on teste, et l'on continue à collecter tant que le résultat n'est pas significatif, ce qui garantit d'y arriver un jour. Troisième pratique, les DEGRÉS DE LIBERTÉ DU CHERCHEUR : découper autrement les classes d'âge, exclure quelques valeurs aberrantes, changer de variable de contrôle, jusqu'à ce que le tableau parle. Aucune de ces trois ne laisse de trace dans l'article, et c'est précisément pourquoi les revues exigent de plus en plus l'ENREGISTREMENT PRÉALABLE du plan d'analyse.

Exercice 8 : Cinq affirmations à corriger

Chacune des cinq affirmations suivantes est FAUSSE. Dites pourquoi et donnez l'énoncé correct.

  • 1) « Notre échantillon est aléatoire, donc nos conclusions causales sont solides. »
  • 2) « Le groupe en difficulté a progressé de 7 points après le rattrapage : le programme fonctionne. »
  • 3) « Nous avons testé 18 associations et en avons trouvé une significative à 4 % : le résultat est publiable tel quel. »
  • 4) « Une corrélation de 0,93 entre deux séries mensuelles est trop forte pour être due au hasard : le lien est causal. »
  • 5) « Nous n'avons pas trouvé de différence entre les groupes, donc le programme n'a aucun effet. »

Tape tes réponses, la page te dit juste ou faux 0/10

1)
2)
3)
4)
5)
Voir la correction

Réponses

  • 1) FAUX : l'échantillonnage aléatoire donne la validité externe ; la causalité vient de l'assignation aléatoire
  • 2) FAUX : le retour vers la moyenne vaut déjà 6,86{,}8 points, presque tout le gain de 77 points
  • 3) FAUX : sur 18 tests, 10,95180,6031-0{,}95^{18}\approx 0{,}603 ; le résultat est exploratoire, pas publiable tel quel
  • 4) FAUX deux fois : une corrélation n'établit pas de cause, et deux séries saisonnières se suivent sans lien
  • 5) FAUX : l'absence de différence n'est pas la démonstration d'une absence d'effet ; il faut publier l'intervalle

1) FAUX. L'échantillonnage aléatoire assure la validité EXTERNE, la généralisation à la population, et rien de plus. La solidité d'une conclusion CAUSALE vient de l'assignation aléatoire du traitement, qui est un tout autre tirage. Énoncé correct : notre échantillon étant aléatoire, nos estimations se généralisent à la population; l'absence d'assignation aléatoire nous interdit en revanche d'attribuer les différences observées au traitement.

2) FAUX, ou du moins non démontré. Le groupe ayant été sélectionné sur une performance basse, il remonte mécaniquement vers la moyenne, et ce retour vaut ici environ 6,8 points, soit presque tout le gain observé. Énoncé correct : le groupe a progressé de 7 points, un gain compatible avec la seule régression vers la moyenne; conclure exigerait un groupe témoin sélectionné selon le même critère.

3) FAUX. Avec 18 tests indépendants sur du bruit pur, la probabilité d'obtenir au moins un résultat significatif vaut 10,95180,6031-0{,}95^{18}\approx 0{,}603, soit six chances sur dix. Un résultat à 4 % n'a rien de remarquable dans ce contexte. Énoncé correct : sur 18 tests, ce résultat isolé doit être présenté comme exploratoire, avec le nombre total de tests effectués, et confirmé sur un échantillon indépendant avant d'être affirmé.

4) FAUX deux fois. D'abord, une corrélation élevée n'établit jamais une causalité, seulement une association. Ensuite, deux séries mensuelles suivant le même cycle saisonnier sont corrélées presque parfaitement sans aucun lien : douze points annuels sont dominés par la saison. Énoncé correct : les deux séries varient ensemble au fil des mois; il faudrait contrôler la saison, ou travailler sur les variations désaisonnalisées, avant d'envisager le moindre lien.

5) FAUX. Ne pas trouver de différence signifie que les données sont compatibles avec l'absence d'effet, pas qu'elle est démontrée. Avec 30 participants par groupe, la puissance de détecter un effet modeste est faible. Énoncé correct : nos données ne permettent pas de conclure à un effet; l'intervalle de confiance sur la différence va de 3-3 à +7+7 points, ce qui laisse ouverte la possibilité d'un effet appréciable, et une étude plus grande serait nécessaire.

Exercice 9 : Problème : évaluer le tutorat par les pairs

Un cégep veut savoir si son programme de tutorat par les pairs fonctionne, et vous confie l'évaluation. Tout le chapitre sert, du devis au rapport.

  • a) Proposez le devis le plus solide praticable, en nommant ce qui empêche l'idéal.
  • b) Comment constituer le groupe témoin si le tutorat est offert à tous les étudiants qui en font la demande ?
  • c) 120 étudiants demandent le tutorat, 60 sont tirés au sort. À la fin, les tutorés obtiennent 71,4 de moyenne, le témoin 67,9, avec un écart-type de 9 dans chaque groupe. Calculez la marge sur l'écart et concluez.
  • d) Calculez la taille d'effet d=x1x2sd=\dfrac{\overline{x}_{1}-\overline{x}_{2}}{s} et interprétez-la.
  • e) 14 des 60 tutorés n'ont assisté à aucune séance. Comment les traiter, et pourquoi ?

Tape tes réponses, la page te dit juste ou faux 0/14

a)
b)
c)
d)
e)
Voir la correction

Réponses

  • a) L'expérience à liste d'attente ; l'idéal reste hors d'atteinte parce que les participants sont des volontaires
  • b) Par tirage au sort parmi les demandeurs eux-mêmes, jamais parmi les non-demandeurs
  • c) Erreur type 1,64321{,}6432, marge 3,223{,}22 ; l'écart de 3,53{,}5 donne [0,28;6,72][0{,}28\,;6{,}72], significatif mais de justesse
  • d) d=3,590,389d=\dfrac{3{,}5}{9}\approx 0{,}389 : effet petit à moyen, le tutoré moyen au rang centile 6565 du témoin
  • e) On les garde : analyse en intention de traiter, qui répond à la question du décideur, offrir le programme

a) Le devis le plus solide praticable est l'EXPÉRIENCE À LISTE D'ATTENTE : parmi les étudiants qui demandent le tutorat, on en tire au sort la moitié qui commence tout de suite, l'autre moitié étant servie la session suivante. On obtient une assignation aléatoire véritable, donc la validité interne, sans refuser le service à personne, ce qui lève l'objection éthique. Ce qui empêche l'idéal, l'essai randomisé sur échantillon probabiliste, c'est que les participants restent des VOLONTAIRES : la conclusion vaudra pour les étudiants qui demandent du tutorat, non pour l'ensemble du cégep.

b) Précisément par le tirage au sort à l'intérieur des demandeurs. Ce point est décisif : un groupe témoin formé d'étudiants qui n'ont PAS demandé le tutorat serait inutilisable, puisqu'il différerait sur la motivation, la conscience des difficultés et la disponibilité, exactement les variables qui déterminent la réussite. Le témoin doit ressembler au traité sur tout sauf sur le traitement, et la seule façon de s'en assurer est de le tirer dans la même population de demandeurs.

c) Erreur type de la différence : 9260+9260=1,35+1,35=2,701,6432\sqrt{\dfrac{9^{2}}{60}+\dfrac{9^{2}}{60}}=\sqrt{1{,}35+1{,}35}=\sqrt{2{,}70}\approx 1{,}6432. Marge : 1,96×1,64323,221{,}96\times 1{,}6432\approx 3{,}22 points. L'écart observé vaut 71,467,9=3,571{,}4-67{,}9=3{,}5 points, donc l'intervalle va de 0,280{,}28 à 6,726{,}72 : il ne contient pas zéro, l'effet est significatif au seuil de 5 %, mais de justesse. La borne inférieure, à peine au-dessus de zéro, doit être publiée : elle dit que l'effet pourrait n'être que de trois dixièmes de point.

d) d=3,590,389d=\dfrac{3{,}5}{9}\approx 0{,}389. Selon les repères usuels, 0,2 petit, 0,5 moyen, 0,8 grand, il s'agit d'un effet PETIT À MOYEN. Autrement dit, un étudiant tutoré moyen se situe environ au rang centile 65 de la distribution du groupe témoin, contre 50 s'il n'y avait aucun effet. C'est un résultat honorable pour une intervention légère, et il faut le publier avec la taille d'effet plutôt qu'avec la seule valeur p, parce que c'est lui qui permettra de comparer ce programme à d'autres.

e) Il faut les GARDER dans le groupe tutoré, et présenter ce résultat comme l'analyse principale : c'est l'analyse en INTENTION DE TRAITER. La raison est que l'assignation au hasard ne protège que les groupes tels qu'ils ont été tirés; dès qu'on retire les 14 non-participants, on retire un sous-groupe sélectionné par son propre comportement, probablement le moins engagé, et l'équivalence des groupes disparaît. On peut publier EN PLUS une analyse restreinte aux participants effectifs, en la nommant comme telle et en signalant qu'elle surestime probablement l'effet. L'intention de traiter répond à la question du décideur, qui est de savoir ce que produit le fait d'OFFRIR le programme, et non ce qu'il produirait si tout le monde le suivait.

Exercice 10 : Problème : l'étude derrière l'article de presse

Titre : « Les jeunes qui utilisent les réseaux sociaux plus de trois heures par jour sont deux fois plus déprimés ». Corps de l'article : « une étude menée auprès de 4 500 adolescents de 13 à 17 ans montre que 26 % des grands utilisateurs présentent des symptômes dépressifs, contre 13 % des faibles utilisateurs. L'étude, publiée dans une revue à comité de lecture, a été menée par questionnaire en ligne au printemps. »

  • a) Quel est le devis de cette étude, et qu'autorise-t-il à conclure ?
  • b) « Deux fois plus déprimés » : vérifiez le calcul et proposez deux autres façons exactes de présenter le même écart.
  • c) Nommez trois explications concurrentes de l'association observée.
  • d) Le questionnaire est en ligne. En quoi cela pose-t-il un problème particulier pour CETTE question précise ?
  • e) Réécrivez le titre et la première phrase.

Tape tes réponses, la page te dit juste ou faux 0/13

a)
b)
c)
d)
e)
Voir la correction

Réponses

  • a) Transversal par questionnaire : il établit une association dans la population interrogée, et rien de plus
  • b) 2613=2,0\dfrac{26}{13}=2{,}0 ; aussi 1313 points d'écart, et 74  %74\;\% contre 87  %87\;\% de non-déprimés, rapport 0,850{,}85
  • c) Causalité inverse, variable confondante, biais de mesure commun aux deux déclarations
  • d) Le recrutement en ligne surreprésente les grands utilisateurs : la base de sondage est corrélée à la variable étudiée
  • e) « Vont de pair », l'écart en points à côté du rapport, et la limite du devis dès la première phrase

a) C'est un devis TRANSVERSAL par questionnaire : usage des réseaux et symptômes dépressifs sont mesurés au même moment, sur les mêmes personnes. Il autorise à établir une ASSOCIATION dans la population interrogée, et rien de plus. En particulier, il n'établit ni l'antériorité, on ignore ce qui a commencé en premier, ni l'absence de variable confondante. Aucune conclusion causale n'en découle, quelle que soit la taille de l'échantillon.

b) Le rapport vaut 2613=2,0\dfrac{26}{13}=2{,}0 : « deux fois plus » est exact au sens du rapport de proportions. Deux autres présentations exactes : l'écart ABSOLU, 2613=1326-13=13 points de pourcentage, et le complément, 74 % des grands utilisateurs ne présentent PAS de symptômes dépressifs contre 87 % des faibles utilisateurs, ce qui donne un rapport de 0,85, soit un écart bien moins spectaculaire. Les trois formulations décrivent les mêmes données, et le choix entre elles est le principal levier de dramatisation dont dispose un journaliste. La règle de lecture est de toujours demander les proportions brutes derrière un rapport.

c) Première explication, la CAUSALITÉ INVERSE : un adolescent qui va mal se replie sur son téléphone, l'humeur précédant l'usage. Deuxième explication, une VARIABLE CONFONDANTE : l'isolement social, un conflit familial ou l'insomnie augmentent à la fois le temps d'écran et les symptômes. Troisième explication, un BIAIS DE MESURE COMMUN : les deux variables sont autodéclarées dans le même questionnaire, et un adolescent en détresse surestime probablement son temps d'écran comme ses symptômes, ce qui crée une corrélation sans qu'aucun lien réel n'existe. Cette troisième explication est spécifique aux enquêtes autoadministrées et elle est trop rarement mentionnée.

d) Un questionnaire en ligne recrute par les réseaux sociaux ou par des panels, donc il SURREPRÉSENTE mécaniquement les grands utilisateurs, et il exclut les adolescents peu connectés, précisément le groupe de comparaison. Le problème est ici plus grave que d'ordinaire parce que la variable indépendante de l'étude, l'usage des réseaux, est aussi le mécanisme de recrutement : la base de sondage est corrélée à ce que l'on mesure. Un tel devis peut fabriquer une association à lui seul, et il faudrait au minimum décrire précisément le mode de recrutement, ce que l'article ne fait pas.

e) Titre : « Usage intensif des réseaux sociaux et symptômes dépressifs vont de pair chez les adolescents, sans qu'on sache lequel précède l'autre ». Première phrase : « Dans une enquête transversale menée en ligne auprès de 4 500 adolescents de 13 à 17 ans, 26 % de ceux qui déclarent plus de trois heures d'usage quotidien présentent des symptômes dépressifs, contre 13 % des faibles utilisateurs, soit 13 points d'écart. Le devis ne permet pas de dire si l'usage précède les symptômes ou l'inverse, et les deux mesures reposent sur les déclarations des mêmes répondants. » Trois corrections décisives : le verbe « aller de pair » remplace toute idée de cause, l'écart est donné en points en plus du rapport, et la limite du devis figure dans la première phrase plutôt qu'au dernier paragraphe.

Chapitre précédent La marge d'erreur d'un sondage

Voir aussi

Vous cherchez un tuteur en méthodes quantitatives à Montréal ?

Contactez-moi pour une première séance. Les méthodes quantitatives sont le seul cours de mathématiques obligatoire en sciences humaines, et c'est aussi celui qui décide le plus souvent de la cote R d'une session.

Site par Studio Squalli