Exercices corrigés d'enseignement scientifique : de la machine de Turing à l'intelligence artificielle

a) Une machine à tâche prédéterminée peut recevoir des réglages, mais elle ne fait qu'une seule sorte de travail. Le métier Jacquard ne sait que TISSER : ses cartes changent le motif, jamais la nature du travail. La tabulatrice ne sait que COMPTER et trier des cartes selon des critères câblés. La calculatrice de poche à quatre opérations ne sait faire que ces quatre opérations, quelle que soit la touche pressée. L'ordinateur de 1948, lui, exécute la suite d'instructions qu'on range dans sa mémoire : le même appareil calcule, trie, traduit ou joue selon le programme chargé. C'est la définition d'une machine universelle au sens de Turing.

b) C'est un calcul de proportionnalité. Une tabulatrice lit $50$ cartes par minute, donc il lui faut $\dfrac{63\,000\,000}{50}=1\,260\,000$ minutes, soit $\dfrac{1\,260\,000}{60}=21\,000$ heures. Avec $50$ machines qui se partagent les cartes, la durée est divisée par $50$ : $420$ heures de travail, soit $\dfrac{420}{7}=60$ jours à $7$ heures par jour. Deux mois au lieu de près de huit ans : c'est ce gain qui a lancé l'industrie de la mécanographie, dont est issue l'entreprise IBM. Le piège est de diviser les $21\,000$ heures par $7$ sans tenir compte des $50$ machines, ce qui donne $3\,000$ jours, ou d'oublier de passer des minutes aux heures.

c) De 1936 à 1948, il s'écoule $1948-1936=12$ ans, environ une décennie comme le dit le programme. La nouveauté n'est pas la vitesse ni l'électricité, que les tabulatrices utilisaient déjà : c'est que le PROGRAMME devient une DONNÉE comme les autres. Il est écrit dans la même mémoire que les nombres qu'il traite, il peut être remplacé en quelques secondes, copié, transporté, et même produit par un autre programme. Une seule machine suffit donc pour toutes les tâches : on ne construit plus une machine par problème, on écrit un programme par problème.

d) Au minimum, un ordinateur comporte un PROCESSEUR, qui exécute les instructions, et une MÉMOIRE VIVE, qui contient à la fois le programme en cours et les données qu'il manipule. L'écran, le clavier ou le disque sont des périphériques utiles, pas indispensables : un ordinateur de bord de voiture n'a ni écran ni clavier. Les cartes Jacquard sont bien une information qui commande la machine, et c'est pour cela qu'on les cite comme ancêtres de la programmation ; mais elles ne choisissent qu'un MOTIF parmi tous ceux qu'un métier peut tisser. Aucune carte ne fera calculer, trier ou traduire le métier. La frontière entre une machine programmable et une machine universelle est exactement là : changer ce que fait la machine, et non seulement la façon dont elle fait toujours la même chose.

a) La calculatrice, le lave-linge moderne, le téléphone, la boîte Internet et l'ordinateur de bord contiennent tous un processeur et de la mémoire : ce sont des ordinateurs enfermés dans un objet. Seule la montre mécanique n'en a pas : ses rouages font une seule chose, par construction. Réponse : $5$ objets sur $6$. Retenez que la plupart des ordinateurs du monde ne ressemblent pas à des ordinateurs : une voiture récente en compte plusieurs dizaines.

b) Contenir un processeur ne veut pas dire être programmable par SON UTILISATEUR. La calculatrice graphique accepte des programmes écrits par l'élève, en Python par exemple, et le téléphone accepte des applications installées par son propriétaire : $2$ objets. Le lave-linge, la boîte Internet et l'ordinateur de bord sont programmés par leur FABRICANT, qui les met à jour par un câble au garage ou à distance par le réseau ; l'utilisateur n'écrit ni n'installe rien. Choisir « coton $40$ degrés », c'est sélectionner l'un des programmes que le fabricant a écrits, exactement comme choisir une chaîne de télévision : ce n'est pas programmer. La question « programmable, et par qui ? » a donc trois réponses : par l'utilisateur, par le fabricant seulement, par personne.

c) Sous Windows, un fichier .exe contient des instructions en LANGAGE MACHINE, que le processeur exécute directement : c'est installateur.exe. Le fichier moyenne.py est aussi un programme, mais écrit en Python, un langage de haut niveau : c'est un simple texte, qu'on peut ouvrir dans un éditeur, et qu'un autre programme, l'interpréteur Python, traduit en instructions pour le processeur. Au sens large, le dossier contient donc $2$ programmes. Les cinq autres fichiers sont des documents : un texte mis en page, une image, un son, un texte brut, une vidéo. Attention : l'extension n'est qu'une convention de Windows ; sous Linux, c'est une autorisation d'exécution attachée au fichier qui décide, et renommer notes.txt en notes.exe ne le rend pas exécutable.

d) Les instructions d'un fichier .exe sont écrites pour un TYPE de processeur et pour un système d'exploitation donnés ; un téléphone a en général un processeur d'une autre famille et un autre système, qui ne comprennent pas ces instructions. C'est pour cela qu'un programme écrit en Python peut être traduit pour chaque type de processeur, alors qu'un .exe ne sert que sur la machine pour laquelle il a été produit. Quant au téléchargement, il montre qu'un programme est une DONNÉE : ses $85$ Mo ont été stockés sur un serveur, transportés par le réseau et écrits sur le disque exactement comme les $3{,}1$ Mo de la photo. Rien, dans le fichier lui-même, ne distingue un programme d'une image : c'est l'usage qu'on en fait qui les sépare.

a) La page contient $50\times 64=3\,200$ caractères, espaces compris : un espace est un caractère comme un autre, et il occupe un octet. Il faut y ajouter les $50$ caractères de fin de ligne, invisibles mais bien présents dans le fichier : $3\,200+50=3\,250$ caractères, donc $3\,250$ octets en ASCII, soit $3{,}25$ ko. On peut aussi raisonner ligne par ligne : $65$ octets par ligne, $50\times 65=3\,250$. Quant au mot « élève », il est impossible à écrire en ASCII strict : le code ne contient aucune lettre accentuée. Un texte français s'enregistre aujourd'hui en UTF-8, où les lettres non accentuées gardent leur octet unique et où « é » en prend deux ; la taille réelle d'une page française est donc un peu supérieure au calcul ASCII.

b) Un octet vaut $8$ bits, donc la page occupe $3\,250\times 8=26\,000$ bits. Le piège est de compter $7$ bits par caractère parce que le CODE ASCII tient sur $7$ bits : on obtiendrait $22\,750$ bits. Mais le fichier range chaque caractère dans un octet entier, le huitième bit restant à $0$ ; c'est la taille du fichier qu'on demande, pas celle du code. Distinguez aussi les deux unités dans l'écriture : « o » ou « B » pour l'octet, « b » ou « bit » pour le bit ; une confusion entre les deux fausse tout d'un facteur $8$.

c) Le roman compte $300$ pages identiques : $300\times 3\,250=975\,000$ octets, soit $975$ ko, un peu moins de $1$ Mo. C'est l'ordre de grandeur à retenir : un livre entier en texte brut pèse environ un mégaoctet. Le résultat surprend souvent, parce que le texte est ce qui nous paraît le plus « riche », alors que c'est l'information la plus économe à stocker : un caractère ne coûte qu'un octet, là où un seul point d'une image en couleurs en coûte déjà trois avant compression.

d) La photo pèse $3{,}1$ Mo, soit $3\,100\,000$ octets : $\dfrac{3\,100\,000}{3\,250}\approx 953{,}8$, donc environ $954$ pages, plus de trois romans entiers pour UNE photo, même compressée au format JPEG. La vidéo pèse $1{,}4$ Go, soit $1\,400\,000\,000$ octets : $\dfrac{1\,400\,000\,000}{975\,000}\approx 1\,435{,}9$, soit environ $1\,436$ romans, une bibliothèque municipale. Les ordres de grandeur à connaître : une page de texte, quelques ko ; un livre, environ $1$ Mo ; une photo ou une chanson de quelques minutes, quelques Mo ; une heure de vidéo, de l'ordre du Go. Chaque famille pèse environ mille fois la précédente, et c'est ce qui explique qu'on stocke sans y penser des milliers de textes, mais qu'une vidéo remplisse un téléphone.

a) Une valeur tient sur $16$ bits signés si elle est comprise entre $-32\,768$ et $32\,767$, BORNES COMPRISES. $20\,000$ convient, $32\,767$ aussi puisque c'est la borne supérieure, et $-32\,768$ également, c'est la borne inférieure. $40\,000$ dépasse la borne du haut et $-50\,000$ celle du bas. Réponse : $3$ valeurs. La plage n'est pas symétrique, $-32\,768$ d'un côté et $32\,767$ de l'autre, parce que $16$ bits donnent $2^{16}=65\,536$ combinaisons, partagées entre les $32\,768$ négatifs, le zéro et les $32\,767$ positifs.

b) Pour $v=32\,767$, le test v < 32767 est FAUX, puisque $32\,767$ n'est pas strictement inférieur à lui-même : la condition entière est fausse et la fonction renvoie False. De même, pour $v=-32\,768$, le test v > -32768 est faux, et la fonction renvoie False. Dans les deux cas, on attendait True. Ce genre d'erreur est le bogue le plus courant de tous : l'erreur de BORNE, un « strictement inférieur » écrit à la place d'un « inférieur ou égal ». Pour le trouver, on ne teste pas des valeurs au hasard, on teste exprès les bornes et leurs voisines immédiates.

c) La condition correcte est v >= -32768 and v <= 32767, avec des inégalités LARGES aux deux bouts. Écrire or à la place de and serait pire : toute valeur est soit supérieure à $-32\,768$, soit inférieure à $32\,767$, et la fonction renverrait toujours True. La version boguée refuse à tort exactement $2$ valeurs, les deux bornes ; elle répond juste pour toutes les autres. C'est ce qui rend les bogues si difficiles à voir : sur des milliers d'essais ordinaires, le programme paraît correct, et il suffit d'un cas limite pour qu'il se trompe.

d) Sur Ariane 5, la valeur vaut $890\,t$ au bout de $t$ secondes ; elle dépasse $32\,767$ quand $890\,t>32\,767$, soit $t>\dfrac{32\,767}{890}\approx 36{,}8$ s, ce qui correspond à la destruction observée. Sur Ariane 4, au bout de $40$ s, elle vaut $178\times 40=7\,120$, très loin de la limite : le même programme n'y avait jamais posé de problème. Le programme n'avait donc pas changé ; ce sont les DONNÉES qui avaient changé, la nouvelle fusée accélérant cinq fois plus vite horizontalement dans ce modèle. La protection contre le dépassement avait été jugée inutile pour Ariane 4, et personne n'avait revérifié cette hypothèse pour Ariane 5. La leçon tient en une phrase : un programme correct n'est correct que pour les données qu'on avait prévues.

a) On remplace $x$ par $150$ dans l'équation de la droite : $y=0{,}48\times 150+7=72+7=79$. Le modèle estime l'âge du chêne à $79$ ans environ. C'est une INTERPOLATION : $150$ cm est compris entre la plus petite circonférence mesurée, $45$ cm, et la plus grande, $190$ cm, là où le nuage montre que la droite suit bien les points. C'est exactement ce que fait un algorithme d'apprentissage le plus simple : il résume des exemples connus par une tendance, puis il l'applique à un cas nouveau.

b) Pour $x=120$, la droite prédit $0{,}48\times 120+7=57{,}6+7=64{,}6$ ans ; l'arbre en a réellement $67$, d'après ses cernes. L'écart vaut $67-64{,}6=2{,}4$ ans : le modèle sous-estime légèrement cet arbre. Aucun point du nuage n'est exactement sur la droite, et c'est normal : la droite minimise l'ensemble des écarts, elle ne passe par aucun point en particulier. Un écart de deux ou trois ans sur un chêne de soixante-dix ans est une précision tout à fait acceptable pour un forestier.

c) On cherche $x$ tel que $0{,}48x+7=60$, soit $0{,}48x=53$ et $x=\dfrac{53}{0{,}48}\approx 110{,}4$ cm. On lit ici la droite dans l'autre sens : on connaît l'âge et l'on cherche la circonférence. Le calcul est légitime tant qu'on reste dans la plage des données, et il se vérifie en remplaçant : $0{,}48\times 110{,}4+7\approx 60$.

d) Le modèle prédit $0{,}48\times 190+7=98{,}2$ ans, alors que l'arbre en a $62$ : il se trompe de $98{,}2-62=36{,}2$ ans, plus de la moitié de son âge réel. La cause n'est pas le calcul, c'est la REPRÉSENTATIVITÉ des données d'entraînement : les sept chênes viennent tous d'une forêt dense, où les arbres se disputent la lumière et grossissent lentement. Un chêne isolé dans un parc reçoit toute la lumière, grossit beaucoup plus vite, et paraît donc plus vieux qu'il n'est. Le modèle n'est pas faux, il est valable pour la population qui l'a produit, et pour elle seule. Pour $600$ cm, c'est une EXTRAPOLATION très loin des données : aucun arbre d'entraînement ne dépasse $190$ cm, et la croissance d'un très vieux chêne ralentit, si bien que rien ne garantit que la tendance reste une droite. La réponse du tableur, $0{,}48\times 600+7=295$ ans, n'a aucune valeur de preuve.

a) Avec $k=1$, on ne regarde que l'exemple le plus proche : il est à la distance $0{,}57$, et c'est une fauvette. L'application annonce « fauvette ». Remarquez qu'aucune règle du type « si la fréquence dépasse $5$ kHz, alors c'est une mésange » n'a été programmée : la réponse est lue directement dans les exemples. C'est le principe de l'apprentissage automatique : on ne dit pas à la machine COMMENT décider, on lui donne des cas déjà résolus.

b) Avec $k=3$, on retient les trois exemples les plus proches : $0{,}57$ (fauvette), $0{,}67$ (mésange) et $0{,}99$ (mésange). Cela fait $2$ mésanges contre $1$ fauvette : l'application annonce « mésange ». Le même point N change donc d'espèce entre $k=1$ et $k=3$. On choisit en général un $k$ impair pour éviter les égalités entre deux espèces.

c) Avec $k=5$, on ajoute les exemples à $1{,}14$ et $1{,}26$, deux fauvettes : on compte $3$ fauvettes et $2$ mésanges, et l'application revient à « fauvette ». La réponse dépend de $k$ parce que N est situé à la FRONTIÈRE entre les deux nuages : chaque valeur de $k$ regarde un voisinage de taille différente, et la majorité bascule selon les points qu'il englobe. Un $k$ trop petit rend la réponse sensible à un seul exemple, éventuellement erroné ; un $k$ trop grand finit par consulter des exemples éloignés, qui n'ont plus rien à dire sur N. Le paramètre $k$ est un choix humain, que l'on règle en testant l'algorithme sur des enregistrements dont on connaît déjà la réponse.

d) Après correction de l'étiquette, les cinq plus proches voisins sont : fauvette ($0{,}57$), mésange ($0{,}67$), mésange ($0{,}99$), mésange ($1{,}14$), fauvette ($1{,}26$). On compte maintenant $3$ mésanges contre $2$ fauvettes, et l'application annonce « mésange ». Personne n'a modifié le programme : c'est la correction d'UNE donnée d'entraînement qui a changé la réponse. Ici, la règle de décision n'est écrite nulle part, elle est contenue dans les données ; une erreur d'étiquetage devient donc une erreur de l'application, sans qu'aucune ligne de code soit fausse. C'est pourquoi la qualité des données, et d'abord la justesse de leurs étiquettes, compte autant que l'algorithme.

a) Les trois groupes totalisent $8\,400+1\,200+400=10\,000$ photographies. Les parts sont $\dfrac{8\,400}{10\,000}=84\ \%$ pour les peaux claires, $\dfrac{1\,200}{10\,000}=12\ \%$ pour les peaux intermédiaires et $\dfrac{400}{10\,000}=4\ \%$ pour les peaux foncées. Le diagramme le montrait d'un coup d'œil : la troisième barre est vingt et une fois plus courte que la première. Ces données ne sont pas « fausses », chaque diagnostic peut être juste ; elles ne sont pas REPRÉSENTATIVES de la population à laquelle le modèle sera appliqué.

b) Sur les $500$ photos de peaux foncées, le modèle répond juste $340$ fois, donc il se trompe $500-340=160$ fois, soit un taux de réussite de $\dfrac{340}{500}=68\ \%$. Sur les peaux claires, il se trompe $500-460=40$ fois, taux de réussite $92\ \%$. Le rapport des erreurs vaut $\dfrac{160}{40}=4$ : un patient à peau foncée a quatre fois plus de risques d'être mal orienté. Pour les peaux intermédiaires, $75$ erreurs et $85\ \%$ de réussite : la performance suit exactement la quantité d'exemples vus pendant l'entraînement.

c) Le taux « global » pondéré vaut $0{,}84\times 92+0{,}12\times 85+0{,}04\times 68=77{,}28+10{,}2+2{,}72=90{,}2\ \%$. Ce nombre est exact et pourtant trompeur : comme les peaux foncées ne pèsent que $4\ \%$ de la moyenne, leur mauvais résultat disparaît presque. Un modèle qui réussit $90\ \%$ en moyenne peut échouer une fois sur trois pour une partie de la population. Une moyenne résume un ensemble, elle ne dit rien de ce qui arrive à chaque groupe ; c'est pourquoi une évaluation sérieuse publie les résultats groupe par groupe.

d) Doubler toute la base à l'identique ne change rien : on aurait $16\,800$ peaux claires et $800$ peaux foncées, toujours $4\ \%$. Ce qui corrige le problème, c'est de COLLECTER des photographies diagnostiquées de peaux foncées jusqu'à une représentation suffisante, puis de réévaluer et de publier le taux de réussite de chaque groupe. Le problème est éthique parce que le modèle ne se trompe pas au hasard : il AMPLIFIE un déséquilibre des données en inégalité de soins, et il le fait de façon invisible derrière un bon chiffre global. Se pose aussi la question de la responsabilité : si un diagnostic manqué entraîne un retard de traitement, qui en répond, l'entreprise, le médecin qui a suivi l'avis de la machine, ou personne ?

a) FAUX. Le champ de l'intelligence artificielle est né en $1956$, lors d'un atelier de recherche tenu à Dartmouth, aux États-Unis, où le terme a été adopté. Il visait alors à simuler sur ordinateur les facultés cognitives humaines. L'approche dite symbolique, les systèmes experts fondés sur des règles écrites à la main, n'a pas tenu ses promesses. Énoncé correct : l'IA a soixante-dix ans ; les dialogueurs récents sont une application de son sous-domaine le plus actif aujourd'hui, l'apprentissage automatique, rendu possible par les données massives et la puissance de calcul.

b) FAUX. Depuis la machine universelle, un programme est rangé en mémoire comme n'importe quelle donnée. On le télécharge, on le copie sur une clé, on l'envoie par le réseau, et d'autres programmes le traitent : un traducteur transforme un programme Python en instructions pour un processeur donné. Énoncé correct : un programme est une donnée ; il se stocke, se transporte et se traite comme une image ou un texte, et c'est ce qui permet à une même machine d'exécuter n'importe quelle tâche.

c) FAUX, l'unité est la mauvaise. En ASCII, chaque caractère occupe un OCTET dans le fichier, même si son code tient sur $7$ bits. Le texte pèse donc $5\,000$ octets, soit $5\,000\times 8=40\,000$ bits. Énoncé correct : un texte de $5\,000$ caractères ASCII pèse $5\,000$ octets, environ $5$ ko, et $40\,000$ bits ; on n'oublie pas les espaces et les fins de ligne, qui sont aussi des caractères.

d) FAUX. Si les nouvelles données ont le même déséquilibre que les anciennes, le modèle apprend le même biais, avec plus d'assurance : dans l'exercice 7, doubler la base laisse les peaux foncées à $4\ \%$. Énoncé correct : ce qui réduit un biais, c'est la REPRÉSENTATIVITÉ des données, c'est-à-dire des exemples de tous les cas que le modèle rencontrera, et une évaluation groupe par groupe ; la quantité seule ne corrige rien.

e) FAUX. Deux grandeurs peuvent varier ensemble parce qu'une troisième les commande toutes les deux, par hasard sur un petit échantillon, ou parce que la cause va dans l'autre sens. Un algorithme d'apprentissage repère des corrélations, il ne sait pas pourquoi elles existent : c'est exactement le piège de l'exercice 10. Énoncé correct : une corrélation est un indice, pas une preuve ; établir une cause demande une expérience contrôlée ou une explication par un mécanisme, et la décision fondée sur cette cause reste une décision humaine.

a) On remplit d'abord les totaux de la maladie : $8\ \%$ de $5\,000$ font $400$ malades, et il reste $4\,600$ patients sains. Chez les $400$ malades, le logiciel est positif dans $87\ \%$ des cas : $0{,}87\times 400=348$ vrais positifs, donc $400-348=52$ faux négatifs. Chez les $4\,600$ sains, il est négatif dans $90\ \%$ des cas : $0{,}9\times 4\,600=4\,140$ vrais négatifs, donc $4\,600-4\,140=460$ faux positifs. Totaux des lignes : $348+460=808$ tests positifs et $52+4\,140=4\,192$ tests négatifs ; contrôle, $808+4\,192=5\,000$. Le piège est d'appliquer les $10\ \%$ d'erreur aux $5\,000$ patients au lieu des seuls $4\,600$ sains : chaque pourcentage s'applique à la colonne qu'il décrit.

b) Le patient positif appartient à la ligne des $808$ positifs ; parmi eux, $348$ sont malades. La probabilité qu'il soit malade vaut donc $\dfrac{348}{808}\approx 0{,}431$ : moins d'une chance sur deux, alors que le logiciel détecte $87\ \%$ des malades. C'est l'INFÉRENCE BAYÉSIENNE : on remonte de l'effet observé, le test positif, à la probabilité de sa cause, la maladie. Avant le test, la probabilité d'être malade était de $8\ \%$ ; le résultat positif la fait monter à environ $43\ \%$, sans en faire une certitude, parce que les $460$ faux positifs, pris dans une population onze fois et demie plus nombreuse, dépassent les $348$ vrais positifs. Pour un résultat négatif : $\dfrac{4\,140}{4\,192}\approx 0{,}988$ ; la probabilité d'être malade malgré tout tombe à $\dfrac{52}{4\,192}\approx 0{,}012$.

c) Rapportés à l'ensemble des patients, les faux positifs représentent $\dfrac{460}{5\,000}=0{,}092$, soit $9{,}2\ \%$, et les faux négatifs $\dfrac{52}{5\,000}=0{,}010\,4$, soit $1{,}04\ \%$. Les deux erreurs n'ont pas le même coût : un faux positif coûte une consultation inutile et une inquiétude passagère ; un faux négatif laisse une maladie évoluer sans soin. C'est pourquoi un logiciel de dépistage est souvent réglé pour réduire les faux négatifs, quitte à produire plus de faux positifs, que l'examen suivant éliminera.

d) Tous les positifs consultent : $808$ consultations au lieu de $5\,000$, et l'ophtalmologiste voit les $348$ malades testés positifs ; $52$ malades échappent au dépistage. Si l'on choisissait $808$ patients au hasard, on y trouverait en moyenne $8\ \%$ de malades, soit $0{,}08\times 808=64{,}64$, environ $65$. À nombre égal de consultations, le logiciel fait voir plus de cinq fois plus de malades : c'est son véritable apport. Il ne remplace pas le spécialiste, qui décide du diagnostic ; il trie les patients pour que le temps du spécialiste aille d'abord à ceux qui en ont probablement besoin.

a) Taux de décès des asthmatiques : $\dfrac{9}{600}=0{,}015$, soit $1{,}5\ \%$. Taux des non asthmatiques : $\dfrac{517}{9\,400}=0{,}055$, soit $5{,}5\ \%$. Dans ces dossiers, les asthmatiques meurent donc presque quatre fois moins souvent de leur pneumonie. La corrélation est réelle et nette : ce ne sont ni des erreurs de mesure, ni un effet du hasard sur un petit groupe, puisque $600$ patients est un effectif déjà conséquent.

b) Le modèle ne sait rien de la médecine : il associe l'asthme à un faible taux de décès et en déduit que l'asthme est un facteur PROTECTEUR. Il classerait donc un asthmatique atteint de pneumonie parmi les patients à faible risque, et recommanderait de le renvoyer chez lui. Or tout médecin sait que l'asthme fragilise les poumons et rend la pneumonie plus dangereuse. Le modèle n'a pas fait d'erreur de calcul : il a appris fidèlement une régularité de ses données, et c'est cette régularité qui trompe.

c) En soins intensifs : $\dfrac{540}{600}=90\ \%$ des asthmatiques, contre $\dfrac{1\,880}{9\,400}=20\ \%$ des non asthmatiques. Les médecins, sachant l'asthme dangereux, admettent presque tous les asthmatiques en soins intensifs, où ils sont surveillés et traités plus vite. À soins égaux, en service ordinaire, le taux de décès des asthmatiques vaut $\dfrac{4}{60}\approx 6{,}7\ \%$, celui des non asthmatiques $\dfrac{423}{7\,520}\approx 5{,}6\ \%$ : l'asthme AUGMENTE le risque. La corrélation globale s'explique par un FACTEUR CACHÉ, la décision médicale : l'asthme entraîne des soins intensifs, et ce sont eux qui font baisser la mortalité. Le modèle a pris l'effet d'un traitement pour une propriété de la maladie ; s'il était suivi, il supprimerait précisément les soins qui produisaient la corrélation.

d) Le problème est éthique parce que la décision concerne la vie de patients et que l'erreur ne se voit pas : le modèle affiche de bons résultats sur les données passées, et il ne dit pas sur quelles corrélations il s'appuie. Avant tout usage, il faut exiger un modèle dont on peut EXPLIQUER les prédictions, pour repérer une règle absurde comme celle-ci, une évaluation sur des patients nouveaux, et une RESPONSABILITÉ humaine clairement établie : c'est le médecin qui décide et qui répond de la décision, le modèle n'étant qu'une aide. S'y ajoute la protection des données personnelles : ces dossiers médicaux sont des données sensibles, dont l'usage pour entraîner un modèle doit être encadré.