Lect 17 ML Covariance Matrix and ROC

Lect 17 ML Covariance Matrix and ROC

Cours 17 ML Matrice de covariance et ROC

🎙 Artificial Neural Networks and Machine Learning 👥 144 📅 6 juillet 2025 ⏱ 27 min 👁 12 📄 tutoriel 🧭 2026-10-09
Disponible en : Français (actuel) English

Mots-clés

matrice de covariancevarianceseuil de décisionfaux positifclassifieur bayésien

Résumé

Cette séance de cours poursuit l’étude de la frontière de décision entre deux classes dont les matrices de covariance diffèrent. L’enseignant commence par rappeler la définition de la covariance comme mesure de la relation entre deux variables aléatoires, en distinguant covariance positive (les variables évoluent dans le même sens), covariance négative (sens opposés) et covariance nulle (absence de relation prévisible). Il présente ensuite la structure d’une matrice de covariance : les éléments diagonaux correspondent aux variances de chaque variable, les éléments hors diagonale aux covariances croisées, la matrice étant symétrique. Le calcul est illustré pas à pas sur un jeu de données de cinq étudiants décrits par trois variables (mathématiques, anglais, arts). La méthode proposée repose sur trois étapes matricielles : construction d’une matrice de centrage à partir d’un vecteur de uns, soustraction de la moyenne à chaque échantillon, puis produit de la matrice centrée transposée par elle-même, divisé par le nombre d’échantillons. L’application numérique donne des variances de 504 en mathématiques, 360 en anglais et 720 en arts, avec une covariance positive de 360 entre mathématiques et anglais, de 180 entre mathématiques et arts, et nulle entre anglais et arts. L’enseignant commente ces valeurs en les reliant à la dispersion observée dans les données brutes. La fin de la séance introduit la courbe ROC : tout classifieur utilise un seuil, dont la modification affecte les performances, et les courbes ROC permettent de distinguer la discriminabilité d’un système de son biais de décision lié au choix du seuil. L’exposé s’interrompt au moment où sont définies les notions de positifs et négatifs ainsi que de faux positifs.

266 mots

Évaluation critique

Valeur des informations & solidité de l’argumentation

La valeur informative de cette séance réside dans la clarification d’un point resté en suspens lors du cours précédent : l’origine concrète des matrices de covariance utilisées dans l’équation de la frontière de décision. L’enseignant ne se contente pas de rappeler la définition abstraite de la covariance ; il déroule une procédure complète et reproductible, depuis la table de données brute jusqu’à la matrice 3×3 finale, en explicitant chaque opération matricielle. L’argumentation est de nature pédagogique et procédurale : elle vise à rendre calculable ce qui était jusqu’alors posé comme donné. Le raisonnement est structuré et progresse par étapes clairement énoncées, avec une vérification par les données elles-mêmes — l’enseignant relie la variance la plus élevée (arts, 720) à la dispersion effective des notes observées, ce qui constitue un contrôle de cohérence appréciable. La distinction entre covariance positive, négative et nulle est illustrée par des cas concrets et interprétée en termes de comportement conjoint des variables, ce qui donne du sens aux nombres obtenus. On peut toutefois relever que la démonstration reste essentiellement calculatoire : les propriétés théoriques de la matrice de covariance (définie positive, symétrie, lien avec la forme quadratique de la densité gaussienne) ne sont pas approfondies, et le passage à l’inversion matricielle est expédié par un simple renvoi à un manuel. La transition vers la courbe ROC est amorcée mais non développée, ce qui laisse la seconde moitié du titre sans traitement complet. L’argumentation est donc solide dans sa dimension opératoire, plus légère dans sa dimension conceptuelle.

Rigueur scientifique, qualité des sources, adéquation du titre

La rigueur scientifique du contenu mathématique est satisfaisante : les définitions de la covariance, de la variance et de la symétrie matricielle sont exactes, la procédure de calcul par centrage puis produit matriciel est correcte et correspond à la formulation standard de la matrice de covariance empirique. Les valeurs numériques annoncées sont cohérentes avec les données présentées. En revanche, la qualité des sources est nulle au sens documentaire : aucune référence bibliographique n’est citée, aucun lien n’accompagne la vidéo, et l’enseignant renvoie vaguement à un « livre de maths » sans le nommer. Aucun article fondateur, manuel de référence ou jeu de données source n’est identifié, ce qui empêche toute vérification externe et toute traçabilité. L’adéquation entre le titre et le contenu est bonne pour la première partie : la matrice de covariance est traitée en détail et calculée intégralement. La seconde partie, la courbe ROC, n’est qu’introduite : les notions de seuil, de discriminabilité, de biais de décision, de positifs et négatifs sont posées, mais l’enregistrement s’arrête avant tout développement sur la construction et l’interprétation de la courbe elle-même. Le titre est donc exact quant aux thèmes, mais surestime légèrement ce qui est effectivement délivré sur le second. Aucun commentaire n’étant fourni, aucune analyse des tendances du public n’est proposée.

476 mots

Adéquation titre / contenu

Le titre annonce exactement les deux objets traités : la matrice de covariance (calcul détaillé sur un jeu de données) et la courbe ROC (introduite en fin de séance). L'adéquation est bonne, même si la partie ROC reste inachevée dans l'enregistrement.

Qualité & fiabilité

6/10

Cours magistral de niveau universitaire portant sur des notions mathématiques standard (covariance, matrice de covariance, inversion matricielle, courbe ROC). Les formules et le raisonnement sont corrects et cohérents avec la littérature classique de reconnaissance de formes. Aucune source externe n'est citée, aucun lien n'est fourni en description, et l'exposé reste purement procédural : il n'y a ni référence bibliographique, ni discussion des limites, ni validation empirique. La fiabilité tient donc à l'exactitude mathématique du contenu, non à un appareil de preuve documenté.

Moments clés

Repères établis par PSI à partir de la transcription : le créateur n'a pas défini de chapitres.

Apport & nouveautés

Cette séance n’apporte pas de résultat original au sens de la recherche : elle constitue une explication pédagogique d’outils statistiques établis de longue date. Son apport propre est didactique. Elle comble explicitement une lacune signalée en début de séance — l’origine des matrices de covariance utilisées dans l’équation de la frontière de décision — en fournissant une procédure complète, matricielle et reproductible, allant de la table de données brute à la matrice de covariance finale. L’articulation entre le calcul formel et l’interprétation concrète des valeurs obtenues, notamment la mise en correspondance de la variance la plus élevée avec la dispersion effective des notes, constitue un point pédagogique utile. La présentation de la méthode par centrage matriciel, plutôt que par la somme explicite des produits extérieurs, offre une formulation compacte et directement transposable à un langage de calcul vectoriel. Enfin, l’amorce sur la courbe ROC relie la question du seuil de décision à celle de la mesure de performance, ce qui prépare l’étude comparative des classifieurs.

Pour aller plus loin :

  • Matrice de covariance — Définition formelle, propriétés de symétrie et de semi-définie positivité, lien avec la variance et la corrélation.
  • Courbe ROC — Construction, aire sous la courbe et interprétation comme mesure de discriminabilité indépendante du seuil.
  • Analyse discriminante linéaire — Cadre théorique dans lequel s’inscrit la frontière de décision entre classes de matrices de covariance distinctes.
  • Matrice définie positive — Propriété structurelle de la matrice de covariance, utile pour comprendre son inversion et son usage dans la densité gaussienne.
  • Richard O. Duda, Peter E. Hart et David G. Stork, « Pattern Classification » — Manuel de référence couvrant la matrice de covariance, les classifieurs bayésiens et les courbes ROC.

280 mots

Profil radar

Le profil est celui d'un contenu pédagogique dense en procédure et correct sur le plan mathématique, mais dépourvu de tout appareil documentaire. La quantité d'information et le niveau technique sont élevés, portés par un calcul matriciel détaillé, tandis que la fiabilité globale reste limitée par l'absence de sources citées et de validation externe. Le déséquilibre entre la richesse du contenu et la faiblesse de la traçabilité est le trait dominant de ce radar.

Fiabilité 6/10