Échantillonnage sémantique et classification des couleurs pour la recherche de personnes dans les vidéos
Bibliographic record
Abstract
Je tiens à remercier Dr. Guillaume-Alexandre Bilodeau, directeur de recherche au LITIV et responsable de ma Maîtrise.Je le remercie pour tout ce qu'il m'a appris au cours de ces deux années, pour son support, ses conseils, son expertise, ainsi que pour sa confiance et l'autonomie qu'il m'a accordée, et je me sens chanceux d'avoir travaillé avec lui.Merci !v RÉSUMÉ Dans le cadre de ce travail, nous nous intéressons à l'application de la recherche de personnes par une description par mots-clefs, dans des images issues de vidéos de sécurité.Avec ce type d'application, nous cherchons à décrire les personnes présentes dans des vidéos, selon des caractéristiques saillantes (e.g.couleurs des vêtements), sans nous intéresser à leurs identités qui sont inconnues a priori.Il s'agit ainsi d'une approche similaire à la génération de "portraits robots", qui peuvent alors être attachés aux images comme méta-données, facilitant ainsi la recherche de profils particuliers dans des vidéos (e.g. on cherche une personne avec un pantalon vert et un gilet bleu) .Dans un premier temps, nous identifions comme caractéristiques saillantes les vêtements, et en particulier nous cherchons à décrire précisément leurs couleurs.L'objectif de notre travail est ainsi le développement d'une méthode de classification des couleurs des vêtements dans les images qui se veut le plus proche possible de la perception humaine.Pour cela, nous nous intéressons à la fois au vocabulaire utilisé, qui se doit d'être suffisamment généraliste, et aux espaces de couleurs considérés, qui doivent pouvoir émuler les propriétés de la perception des couleurs humaine.Dans un second temps, nous nous intéressons à l'échantillonnage des pixels dans les images : celui-ci doit respecter la sémantique des personnes, et nous permettre d'échantillonner les pixels correspondant aux différents vêtements.Pour aborder ce problème, nous émettons l'hypothèse qu'un réseau de neurones profond peut être utilisé pour apprendre la sémantique des images utilisés comme données d'entraînement.Cette hypothèse est supportée par notre revue de la littérature. D'un point de vue technique, nous privilégions des méthodes d'apprentissage machine explicables, telles que les arbres de décisions.Nous avons développé ainsi une méthode pour décrire les couleurs présentes dans une image, de sorte d'être le plus proche possible de la manière dont des êtres humains les décriraient, à la fois en terme de vocabulaire et en terme d'espace colorimétrique.Concernant l'échantillonnage, nous cherchons à réduire la quantité de données d'entraînement requises en utilisant des méthodes d'apprentissage faiblement supervisées.Nous avons testé nos méthodes sur des jeux de données reconnus, tels que PCN-CNN et Colorful-Fashion.Dans un premier temps, nous montrons que sur ces jeux de données, notre méthode à base d'arbres de décisions atteint la performance des meilleurs modèles actuels, basées sur des réseaux de neurones profonds, pour la classification de couleurs (nous atteignons respectivement 80.4% et 83.0% de précisions sur ces deux jeux de données), et est vi capable de mieux généraliser pour d'autres domaines, sans ré-entraînement.Dans un second temps, nous montrons qu'utiliser une approche faiblement supervisée pour l'échantillonnage dans les images nous permet d'obtenir un gain de précision d'au moins 5% par rapport aux méthodes utilisant le même type de données d'entraînement.vii
Fetched live from OpenAlex and de-inverted. Abstracts are not stored in this database: the inverted indexes are 8.6 GB of the frame’s 9.3 GB of text, and the host has 13 GB free.
How this classification was reachedexpand
Direct model labels (unvalidated)
Per-model category and study-design labels from the labeling rounds. They are machine output, unvalidated, and the disagreement between models ships as data. No study design here is MEDLINE-validated yet.
| Model arm | Categories | Study design | Confidence |
|---|---|---|---|
| gemma | no category Domain: not available · Genre: Methods About the Canadian research system: no · About a Canadian topic: no | Simulation or modeling | low |
| gpt | no category Domain: not available · Genre: Methods About the Canadian research system: no · About a Canadian topic: no | Bench or experimental | low |
Full frame machine prediction
Teacher imitationNot calibrated prevalence, not ground truth. Human validation pending. The Gemma side is a direct model label for every work in the frame, read from the title-only record. The Codex side is a classifier learned from the 10,348 direct Codex labels and calibrated to design-weighted sample rates; fields without enough sample support carry no Codex call. Candidate is the union of the two sides; consensus is their intersection. These outputs are machine_predicted_unvalidated and are not human labels.
Distilled classifier scores by category (both heads)
| Category | Codex | Gemma |
|---|---|---|
| Metaresearch | 0.001 | 0.002 |
| Meta-epidemiology (narrow) | 0.002 | 0.000 |
| Meta-epidemiology (broad) | 0.001 | 0.001 |
| Bibliometrics | 0.001 | 0.001 |
| Science and technology studies | 0.000 | 0.000 |
| Scholarly communication | 0.001 | 0.001 |
| Open science | 0.001 | 0.001 |
| Research integrity | 0.001 | 0.001 |
| Insufficient payload (model declined to judge) | 0.010 | 0.004 |
Machine scores (provisional)
The two teacher heads of the student model, read on this work. A score orders the frame for review; it never asserts a category, and the validation status ships verbatim with every row.
Baseline scores from an immature model (maturity gate not passed, 7 training rounds). Scores rank; they never assert a category.
score_only:v0-immature-baseline · verbatim from the scoring run: score_only means the number may rank works, and no category label ships from itClassification
machine, unvalidatedLabeled directly by 2 models reading the full record.
The models disagree on parts of this classification; every voice is preserved in the section at the end of the page.
How this classification was reached, model by model and score by score, is at the end of the page under "How this classification was reached".