MétaCan
Menu
Retour à la cohorte
Enregistrement W4361768408 · doi:10.7202/1097750ar

BERT, GPT-3, Timnit Gebru et nous

2023· article· fr· W4361768408 sur OpenAlexaffvenue
Jonathan Roberge, Tom Lebrun

Notice bibliographique

RevueSociologie et sociétés · 2023
Typearticle
Languefr
DomaineComputer Science
ThématiqueExplainable Artificial Intelligence (XAI)
Établissements canadiensUniversité Laval
Organismes subventionnairesnon disponible
Mots-clésHumanitiesPhilosophyPolitical science

Résumé

récupéré en direct d'OpenAlex

Le déploiement aujourd’hui de modèles sémantiques automatisés tels le BERT de Google ou le GPT-3 d’OpenAI se montre comme un remarquable défi pour l’inscription de l’herméneutique au coeur même du projet des sciences sociales. L’intelligence artificielle est bel et bien à la conquête du langage. Cela implique d’abord qu’il faille prendre au sérieux les possibilités et la puissance de tels modèles, en se penchant sur l’histoire récente des avancées technologiques en apprentissage profond et les modi operandi de ces machines interprétantes. Cela implique ensuite de s’attarder au type de compréhension mis en jeu, à savoir principalement comment le calcul de probabilité, de variation et de seuil par exemple vient vectoriser le langage pour le restituer à la manière d’un perroquet. Larticle aborde le renvoi par Google de la chercheure Timnit Gebru suivant la parution de « On the Danger of Stochastic Parrots » pour montrer comment la valeur du traitement automatisé du langage tient tant au monde qu’il met de l’avant qu’à sa référence à un contexte précis. Cela, enfin, doit permettre de circonscrire les apories économiques, politiques et éthiques autour de ces modèles, notamment le fait que les plateformes les développant font l’impasse sur la manière dont ils procèdent par extraction et instrumentalisation du sens. À terme, c’est ce lien étroit entre signification et déplacement des centres de pouvoir qui devient l’enjeu central des Critical AI Studies .

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Prédiction distillée sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Apprise à partir de 10 348 étiquettes directes de Codex et de 10 348 étiquettes directes de Gemma. Le mode candidate est l'union des têtes enseignantes seuillées; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont ni des étiquettes humaines ni des étiquettes directes de modèles de pointe.

score de la tête « metaresearch » (Codex)0,004
score de la tête « metaresearch » (Gemma)0,002
Version: codex-gemma-dda1882f352aStatut de validation: machine_predicted_unvalidated
Catégories candidatesMéta-épidémiologie (sens strict), Charge utile insuffisante (le modèle a refusé de juger)
Catégories consensuellesCharge utile insuffisante (le modèle a refusé de juger)
DomaineSignal candidat: aucune · Signal consensuel: aucune
Devis d'étudeSignal candidat: Théorique ou conceptuel · Signal consensuel: Théorique ou conceptuel
GenreSignal candidat: Empirique · Signal consensuel: aucune
Score de désaccord entre enseignants0,746
Score d'incertitude au seuil1,000

Scores Codex et Gemma par catégorie

CatégorieCodexGemma
Métarecherche0,0040,002
Méta-épidémiologie (sens strict)0,0010,001
Méta-épidémiologie (sens large)0,0010,001
Bibliométrie0,0000,002
Études des sciences et des technologies0,0010,001
Communication savante0,0010,001
Science ouverte0,0020,002
Intégrité de la recherche0,0010,002
Charge utile insuffisante (le modèle a refusé de juger)0,0020,026

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,573
Tête enseignante GPT0,534
Écart entre enseignants0,038 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Prédiction automatique; les deux têtes enseignantes s’accordent sur ce qui est montré ici.

Devis d'étudeThéorique ou conceptuel
Domainenon disponible
GenreEmpirique

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations1
Publié2023
Routes d'admission2
Résumé présentoui

Explorer davantage

Même revueSociologie et sociétésMême sujetExplainable Artificial Intelligence (XAI)Travaux en français237 207