MétaCan
Menu
Retour à la cohorte
Enregistrement W4390690726 · doi:10.55016/ojs/cpai.v7i1.77675

Who Wrote This?

2024· article· en· W4390690726 sur OpenAlexaff
Rahul Kumar, Michael Mindzak

Notice bibliographique

RevueCanadian Perspectives on Academic Integrity · 2024
Typearticle
Langueen
DomainePsychology
ThématiqueEducational Strategies and Epistemologies
Établissements canadiensBrock University
Organismes subventionnairesDeakin University
Mots-clésSession (web analytics)Computer scienceThe InternetSample (material)Generative grammarReflection (computer programming)Composition (language)Artificial intelligencePsychologyMathematics educationWorld Wide WebLinguistics

Résumé

récupéré en direct d'OpenAlex

This article explores the impact of artificial intelligence (AI) on written compositions in education. The study examines participants’ accuracy in distinguishing between texts generated by humans and those produced by generative AI (GenAI). The study challenges the assumption that the listed author of a paper is the one who wrote it, which has implications for formal educational systems. If GenAI text becomes indistinguishable from human-generated text to a human instructor, marker, or grader, it raises concerns about the authenticity of submitted work. This is particularly relevant in post-secondary education, where academic papers are crucial in assessing students’ learning, application, and reflection. The study had 135 participants who were randomly presented with two passages in one session. The passages were on the topic of “How will technology change education?” and were placed into one of three pools based on the source of origin: written by researchers, generated by AI, and searched and copied from the internet. The study found that participants were able to identify human-generated texts with an accuracy rate of 63%. But with an accuracy of only 24% when the composition was AI-generated. However, the study also had limitations, such as limited sample size and an older predecessor of the current GenAI software. Overall, this study highlights the potential impact of AI on education and the need for further research to evaluate comparisons between AI-generated and human-generated text.

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Prédiction machine sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Le volet Gemma est une étiquette directe du modèle pour chaque travail de la base, lue sur la notice réduite au titre. Le volet Codex est un classifieur appris des 10 348 étiquettes directes de Codex et calibré sur les taux pondérés de l'échantillon; les champs sans appui suffisant ne portent aucun appel Codex. Le mode candidate est l'union des deux volets; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont pas des étiquettes humaines.

score de la tête « metaresearch » (Codex)0,009
score de la tête « metaresearch » (Gemma)0,049
Version: metacan-v3-hybrid-931329e0061cStatut de validation: machine_predicted_unvalidated
Catégories candidatesIntégrité de la recherche
Catégories consensuellesaucune
DomaineSignal candidat: aucune · Signal consensuel: aucune
Devis d'étudeSignal candidat: Sans objet · Signal consensuel: aucune
GenreSignal candidat: Empirique · Signal consensuel: aucune
Score de désaccord entre enseignants0,999
Score d'incertitude au seuil0,070

Scores du classifieur distillé par catégorie (deux têtes)

CatégorieCodexGemma
Métarecherche0,0090,049
Méta-épidémiologie (sens strict)0,0000,000
Méta-épidémiologie (sens large)0,0000,000
Bibliométrie0,0010,001
Études des sciences et des technologies0,0060,005
Communication savante0,0060,005
Science ouverte0,0010,002
Intégrité de la recherche0,0010,002
Charge utile insuffisante (le modèle a refusé de juger)0,0210,007

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,054
Tête enseignante GPT0,375
Écart entre enseignants0,321 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Prédiction automatique; un appel candidat d’une seule source (Gemma direct ou Codex distillé), pas un consensus.

Devis d'étudeSans objet
Domainenon disponible
GenreEmpirique

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations33
Publié2024
Routes d'admission1
Résumé présentoui

Explorer davantage

Même revueCanadian Perspectives on Academic IntegrityMême sujetEducational Strategies and EpistemologiesTravaux en français237 207