MétaCan
Menu
Retour à la cohorte
Enregistrement W3175846204 · doi:10.24908/pceea.vi0.14934

Lessons Learned from Using Competency Based Assessment (CBA) in a First Year Engineering Statics Course

2021· article· en· W3175846204 sur OpenAlexaffvenueabout
Sean Maw, Shaobo Huang, Duncan Cree, Glyn Kennell, Wendy James

Notice bibliographique

RevueProceedings of the Canadian Engineering Education Association (CEEA) · 2021
Typearticle
Langueen
DomaineMedicine
ThématiqueInnovations in Medical Education
Établissements canadiensUniversity of Saskatchewan
Organismes subventionnairesnon disponible
Mots-clésMathematics educationCompetence (human resources)Course (navigation)Computer scienceTest (biology)PsychologyMedical educationEngineeringMedicine

Résumé

récupéré en direct d'OpenAlex

During the Fall term of 2020, the first year Statics course in the College of Engineering at theUniversity of Saskatchewan was taught remotely, and synchronously, using a competency-based assessment (CBA) implementation. CBA is commonly used in other professions, especially medical education and teacher education, but it has yet to see widespread use in engineering education.CBA can involve a number of key differences from conventional assessment practices. In this pilot, it involved the following key differences. Whereas previous versions of the course had involved assignments, labs, a midterm, and a final exam, each worth a certain weight in the overallcourse grade, the 2020 CBA version was broken into three modules, each with a “module test”. The module tests were superficially similar to a midterm, and there was no cumulative final exam. Open book assignments, quizzes, labs, and module tests consisted of questions and exercises that addressed a variety of learning outcomes (LOs) within the modules. The LOs were assigned weights in the overall course grade, as opposed to assigning weights to assessments themselves as in a conventional assessment system. Students could therefore overcome poor performances in early assessments of LOs, as better later results on the same LOs would replace the earlier results.A key feature of this approach was that students had at least two and typically three or more opportunities to exhibit competence with respect to the course’s LOs. Another key aspect of this CBA implementation was the division of course material into three levels or “types”. Type A materials were the most basic building blocks of the course i.e. basic definitions, calculations, and concepts. Type B materials were basic integrative problems e.g. solving a basic 2D or 3D particle or rigid body equilibrium question, or solving a basic truss. Type C materials were advanced or “tricky” integrative problems that probed deeper understanding and required more adaptive problem solving. Students were required to meet competency thresholds for Type A and B materials i.e. theyneeded to exhibit a minimal level of competency in the LOs in order to pass the course.Overall, the class excelled in this assessment format and anecdotal evidence suggests that the students enjoyed it. A summary description of the complete system will be presented in this paper, including how grades were determined, how assessments were conducted and evaluated, how LOs were determined, and how the three levels of material were arranged. As well, basic statisticalresults from the class’ performance will be presented, along with a number of observations made by the instructors and some anecdotal impressions conveyed to them by students. The observed outcomes will be compared with the CBA literature for related STEM contexts, although the remote learning/COVID context did obscure the causes and origins of some of the observed outcomes. Changes that will be made in next year’s implementation of the course will also be discussed.

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.

Comment cette classification a été obtenuedéplier

Prédiction machine sur la base complète

Imitation des enseignants

Ni prévalence calibrée, ni vérité terrain. Validation humaine à venir. Le volet Gemma est une étiquette directe du modèle pour chaque travail de la base, lue sur la notice réduite au titre. Le volet Codex est un classifieur appris des 10 348 étiquettes directes de Codex et calibré sur les taux pondérés de l'échantillon; les champs sans appui suffisant ne portent aucun appel Codex. Le mode candidate est l'union des deux volets; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont pas des étiquettes humaines.

score de la tête « metaresearch » (Codex)0,016
score de la tête « metaresearch » (Gemma)0,033
Version: metacan-v3-hybrid-931329e0061cStatut de validation: machine_predicted_unvalidated
Catégories candidatesaucune
Catégories consensuellesaucune
DomaineSignal candidat: aucune · Signal consensuel: aucune
Devis d'étudeSignal candidat: Observationnel · Signal consensuel: aucune
GenreSignal candidat: Empirique · Signal consensuel: aucune
Score de désaccord entre enseignants0,016
Score d'incertitude au seuil0,086

Scores du classifieur distillé par catégorie (deux têtes)

CatégorieCodexGemma
Métarecherche0,0160,033
Méta-épidémiologie (sens strict)0,0010,001
Méta-épidémiologie (sens large)0,0010,001
Bibliométrie0,0010,001
Études des sciences et des technologies0,0030,002
Communication savante0,0050,006
Science ouverte0,0040,004
Intégrité de la recherche0,0030,007
Charge utile insuffisante (le modèle a refusé de juger)0,0040,002

Scores machine (provisoires)

Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.

Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.

Tête enseignante Opus0,024
Tête enseignante GPT0,302
Écart entre enseignants0,278 · la distance entre les deux têtes enseignantes sur ce seul travail
Statut de validationscore_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découle

Classification

machine, non validée

Prédiction automatique; un appel candidat d’une seule source (Gemma direct ou Codex distillé), pas un consensus.

Les modèles n’ont appliqué aucune catégorie : rien dans la taxonomie ne correspondait à ce travail.
Devis d'étudeObservationnel
Domainenon disponible
GenreEmpirique

Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».

En bref

Citations8
Publié2021
Routes d'admission3
Résumé présentoui

Explorer davantage

Même revueProceedings of the Canadian Engineering Education Association (CEEA)Même sujetInnovations in Medical EducationTravaux en français237 207