Investigating How Clinicians Form Trust in an AI-Based Mental Health Model: Qualitative Case Study
Notice bibliographique
Résumé
Background: Trust in artificial intelligence (AI) remains a critical barrier to the adoption of AI in mental health care. This study explores the formation of trust in an AI mental health model and its human-computer interface among clinicians at a web-based mental health clinic in the Region of Southern Denmark with national coverage. Objective: This study aims to explore clinicians' perspectives on how trust is built in the context of an AI-supported mental health screening model and to identify the factors that influence this process. Methods: This was a qualitative case study using semistructured interviews with clinicians involved in the pilot of a mental health AI model. Thematic analysis was used to identify key factors contributing to trust formation. Results: Clinicians' initial attitudes toward AI were shaped by prior positive experiences with AI and their perception of AI's potential to reduce cognitive load in routine screening. Trust development followed a sequential pattern resembling a "trust journey": (1) sense-making, (2) risk appraisal, and (3) conditional decision to rely. Trust formation was supported by the explainability of the model, particularly through (1) visualization of confidence and uncertainty through violin plots, aligning with the clinicians' expectations of decision ambiguity; (2) feature attribution for and against predictions, which mirrored clinical reasoning; and (3) use of pseudo-sumscores in the AI model, which increased interpretability by presenting explanations in familiar clinical formats. Trust was contextually bounded to low-risk clinical scenarios, such as preinterview patient screening, and contingent on safety protocols (eg, suicide risk flagging). The use of both structured and unstructured patient data was seen as key to expanding trust into more complex clinical contexts. Participants also expressed a need for ongoing evaluation data to reinforce and maintain trust. Conclusions: Clinicians' trust in AI tools is contextually and sequentially constructed, influenced by both model performance and alignment with clinical reasoning. Interpretability features were essential in establishing intrinsic trust, particularly when presented in ways that resonate with clinical norms. For broader acceptance and responsible deployment, trust must be supported by rigorous evaluation data and the inclusion of clinically relevant data types in model design.
Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.
Comment cette classification a été obtenuedéplier
Prédiction machine sur la base complète
Imitation des enseignantsNi prévalence calibrée, ni vérité terrain. Validation humaine à venir. Le volet Gemma est une étiquette directe du modèle pour chaque travail de la base, lue sur la notice réduite au titre. Le volet Codex est un classifieur appris des 10 348 étiquettes directes de Codex et calibré sur les taux pondérés de l'échantillon; les champs sans appui suffisant ne portent aucun appel Codex. Le mode candidate est l'union des deux volets; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont pas des étiquettes humaines.
Scores du classifieur distillé par catégorie (deux têtes)
| Catégorie | Codex | Gemma |
|---|---|---|
| Métarecherche | 0,028 | 0,060 |
| Méta-épidémiologie (sens strict) | 0,001 | 0,001 |
| Méta-épidémiologie (sens large) | 0,001 | 0,001 |
| Bibliométrie | 0,002 | 0,002 |
| Études des sciences et des technologies | 0,013 | 0,013 |
| Communication savante | 0,006 | 0,007 |
| Science ouverte | 0,003 | 0,009 |
| Intégrité de la recherche | 0,003 | 0,006 |
| Charge utile insuffisante (le modèle a refusé de juger) | 0,003 | 0,000 |
Scores machine (provisoires)
Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.
Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.
score_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découleClassification
machine, non validéePrédiction automatique; un appel candidat d’une seule source (Gemma direct ou Codex distillé), pas un consensus.
Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».