Ethics in Patient Preferences for Artificial Intelligence–Drafted Responses to Electronic Messages
Notice bibliographique
Résumé
Importance: The rise of patient messages sent to clinicians via a patient portal has directly led to physician burnout and dissatisfaction, prompting uptake of artificial intelligence (AI) to alleviate this burden. It is important to understand patient preferences around AI in patient-clinician communication as ethical guidelines on appropriate use and disclosure (patient notification of AI use) are developed. Objective: To analyze patient preferences regarding use of AI in electronic messages. Design, Setting, and Participants: A survey study was conducted within the Duke University Health System's patient advisory committee, consisting of individuals 18 years or older who participate in periodic surveys to inform health system patient care practices. Multiple surveys were administered to test the impact of different factors, including response author, disclosure (AI, human, or none), and seriousness of the topic. A follow-up survey assessed preferred disclosure verbiage. Surveys were administered from October 31 to December 11, 2023. Exposure: Multiple surveys. Main Outcomes and Measures: Participants rated their overall satisfaction, usefulness of the information, and perceived level of care on a 5-point Likert scale. Results: Of the 2511 members surveyed, 1455 (57.9%) responded, with respondents being older (median age, 57 [IQR, 49-70] vs 53 [IQR, 41-62] years), more educated (872 of 1083 [80.5%] vs 319 of 440 [72.5%] with a college or graduate degree), and predominantly female (921 [63.3%]). Participants preferred AI- compared with human-drafted responses, with a mean difference for satisfaction of -0.30 (95% CI, -0.37 to -0.23) points, usefulness of -0.28 (95% CI, -0.34 to -0.22) points, and perception they were cared for of -0.43 (95% CI, -0.50 to -0.37) points. Participants tended to have higher satisfaction with a human disclosure over AI disclosure, with a mean difference of 0.13 (95% CI, 0.05-0.22) points, and with no disclosure over AI authorship disclosure, with a mean difference of 0.09 (95% CI, 0.01-0.17) points. Regardless of author or disclosure type, more than 75% of respondents were satisfied (agree or strongly agree) with the response. Conclusions and Relevance: In this survey study, participants expressed a mild preference for messages written by AI but had a slightly decreased satisfaction when told AI was involved. Patient experience must be considered along with ethical implementation of AI. Although AI disclosure may slightly reduce satisfaction, disclosure should be maintained to uphold patient autonomy and empowerment.
Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.
Comment cette classification a été obtenuedéplier
Prédiction machine sur la base complète
Imitation des enseignantsNi prévalence calibrée, ni vérité terrain. Validation humaine à venir. Le volet Gemma est une étiquette directe du modèle pour chaque travail de la base, lue sur la notice réduite au titre. Le volet Codex est un classifieur appris des 10 348 étiquettes directes de Codex et calibré sur les taux pondérés de l'échantillon; les champs sans appui suffisant ne portent aucun appel Codex. Le mode candidate est l'union des deux volets; le consensus est leur intersection. Ces sorties portent le statut machine_predicted_unvalidated et ne sont pas des étiquettes humaines.
Scores du classifieur distillé par catégorie (deux têtes)
| Catégorie | Codex | Gemma |
|---|---|---|
| Métarecherche | 0,025 | 0,113 |
| Méta-épidémiologie (sens strict) | 0,000 | 0,000 |
| Méta-épidémiologie (sens large) | 0,000 | 0,001 |
| Bibliométrie | 0,001 | 0,001 |
| Études des sciences et des technologies | 0,001 | 0,001 |
| Communication savante | 0,001 | 0,001 |
| Science ouverte | 0,000 | 0,001 |
| Intégrité de la recherche | 0,001 | 0,001 |
| Charge utile insuffisante (le modèle a refusé de juger) | 0,004 | 0,001 |
Scores machine (provisoires)
Les deux têtes enseignantes du modèle étudiant, lues sur ce travail. Un score ordonne la base pour la relecture; il n'affirme jamais une catégorie, et le statut de validation accompagne chaque rangée tel quel.
Scores de référence d'un modèle non mature (critères de maturité non atteints, 7 itérations). Un score ordonne; il n'affirme jamais une catégorie.
score_only:v0-immature-baseline · tel quel depuis la passe de notation : score_only signifie que le nombre peut ordonner les travaux, et qu'aucune étiquette de catégorie n'en découleClassification
machine, non validéePrédiction automatique; un appel candidat d’une seule source (Gemma direct ou Codex distillé), pas un consensus.
Le détail, modèle par modèle et score par score, se trouve en fin de page sous « Comment cette classification a été obtenue ».