S'abonner

Assessing the Applicability and Appropriateness of ChatGPT in Answering Clinical Pharmacy Questions - 20/11/23

Évaluation de l’Applicabilité et de la Pertinence de ChatGPT dans la Réponse aux Questions de Pharmacie Clinique

Doi : 10.1016/j.pharma.2023.11.001 
A. Fournier 1, C. Fallet 1, F. Sadeghipour 1, 2, 3, N. Perrottet 1, 2,
1 Service of Pharmacy, Centre Hospitalier Universitaire Vaudois, Lausanne, Switzerland 
2 School of Pharmaceutical Sciences, University of Geneva, University of Lausanne, Geneva, Switzerland 
3 Center for Research and Innovation in Clinical Pharmaceutical Sciences, Lausanne University Hospital and University of Lausanne, Lausanne, Switzerland 

Corresponding author: Service de Pharmacie BH 04, Centre Hospitalier Universitaire Vaudois (CHUV), 1011 Lausanne, SwitzerlandService de Pharmacie BH 04, Centre Hospitalier Universitaire Vaudois (CHUV)Lausanne1011Switzerland
Sous presse. Manuscrit accepté. Disponible en ligne depuis le Monday 20 November 2023
Cet article a été publié dans un numéro de la revue, cliquez ici pour y accéder

Abstract

Objectives: Clinical pharmacists rely on different scientific references to ensure appropriate, safe, and cost-effective drug use. Tools based on artificial intelligence (AI) such as ChatGPT (Generative Pre-trained Transformer) could offer valuable support. The objective of this study was to assess ChatGPT's capacity to correctly respond to clinical pharmacy questions asked by healthcare professionals in our university hospital.

Material and Methods : ChatGPT's capacity to respond correctly to the last 100 consecutive questions recorded in our clinical pharmacy database was assessed. Questions were copied from our FileMaker Pro database and pasted into ChatGPT March 14 version online platform. The generated answers were then copied verbatim into an Excel file. Two blinded clinical pharmacists reviewed all the questions and the answers given by the software. In case of disagreements, a third blinded pharmacist intervened to decide.

Results : Documentation-related issues (n=36) and drug administration mode (n=30) were preponderantly recorded. Among 69 applicable questions, the rate of correct answers varied from 30% to 57.1% depending on questions type with a global rate of 44.9%. Regarding inappropriate answers (n=38), 20 were incorrect, 18 gave no answers and 8 were incomplete with 8 answers belonging to 2 different categories. No better answers than the pharmacists were observed.

Conclusions : ChatGPT demonstrated a mitigated performance in answering clinical pharmacy questions. It should not replace human expertise as a high rate of inappropriate answers was highlighted. Future studies should focus on the optimization of ChatGPT for specific clinical pharmacy questions and explore the potential benefits and limitations of integrating this technology into clinical practice.

Le texte complet de cet article est disponible en PDF.

Résumé

Objectifs : Les pharmaciens cliniciens se basent sur différentes sources scientifiques pour garantir une utilisation appropriée, sûre et économique des médicaments. Les outils basés sur l'intelligence artificielle (IA) pourraient offrir un soutien précieux. L'objectif de cette étude était d'évaluer la capacité de ChatGPT (Generative Pre-trained Transformer) à répondre correctement aux questions de pharmacie clinique posées par les professionnels de la santé dans notre hôpital.

Méthodes : La capacité de ChatGPT à répondre correctement aux 100 dernières questions enregistrées dans notre base de données de pharmacie clinique a été évaluée. Les questions ont été copiées depuis notre base de données FileMaker Pro et collées dans la plateforme en ligne de la version ChatGPT du 14 Mars. Les réponses ont ensuite été copiées textuellement dans un fichier Excel. Les réponses ont été examinées par deux pharmaciens cliniciens, et un troisième, en cas de désaccord.

Résultats : Les problèmes liés à la documentation (n=36) et au mode d'administration des médicaments (n=30) ont été principalement enregistrés. Le taux de réponses correctes variait (30 % à 57,1 %) selon le type de question, avec un taux global de 44,9 %. Parmi les réponses inappropriées (n=38), 20 étaient incorrectes, 18 n'ont donné aucune réponse et 8 étaient incomplètes.

Conclusions : ChatGPT a démontré une performance mitigée dans la réponse aux questions de pharmacie clinique. Il ne devrait pas remplacer l'expertise humaine en raison d'un taux élevé de réponses inappropriées. Les futures études devraient optimiser ChatGPT pour des questions spécifiques de pharmacie clinique et explorer son intégration potentielle dans la pratique clinique.

Le texte complet de cet article est disponible en PDF.

Keywords : Artificial intelligence, Large language models, ChatGPT, Clinical Pharmacy, Healthcare professionals’ issues



© 2023  Académie Nationale de Pharmacie. Publié par Elsevier Masson SAS. Tous droits réservés.
Ajouter à ma bibliothèque Retirer de ma bibliothèque Imprimer
Export

    Export citations

  • Fichier

  • Contenu

Bienvenue sur EM-consulte, la référence des professionnels de santé.
L’accès au texte intégral de cet article nécessite un abonnement.

Déjà abonné à cette revue ?

Mon compte


Plateformes Elsevier Masson

Déclaration CNIL

EM-CONSULTE.COM est déclaré à la CNIL, déclaration n° 1286925.

En application de la loi nº78-17 du 6 janvier 1978 relative à l'informatique, aux fichiers et aux libertés, vous disposez des droits d'opposition (art.26 de la loi), d'accès (art.34 à 38 de la loi), et de rectification (art.36 de la loi) des données vous concernant. Ainsi, vous pouvez exiger que soient rectifiées, complétées, clarifiées, mises à jour ou effacées les informations vous concernant qui sont inexactes, incomplètes, équivoques, périmées ou dont la collecte ou l'utilisation ou la conservation est interdite.
Les informations personnelles concernant les visiteurs de notre site, y compris leur identité, sont confidentielles.
Le responsable du site s'engage sur l'honneur à respecter les conditions légales de confidentialité applicables en France et à ne pas divulguer ces informations à des tiers.