S'abonner

Évaluation de l’intelligence artificielle : 30 questions ouvertes posées à ChatGPT - 30/11/23

Doi : 10.1016/j.rhum.2023.10.358 
J. Lasnier Siron 1, A. Bertrand 2, M. Kostine 3, O. Lichaud 4, E. Berard 2, N. Mehsen 1, T. Schaeverbeke 1, P. Germain 2,
1 Rhumatologie, CHU Pellegrin, Bordeaux, France 
2 Rhumatologie, hôpital Suburbain du Bouscat, Le Bouscat, France 
3 Rhumatologie, CH universitaire de Bordeaux, Bordeaux, France 
4 Médecine, rhumatologie, hôpital Suburbain, Le Bouscat, France 

Auteur correspondant.

Résumé

Introduction

Comme Internet il y a trente ans, l’avènement de l’intelligence artificielle (IA) va révolutionner notre pratique médicale. Dans cette étude, nous avons cherché à évaluer les réponses de l’IA à des questions cliniques et thérapeutiques simulées en rhumatologie, et les avons soumises à six rhumatologues. Nous avons utilisé un agent conversationnel génératif pré-entraîné (ChatGPT-4, OpenAI) capable d’utiliser des informations en langage naturel.

Matériels et méthodes

Trente questions ont été posées en langage naturel (le 23 mai), incluant à la fois des situations diagnostiques et cliniques rencontrées dans la pratique rhumatologique quotidienne. Ensuite, les réponses du logiciel IA ont été examinées indépendamment par six rhumatologues qui 1) ont évalué si les réponses étaient correctes ou non et 2) ont attribué une note de 1 à 5 selon leur niveau de satisfaction pour chaque réponse.

Résultats

Sur les 30 réponses fournies par l’IA, les rhumatologues ont estimé que 23 étaient correctes (78,3 %, écart-type 0,274). Le score de satisfaction moyen était de 3,70 sur une échelle de 5, avec un écart-type de 0,95. L’alpha de Cronbach a atteint une valeur de 0,90, confirmant la cohérence des scores de satisfaction avec un intervalle de confiance de 95 % [0,74, 0,98]. Pour certaines demandes spécifiques, la réponse était considérée comme moins optimale qu’une recherche classique dans la littérature, telle que des articles évalués par des pairs dans une base de données spécifique ou des recommandations de sociétés médicales spécifiques. Pour certaines questions évaluant le raisonnement clinique, les médecins estimaient que l’IA était moins utile qu’une discussion collégiale.

Discussion

L’intelligence artificielle est capable d’aider le rhumatoloque dans sa pratique quotidienne, sans certitude de réponses toujours fiables. Des travaux supplémentaires vont être menés afin d’évaluer cet outil, en particulier dans la gestion de tâches répétitives ; à terme, cet outil devrait permettre de libérer du temps (administratif, bureautique…) pour optimiser et améliorer le temps et la qualité de relation entre patient et médecin.

Conclusion

ChatGPT a fourni une réponse appropriée à des questions ouvertes spécifiques en rhumatologie dans environ 75 % des cas. Bien que l’IA ne soit pas encore un substitut au rhumatologue, notamment en ce qui concerne le raisonnement clinique, elle représente un outil prometteur, qui nécessite un apprentissage pour en tirer pleinement parti. Le clinicien doit cependant savoir ChatGPT n’est pas infaillible : le taux de réponses erronées a été évalué entre 20 et 35 % dans cette série de questions ouvertes.

Le texte complet de cet article est disponible en PDF.

Plan


© 2023  Publié par Elsevier Masson SAS.
Ajouter à ma bibliothèque Retirer de ma bibliothèque Imprimer
Export

    Export citations

  • Fichier

  • Contenu

Vol 90 - N° S1

P. A240 - décembre 2023 Retour au numéro
Article précédent Article précédent
  • Est-ce que les rhumatologues s’intéressent à la sexualité des patients atteints de rhumatismes inflammatoires chroniques ?
  • H. Tbini, K. Zouaoui, S. Rahmouni, M. Abbes, S. Boussaid, S. Rekik, H. Sahli, M. Elleuch
| Article suivant Article suivant
  • Perception des patients atteints de rhumatisme inflammatoire chronique sur leur suivi
  • A. Fazaa, S. Mahjoub, S. Miladi, Y. Makhlouf, H. Boussaa, L. Souebni, K. Ouenniche, S. Chekili, S. Kassab, K. Ben Abdelghani, A. Laatar

Bienvenue sur EM-consulte, la référence des professionnels de santé.
L’accès au texte intégral de cet article nécessite un abonnement.

Déjà abonné à cette revue ?

Elsevier s'engage à rendre ses eBooks accessibles et à se conformer aux lois applicables. Compte tenu de notre vaste bibliothèque de titres, il existe des cas où rendre un livre électronique entièrement accessible présente des défis uniques et l'inclusion de fonctionnalités complètes pourrait transformer sa nature au point de ne plus servir son objectif principal ou d'entraîner un fardeau disproportionné pour l'éditeur. Par conséquent, l'accessibilité de cet eBook peut être limitée. Voir plus

Mon compte


Plateformes Elsevier Masson

Déclaration CNIL

EM-CONSULTE.COM est déclaré à la CNIL, déclaration n° 1286925.

En application de la loi nº78-17 du 6 janvier 1978 relative à l'informatique, aux fichiers et aux libertés, vous disposez des droits d'opposition (art.26 de la loi), d'accès (art.34 à 38 de la loi), et de rectification (art.36 de la loi) des données vous concernant. Ainsi, vous pouvez exiger que soient rectifiées, complétées, clarifiées, mises à jour ou effacées les informations vous concernant qui sont inexactes, incomplètes, équivoques, périmées ou dont la collecte ou l'utilisation ou la conservation est interdite.
Les informations personnelles concernant les visiteurs de notre site, y compris leur identité, sont confidentielles.
Le responsable du site s'engage sur l'honneur à respecter les conditions légales de confidentialité applicables en France et à ne pas divulguer ces informations à des tiers.


Tout le contenu de ce site: Copyright © 2026 Elsevier, ses concédants de licence et ses contributeurs. Tout les droits sont réservés, y compris ceux relatifs à l'exploration de textes et de données, a la formation en IA et aux technologies similaires. Pour tout contenu en libre accès, les conditions de licence Creative Commons s'appliquent.