L’intelligence artificielle, et notamment l’apprentissage automatique, est de plus en plus utilisée en médecine, notamment dans le domaine cardiovasculaire. En particulier, la mise à disposition de bases de données de plus en plus importantes permet le développement d’algorithmes prédictifs avec l’ambition d’être plus performants que les modèles prédictifs classiques. Cependant, ces algorithmes basés sur l’intelligence artificielle ne sont pas dépourvus de biais, qui ne sont pas seulement présents dans les données d’entraînement, mais peuvent également survenir à toutes les étapes du développement, de la mise en œuvre et de l’utilisation des algorithmes.

Parmi ces biais, l’un des plus importants concerne la possibilité de généraliser les résultats à partir des données d’entraînement. Une conséquence peut être le biais de représentation : les groupes marginalisés étant souvent sous-représentés ou mal représentés dans les ensembles de données, cela peut entraîner des performances médiocres des algorithmes pour ces populations. Ce problème de généralisabilité, inhérent à tout algorithme prédictif, impose à titre de vérification une validation externe rigoureuse. Ce biais peut également se développer au fil du temps en cas d’algorithme évolutif, si l’algorithme apprend à partir de données biaisées ou si son utilisation dans la pratique clinique est biaisée.

Il existe aussi un certain nombre de biais liés intrinsèquement aux données, qui peuvent être mal étiquetées (biais d’annotation), dont les événements peuvent être mal évalués, ou dont les données manquantes peuvent être trop importantes. Les biais liés aux algorithmes en eux-mêmes incluent enfin le risque de surapprentissage, qui va également influer sur la généralisabilité du modèle, et sa fiabilité pour une population autre que la population d’entraînement. Enfin, le choix des données prédictives doit être soigneusement réfléchi, avec une collaboration proche des cliniciens avec les chercheurs et informaticiens, afin de s’assurer que la prédiction ait du sens, et anticiper le potentiel de l’algorithme à être explicable, ce qui va avoir un impact fort sur la confiance que vont lui accorder les utilisateurs.

Nous décrivons dans cette communication, de manière non exhaustive, les principaux biais liés aux algorithmes prédictifs, qui doivent être connus par la communauté médicale afin de pouvoir analyser les performances des algorithmes utilisant l’IA, dont le nombre augmente de façon exponentielle.