S'abonner

Evaluating the strength of evidence for statistically significant rehabilitation treatment effects - 02/03/21

Doi : 10.1016/j.rehab.2021.101503 
Adam R. Kinney, PhD, OTR/L 1, 2, , Addie Middleton, DPT, PhD 3, James E. Graham, PhD, DC, FACRM 4
1 Rocky Mountain Mental Illness Research, Education, and Clinical Center (MIRECC), Department of Veterans Affairs, Aurora, CO, United States 
2 Department of Physical Medicine and Rehabilitation, University of Colorado Anschutz Medical Campus, Aurora, CO, United States 
3 New England Geriatric Research Education and Clinical Center, VA Boston Healthcare System, Boston, MA, United States 
4 Department of Occupational Therapy, Colorado State University, Fort Collins, CO, United States 

Corresponding Author: Polytrauma/TBI Advanced Postdoctoral Fellow, Rocky Mountain Mental Illness Research, Education and Clinical Center, Department of Veterans Affairs, 1700 N Wheeling St. Aurora, CO 80045, United StatesPolytrauma/TBI Advanced Postdoctoral Fellow, Rocky Mountain Mental Illness Research, Education and Clinical Center, Department of Veterans Affairs, 1700 N Wheeling StAuroraCO80045United States
Sous presse. Manuscrit accepté. Disponible en ligne depuis le Tuesday 02 March 2021
Cet article a été publié dans un numéro de la revue, cliquez ici pour y accéder

Abstract

Background. Relying solely on null hypothesis significance testing to investigate rehabilitation interventions may result in researchers erroneously concluding the presence of a treatment effect.

Objective. We sought to quantify the strength of evidence in favour of rehabilitation treatment effects by calculating Bayes factors (BF10s) for significant findings. Additionally, we sought to examine associations between BF10s, p-values, and Cohen’s d effect sizes.

Methods. We searched the Cochrane Database of Systematic Reviews for meta-analyses with “rehabilitation” as a keyword that evaluated a rehabilitation intervention. We extracted means, standard deviations, and sample sizes for treatment and comparison groups from individual findings within 175 meta-analyses. Investigators independently classified the interventions according to the Rehabilitation Treatment Specification System. We calculated t-statistics, p-values, effect sizes, and BF10s for each finding. We isolated statistically significant findings (p ≤ 0.05); applied evidential categories to BF10s, p-values, and effect sizes; and examined relationships descriptively.

Results: We analysed 1,935 rehabilitation findings. Across intervention types, 25% of significant findings offered only anecdotal evidence in favour of a treatment effect; only 48% indicated strong evidence. This pattern persisted within intervention types and when conducting robustness analyses. Smaller p-values and larger effect sizes were associated with stronger evidence in favour of a treatment effect. However, a notable portion of findings with p-value 0.01 to 0.05 (63%) or a large effect size (18%) offered anecdotal evidence in favour of an effect.

Conclusions. For a substantial portion of statistically significant rehabilitation findings, the data neither support nor refute the presence of a treatment effect. This was the case among a notable portion of large treatment effects and for most findings with p-value > 0.01. Rehabilitation evidence would be improved by researchers adopting more conservative levels of significance, complementing the use of null hypothesis significance testing with Bayesian techniques and reporting effect sizes.

Le texte complet de cet article est disponible en PDF.

Keywords : Bayes factor, statistical power, null hypothesis significance testing, meta-research, meta-analysis, Bayesian analysis



© 2021  Publié par Elsevier Masson SAS.
Ajouter à ma bibliothèque Retirer de ma bibliothèque Imprimer
Export

    Export citations

  • Fichier

  • Contenu

Bienvenue sur EM-consulte, la référence des professionnels de santé.
L’accès au texte intégral de cet article nécessite un abonnement.

Déjà abonné à cette revue ?

Mon compte


Plateformes Elsevier Masson

Déclaration CNIL

EM-CONSULTE.COM est déclaré à la CNIL, déclaration n° 1286925.

En application de la loi nº78-17 du 6 janvier 1978 relative à l'informatique, aux fichiers et aux libertés, vous disposez des droits d'opposition (art.26 de la loi), d'accès (art.34 à 38 de la loi), et de rectification (art.36 de la loi) des données vous concernant. Ainsi, vous pouvez exiger que soient rectifiées, complétées, clarifiées, mises à jour ou effacées les informations vous concernant qui sont inexactes, incomplètes, équivoques, périmées ou dont la collecte ou l'utilisation ou la conservation est interdite.
Les informations personnelles concernant les visiteurs de notre site, y compris leur identité, sont confidentielles.
Le responsable du site s'engage sur l'honneur à respecter les conditions légales de confidentialité applicables en France et à ne pas divulguer ces informations à des tiers.


Tout le contenu de ce site: Copyright © 2024 Elsevier, ses concédants de licence et ses contributeurs. Tout les droits sont réservés, y compris ceux relatifs à l'exploration de textes et de données, a la formation en IA et aux technologies similaires. Pour tout contenu en libre accès, les conditions de licence Creative Commons s'appliquent.