S'abonner

A Bayesian analysis of non-significant rehabilitation findings: Evaluating the evidence in favour of truly absent treatment effects - 07/10/20

Doi : 10.1016/j.rehab.2020.07.008 
Adam R. Kinney a, b, , Addie Middleton c, James E. Graham d
a Department of Veterans Affairs, Rocky Mountain Mental Illness Research, Education and Clinical Center (MIRECC), Aurora, CO, USA 
b Department of Physical Medicine and Rehabilitation, University of Colorado Anschutz Medical Campus, Aurora, CO, USA 
c New England Geriatric Research Education and Clinical Center, VA Boston Healthcare System, Boston, MA, USA 
d Department of Occupational Therapy, Colorado State University, Fort Collins, CO, USA 

Corresponding author. Department of Veterans Affairs, Polytrauma/TBI Advanced Postdoctoral Fellow, Rocky Mountain MIRECC, 1700 N Wheeling street, 80045 Aurora, CO, USA.Department of Veterans Affairs, Polytrauma/TBI Advanced Postdoctoral Fellow, Rocky Mountain MIRECC1700 N Wheeling streetAurora, CO80045USA
Sous presse. Épreuves corrigées par l'auteur. Disponible en ligne depuis le Wednesday 07 October 2020
Cet article a été publié dans un numéro de la revue, cliquez ici pour y accéder

Abstract

Background

Relying solely on null hypothesis significance testing (NHST) to investigate rehabilitation interventions may result in researchers erroneously concluding the absence of a treatment effect.

Objective

We aimed to distinguish between truly null treatment effects and data that are insensitive to detecting treatment effects by calculating Bayes factors (BF01s) for non-significant findings in the rehabilitation literature. Additionally, to examine associations between BF01, sample size, and observed P-values.

Method

We searched the Cochrane Database of Systematic Reviews for meta-analyses with “rehabilitation” as a keyword that clearly evaluated a rehabilitation intervention. We extracted means, standard deviations, and sample sizes for treatment and comparison groups for individual findings within 175 meta-analyses. Two independent investigators classified the interventions into 4 categories using the Rehabilitation Treatment Specification System. We calculated t-statistics and associated P-values for each finding in order to extract non-significant results (P>0.05). We calculated BF01s for 5790 non-significant results and classified BF01s based on the strength of evidence in favour of the null hypothesis (i.e., anecdotal, moderate, and strong) across and within intervention types. We examined correlations between BF01, sample size, and P-values across and within intervention types.

Results

Across all intervention types, most (71.9%) findings were deemed anecdotal, and this pattern remained within distinct intervention types (58.4–76.0%). Larger sample sizes tended to be associated with greater strength in favour of the null hypothesis, both across and within intervention types. Larger P-values were not associated with greater strength in favour of the null hypothesis; this finding was present both across and within intervention types.

Conclusion

Our findings indicate that most non-significant rehabilitation findings are unable to distinguish between the true absence of a treatment effect and data that are merely insensitive to detecting a treatment effect. Findings also suggest that rehabilitation researchers may improve the strength of their statistical conclusions by increasing sample size and that Bayes factors may offer unique benefits relative to P-values.

Le texte complet de cet article est disponible en PDF.

Keywords : Bayes factor, Statistical power, Null hypothesis significance testing, Meta-research, Meta-analysis, Bayesian analysis


Plan


© 2020  Publié par Elsevier Masson SAS.
Ajouter à ma bibliothèque Retirer de ma bibliothèque Imprimer
Export

    Export citations

  • Fichier

  • Contenu

Bienvenue sur EM-consulte, la référence des professionnels de santé.
L’accès au texte intégral de cet article nécessite un abonnement.

Déjà abonné à cette revue ?

Mon compte


Plateformes Elsevier Masson

Déclaration CNIL

EM-CONSULTE.COM est déclaré à la CNIL, déclaration n° 1286925.

En application de la loi nº78-17 du 6 janvier 1978 relative à l'informatique, aux fichiers et aux libertés, vous disposez des droits d'opposition (art.26 de la loi), d'accès (art.34 à 38 de la loi), et de rectification (art.36 de la loi) des données vous concernant. Ainsi, vous pouvez exiger que soient rectifiées, complétées, clarifiées, mises à jour ou effacées les informations vous concernant qui sont inexactes, incomplètes, équivoques, périmées ou dont la collecte ou l'utilisation ou la conservation est interdite.
Les informations personnelles concernant les visiteurs de notre site, y compris leur identité, sont confidentielles.
Le responsable du site s'engage sur l'honneur à respecter les conditions légales de confidentialité applicables en France et à ne pas divulguer ces informations à des tiers.


Tout le contenu de ce site: Copyright © 2024 Elsevier, ses concédants de licence et ses contributeurs. Tout les droits sont réservés, y compris ceux relatifs à l'exploration de textes et de données, a la formation en IA et aux technologies similaires. Pour tout contenu en libre accès, les conditions de licence Creative Commons s'appliquent.