Alors que tous les cancers obéissent a priori aux mêmes lois simples (une cellule qui se divise à l’infini), aucune tumeur n’a la même évolution, que ce soit avant ou après radiothérapie. Le modèle linéaire-quadratique se présente comme la probabilité qu’a une tumeur donnée à être sensible à une telle thérapie. Ce modèle a évidemment des limites que l’on retrouve dans un certain nombre de situations pratiques, car il n’évalue pas les interactions des cellules tumorales avec les cellules du voisinage (endothéliales, les fibroblastes, les cellules immunitaires…) qui ont pourtant un rôle majeur sur la radiosensibilité et la dynamique globale de la tumeur. Ces interactions sont à l’origine de l’évolution complexe, non linéaire, de la tumeur qui paraît aléatoire mais ne l’est pourtant pas, sinon beaucoup de tumeurs disparaîtraient d’elles-mêmes. Nous proposons dans cet article de développer une approche déterministe, c’est-à-dire non aléatoire ou statistique, de cette dynamique via la théorie du chaos. Différentes caractéristiques de la dynamique et de la radiosensibilité tumorale peuvent être expliquées à l’aide de modèles de populations cellulaires en compétition.

Although the same simple laws govern cancer outcome (cell division repeated again and again), each tumour has a different outcome before as well as after irradiation therapy. The linear-quadratic radiosensitivity model allows an assessment of tumor sensitivity to radiotherapy. This model presents some limitations in clinical practice because it does not take into account the interactions between tumour cells and non-tumoral bystander cells (such as endothelial cells, fibroblasts, immune cells…) that modulate radiosensitivity and tumor growth dynamics. These interactions can lead to non-linear and complex tumor growth which appears to be random but that is not since there is not so many tumors spontaneously regressing. In this paper we propose to develop a deterministic approach for tumour growth dynamics using chaos theory. Various characteristics of cancer dynamics and tumor radiosensitivity can be explained using mathematical models of competing cell species.