Les pathologies psychiatriques sont des maladies à hérédité complexe, résultant de l'action conjointe de plusieurs facteurs de risque, génétiques et environnementaux. Dans ces maladies, la corrélation entre le génotype et la maladie n'est pas directe et n'obéit pas aux lois de Mendel. Afin de pouvoir mettre en évidence les facteurs de risque génétiques dans les maladies complexes, il faut d'abord montrer l'existence d'une concentration familiale (agrégation familiale) de la maladie, puis montrer que cette agrégation est due à une composante génétique et la caractériser (nombre de facteurs impliqués, mode d'action...). Il faut ensuite localiser, identifier et préciser les effets de cette composante (gènes impliqués, polymorphismes fonctionnels, interactions entre les gènes et avec les facteurs d'environnement). Les études épidémiologiques permettent de mettre en évidence l'agrégation familiale d'une maladie. Les études de jumeaux et d'adoption et les analyses de ségrégation permettent de montrer l'implication de facteurs génétiques dans ces pathologies. Les études de liaison génétique, et plus récemment les études d'association, réalisées en utilisant les polymorphismes de l'acide désoxyribonucléique (ADN) (microsatellites ou des single nucleotid polymorphisms) permettent de définir les régions du génome pouvant contenir des gènes de susceptibilité (études de criblage systématique du génome). Les études fines des régions de susceptibilité permettent ensuite de définir les variants génétiques responsables de la susceptibilité génétique à la maladie, et la façon dont l'environnement module l'effet de ces gènes. Actuellement, les progrès de la génétique moléculaire rendent simple et peu coûteuse l'étude d'un grand nombre de polymorphismes génétiques pour un même individu. Cependant, la multiplication des tests conduit à conclure à l'implication de gènes de façon erronée (faux positifs dus à des tests multiples). De ce fait, la mise en évidence de sous-entités mendéliennes et la définition des phénotypes pertinents pour l'identification de la composante génétique des maladies psychiatriques, en faisant appel aux études de « symptômes-candidats » et d'endophénotypes, sont devenues nécessaires. De plus, l'étude des facteurs environnementaux nécessite d'être développée dans les maladies psychiatriques, car si les facteurs de susceptibilité génétique sont majoritairement impliqués dans ces pathologies, des facteurs environnementaux peuvent également intervenir dans l'expression phénotypique de la maladie.