On peut dire que la statistique consiste en l'étude d'observations. Les domaines d'application de la statistique sont donc nombreux et diversifiés ; en effet, presque tous les domaines qui se prêtent à des observations numériques peuvent en être des champs d'application. La statistique s'applique donc en biologie, en médecine, en psychologie, en politique, à la justice, à la production industrielle, etc.

Le fait que la statistique soit utilisée dans plusieurs domaines de la connaissance, en utilisant des principes généraux et acceptant parfois, selon le domaine, des techniques différentes, nous incite à définir la statistique en des termes quelque peu abstraits.

La statistique est la science ayant pour objet l'étude quantitative des populations, à l'aide de données représentatives, le plus souvent incomplètes, et comportant généralement, de ce fait, un caractère d'incertitude.

La pratique de la statistique peut se présenter selon trois domaines d'action :

a) la planification de la collecte des observations ;

b) la description et la présentation des observations ;

c) l'inférence relative au phénomène étudié.

a) La planification de la collecte des observations

Puisque les observations forment le matériau sur lequel la science statistique applique ses principes et ses méthodes, il faut donc que les façons de choisir les observations satisfassent certains critères si l'on veut atteindre les objectifs poursuivis. Cette tâche peut sembler facile a priori. Néanmoins, le statisticien doit souvent consacrer plusieurs heures de son temps à s'assurer que les observations à obtenir soient d'excellente qualité, c'est-à-dire fiables, assez nombreuses et pertinentes à l'étude à réaliser. Ce premier domaine d'action de la statistique se retrouve en particulier sous des titres comme la planification des expériences, la théorie de l'échantillonnage et les techniques de sondage.

b) La description et la présentation des observations

Lorsque les observations sont nombreuses, il faut utiliser des moyens pour les résumer, pour en faire ressortir les aspects particuliers et, enfin, pour discriminer les caractéristiques importantes des attributs secondaires du phénomène étudié. Si le fichier d'observations est grand et complexe, il faudra que le statisticien se montre ingénieux afin de faire une description et une présentation utiles à l'utilisateur. Le recours à l'informatique et à  des méthodes statistiques particulières devient alors nécessaire. Ce deuxième domaine d'action se retrouve en particulier sous des titres comme la statistique descriptive, l'analyse en composantes principales et la classification.

c) L'inférence relative au phénomène étudié

L'inférence est sans doute la partie la plus théorique de la statistique. La pratique de l'inférence statistique exige la connaissance de la théorie des probabilités et des mathématiques en général. L'inférence dont il est question ici est ce mode de raisonnement qui va du particulier au général, qui permet, à partir de l'observation d'un certain nombre de faits, d'exprimer une règle valable pour tous les faits, même ceux non encore observés et même ceux qui ne le seront jamais. Il devient évident qu'une telle généralisation est accompagnée d'un certain niveau d'incertitude. Ce qui caractérise la décision statistique et la rend des plus valables est que la science statistique, par ses principes et ses méthodes, permet d'évaluer ce niveau d'incertitude. Ce troisième domaine d'action se retrouve en particulier sous des titres comme l'estimation et la théorie des tests d'hypothèses.