17世纪末18世纪初，瑞士数学家贝努里（JakobBernoulli，1654—1705）创立了贝努里定理，并提出概率论可应用于社会、伦理及经济事务的见解。贝努里定理的产生，为发现正态概率分布创造了条件。1733年，棣莫弗（AbrahamdeMoivre，1667—1754）提出了正态分布概率和概率的乘法运算法则，推广了贝努里定理，推导出“正态曲线方程”。几十年后，高斯（KarlFriedrichGauss，1777—1855）和拉普拉斯（PierreSimondeLaplace，1749—1827）各自独立发现了这个方程。高斯还首次提出了正态分布曲线。到 19世纪初期，泊松（SiméonDenisPoisson，1781—1840）积极推广贝努里定理，提出“大数定理”。这些数学家为概率论的发展作出了很大贡献，这个时期的概率论称为古典概率论。
（二）数理统计的产生与发展——描述统计学与推论统计学
数理统计学的奠基人是比利时的统计学家凯特勒（LambertAdolpheJacquesQuételet，1796—1874），他首先提出要把统计学与数学中的概率论相结合，以概率论为理论基础确立统计研究方法。1867年，德国的韦特斯坦（）第一次提出“数理统计”一词，以后又发展为数理统计学派。数理统计的发展经历了两个阶段：描述统计学与推论统计学。描述统计学产生于20世纪20年代之前，以高尔顿（FrancisGalton，1822—1911）和皮尔逊（KarlPearson，1857—1936）为代表。推论统计学产生于20年代之后，以费舍（RonaldAylmerFisher，1890—1962）为代表。这两个阶段是渐进发展的，在时间上并无明显的分界。
19世纪末期，在生物学、优生学、心理学的研究中，高尔顿努力探索简化数据的途径和方法，提出了中位数、百分位数、四分差等描述统计学的重要概念。在与他的学生皮尔逊研究人类智力与体力的遗传等问题时，提出了相关与回归概念，相关与回归系数的计算方法。皮尔逊发表了频率曲线理论，提出直线相关系数的计算方法。1900年，皮尔逊推导并系统地阐明了配合度检验方法，并将相关与回归理论扩展到许多领域，为大样本理论奠定了基础。他的贡献，为推论统计学的发展准备了一定的条件。
1908年，英国数理统计学家格赛特（WilliamSealyGosset，1876—1937）有感于大样本理论的限制，开始建立小样本理论，提出了一种根据样本资料估计均数的检验方法，即t分布理论，从而开辟了在样本数目较小的情况下进行统计推论的新途径，但这一工作未能得到老师皮尔逊的重视。直到1923年经费舍数理论证，指出其应用价值后，这种小样本技术才得到广泛承认。t检验也成为今天应用得非常广泛的统计检验方法之一。
推论统计真正的创始者是英国的费舍，他是20世纪初对统计学作出最大贡献的科学家。他将皮尔逊及格赛特的工作发扬光大，对t分布给出理论论证，最先提出F分布理论，后被命名为F分布，使方差分析系统化。第一次世界大战后，他在农业试验中首倡 “实验设计”，提出了随机化概念，建立了点估计与区间估计理论，发展并确立了推论统计思想，使统计方法的应用范围更为广泛。1925年，他出版了数理统计名著《研究工作者用统计方法》一书，对促进推论统计学的发展影响很大。1938年他与耶茨（FrankYates，1902—1994）合编《供生物、农业与医学研究用统计表》，1956年出版了《统计方法与科学推论》。第二次世界大战以后，非参数方法、序列分析、随机过程的研究、小样本分布这些都逐渐被认识和应用。而且随着一元统计方法的逐步完善与拓宽，多元统计理论与方法也被应用到各种实际研究中去。数理统计由此产生了许多应用分支学科，为工农业生产及科学研究开辟了广阔的应用前景。同时，实践的发展又为数理统计的发展提出了很多新课题。
