1，卡丹诺《机遇博弈》 The Book of Games of Chance, 出版于1663年，成书于约1564年。意大利。这是已知的第一本概率论著作。该书对古典概率的定义和计算作了总结和整理。可以将古典概率的发明权归于他的名下。但是卡丹诺作为一个经验丰富的赌博家，在其著作中却没有记载任何关于在实际赌博中各种结果出现的频率。这也说明卡丹诺对于频率和概率之间的关系尚无明确认识。我们也可由此推测其同时代的人及更早的人也都没有认识到这一点。

2，帕斯卡与费尔马的通信，在1654年7-10月之间来往的7封信，其中帕斯卡致费尔马3封，这些信都是讨论具体的赌博问题。与此前的人一样，他们用计算等可能的有利与不利情况数，来作为计算“机遇数”—我们现在称之为概率—的方法。当然，他们没有使用概率这个名称。与前人相比，他们的方法更加精细和复杂，广泛使用了组合工具和递推公式，初等概率的一些基本规律也都用上了，引进了赌博的值(value)这一概念。3年后即1657年，惠更斯将“值”更名为至今通用的“期望”(expectation). 促使帕斯卡和费尔马进行这段通信的是一个名叫德梅尔的赌徒。

2.5，有的历史学者认为这些信件奠定了概率论的基础。但也应注意到这些通信都是讨论具体问题，没有提炼出也没有明确陈述概率运算的基本原则。纵然帕斯卡和费尔马视为当然地使用了概率的可加性和乘法定理，但他们没有将之作为一般的原则凸显出来。（对比：没有人怀疑欧几里得证明了勾股定理但是很多人都怀疑勾三股四弦五的证明）。

3，惠更斯《机遇的规律》。该书的写作方式更接近于一篇论文而不是一本书。惠更斯从关于公平赌博(fair game)的期望的一条公理出发，推出3条定理，并利用递推法等工具解决了当时人们感兴趣的一些机遇博弈问题。在此书中惠更斯还提出了5个问题，他自己对其中3个给出了回答但未加证明。

4，Jacob Bernoulli, 伯努利 《推测术》Ars Conjectandi. 瑞士。
把概率论由局限于对赌博机遇的讨论拓展出去的转折点和标志，是1713年伯努利划时代的著作《推测术》的出版，此书的精华在于提出了“大数定律”。这本著作的出版标志着概率这一概念漫长的形成过程的终结，概率这一概念由朴素走向严格，也标志则数学概率论的开端。

参考：陈希孺，《数理统计学简史》.很多话是直接摘录下来的。

我们用一个具体的例子来说明大数定律。最方便的是使用古典概率模型。罐子里有\((m+n)\)个球，红\(m\)个，白\(n\)个。取出红球的概率为\(p=m/(m+n)\). 可放回重复取\(N\)次，我们发现取出红球的次数为\(X\), 人们都同意，\(X/N\)大致上等于\(p\).而且\(N\)越大，\(X/N\)就越接近于\(p\). 正如伯努利所言：这一事实“哪怕是最愚笨的人，也会经由他的本能，不须他人的教诲而理解的”。而这个直观上的命题当时却无人能给出一个严格的证明。伯努利认识到这个问题，对于上述的直观问题给出了清晰、恰当的叙述以及严格的证明。

所谓恰当的叙述是指“\(X/N\)大致上等于\(p\)，而且\(N\)越大，\(X/N\)就越接近于\(p\). ”这句话的含义究竟是什么。我们现在很容易知道其含义是
对任意\(\varepsilon>0\)，\(|X/N-p|<\varepsilon\)这一事件的概率趋向于0.这也就是Bernoulli大数定律。

伯努利充分地认识到了大数定律的含义，无论是数学上的还是哲学上的。伯努利的原始证明很长，现在的证明很简单。我们直接引用伯努利的话：

Further, it cannot escape anyone that for judging in this way about any event at all, it is not enough to use one or two trials, but rather a great number of trials is required. And somethimes the stupidest man--by some instinct of nature per se and by no previous instruction (this is truly amazing)--knows for sure that the more observations of this sort that are taken, the less the danger will be of straying form the mark.
简而言之，伯努利说“频率逼近概率”是“笨人皆知”的事实。

Something further must be comtemplated here which perhaps no one has thought about till now. It certainly remains to inquired whether after the number of observations has been increased, the probability is increased of attaining the true ratio between the number of cases in which some event can happen and in which it cannot happen, so that this probability finally exceeds any given degree of certainty; or whether the problem has, so to speak, its own asymptote--that is, whether some degree of certainty is given which one can never exceed.

Whence, finally, this one thing seems to follow: that if observations of all events were to be continued throughout all eternity, (and hence the ultimate probability would tend toward perfect certainty), everything in the world would be perceived to happen in fixed ratios and according to a constant law of alternation, so that even in the most accidental and fortuitous occurrences we would be bound to recognize, as it were, a certain necessity and, so to speak, a certain fate.

“如果我们能把一切事件永恒地观察下去，则我们终将发现：世间的一切事物都受到因果律的支配，而我们也注定会在种种极其纷纭复杂的现象中认识到其必然性。”

最早提及（Poincare）回归定理的是柏拉图。伯努利在书中写道：

I do now know whether Plato wished to aim at this in his doctrine of the universal return of things, according to which he predicted that all things will return to their original state after countless ages have past.

5，Abraham de Moivre (1667-1754) 狄莫弗，《机遇论》，Doctrine of Chance,1718.
法国，新教徒，19岁因宗教信仰被捕入狱2年，21岁流亡英国伦敦。1697年30岁时当选英国皇家学会会员，从未获得学术职位(academic appointment)。

注意到，伯努利的著作是去世之后发表的。其中的一个原因是伯努利用大数定律来估计频率逼近概率没有得到实用的结果。狄莫弗发现了用正态分布逼近二项分布从而解决了这个问题。中心极限定理即发端于此。狄莫弗还几乎发现了Poisson分布。狄莫弗发展的技巧还包离散随机变量的概率生成函数。

6，Daniel Bernoulli (1700-1782),前述Jacob Bernoulli的侄子。解决皮特堡悖论并提出主观效用(utility)的概念。在1777 年的论文 “The most probable choice between several discrepant observations and the formation therefrom of the most likely induction” 中提出了最大似然估计方法（现在这一方法归于Fisher）。

7，Thomas Bayes(1701--1761)，贝叶斯，只发表过两篇论文。人们对其了解主要基于其遗作《机遇理论中一个问题的解》(An essay towards solving a problem in the doctrine of chances). 1958年《Biometrika》(生物计量)重新全文发表此文。贝叶斯于1742年当选为英国皇家学会会员。Bayes在该书中提出了Bayes公式，并讨论了后继法则(rule of succession)。后继法则涉及的问题类似于后来Laplace解决的明天太阳升起的概率。从某种程度上说这给出了科学哲学中的归纳问题的一个解答方案。Bayes的思想后来被发扬光大为统计学的两大流派之一，即主观概率学派。

替福波兄修复了文章中的Latex。

8，Pierre-Simon Laplace，拉普拉斯 (1749-1827).提出了比狄莫弗更一般的中心极限定理。发展了概率生成函数及特征函数理论。在Bayes的基础上讨论了“太阳明天升起的概率”及后来争论颇多的“后继法则”。

9，Carl Friedrich Gauss 高斯(1777-1855).提出误差服从正态分布，发展了最小二乘法。勒让德Legendre事实上早于高斯发现了最小二乘法。此后人们以多种论证了正态分布的合理性。

10，最后我们跳到柯尔莫哥洛夫。Andrei Nikolaevich Kolmogorov (1903-87).给出了概率论的公理化。人们关于概率到底是什么的争论从未停止，迄今依然。Kolmogorov的公理体系让数学家不再受此烦扰，彻底远离了哲学上的争论。而统计学则不可避免的仍然保留着这些争论。差不多可以说概率论的数学化到此为止，此后数学家的兴趣主要集中在概率论本身的问题，关心概率论基础的则主要是哲学家，例如波普尔、卡尔纳普等等。

介绍概率的早期历史是为了讨论另一个问题，更早的时期，人们依然会遇到不确定现象，同样参与赌博，也讲机会、运气、机遇、偶然，但是我们说这样的认识并表示他们知道概率。换句话说，1650年以前，为什么概率论没有发展起来？对此并没有完全统一的、得到一致认可的解释。以后逐渐写一些我对这个问题的理解，名字就叫《概率论的史前史》。

相比李约瑟的为什么科学没有在古代中国发展起来这个问题，概率的起源要简单得多，但依然没有一致认可的解答，以此我们可以想见前一个问题的困难程度。

:: 勒让德Legendre事实上早于高斯发现了最小二乘法
我记得Legendre是先于高斯发表最小二乘法，但若论发现（发明）的时间，则一般认为是高斯比Legendre更早。

:: 以后逐渐写一些我对这个问题的理解，名字就叫《概率论的史前史》
期待ing ...

又翻出来看了一下。再说几句。

概率论的数学理论通常都是建立在测度论的基础上，或者说，概率论就是测度论加上条件概率这个新的概念。人们也常常认为概率论区别于测度论的是独立事件这个概念。认识到随机事件的独立性是概率史上的一个里程碑。然而要确定两个事件是否相互独立并不容易。最近我们看到不少基于独立性的概率计算，而这些计算都不言自明的假定了事件之间的独立性，而且往往作出计算的人并没有意识到这一点，反而洋洋自得，莫可名状。

:: 勒让德Legendre事实上早于高斯发现了最小二乘法
我记得Legendre是先于高斯发表最小二乘法，但若论发现（发明）的时间，则一般认为是高斯比Legendre更早。
----------------------------------

我觉得"最小二乘"这四个字是非常典型的失败翻译(least square), 从第一次听到的时候就记不清它的含义, 到了现在还经常把它的名字跟二次互反律记混...有人知道是谁翻译的吗?

我还挺喜欢“最小二乘法”这个译法，“最小平方法”比较直接。

> 我觉得"最小二乘"这四个字是非常典型的失败翻译

同意，将least squares译成"最小二乘法"确实非常失败。这里的复数名词"squares"其实是指"sum of squares(squared deviations)"，即"平方(差)之和"，既包含了乘法也包含了加法，采用"二乘"来代替"平方"显然失策。

译成"最小平方法"至少没有偏离本意，显然更为可取。

:: 有人知道是谁翻译的吗?

网上有人猜测这译名是从日语中引进的，我用Google Translate试了一下，least squares的日语译名是“最小二乗法”，因此那个猜测不无可能。不知日语中的“二乗”是否比中文更接近英文意思？

> 网上有人猜测这译名是从日语中引进的，我用Google Translate试了一下，least squares的日语译名是“最小二乗法”

这一猜测非常合理。太多的西语词汇汉译都借鉴了日本人的日文汉字译法，统称为“和制汉语”：

http://zh.wikipedia.org/wiki/%E5%92%8C%E8%A3%BD%E6%BC%A2%E8%AA%9E

http://zh.wikipedia.org/wiki/%E6%BC%A2%E8%AA%9E%E4%B8%AD%E7%9A%84%E6%97%A5%E8%AA%9E%E5%80%9F%E8%A9%9E

和製漢語

由於漢語也是因為19世紀時急迫需要翻譯西文，而大量從日本輸入新詞，大部分進入漢語的日語借詞都是日語中的「和製漢語」。舉凡「電話」、「社會主義」、「資本主義」、「幹部」、「藝術」、「否定」、「肯定」、「假設[2]」、「海拔」、「直接」、「警察」、「雜誌」、「防疫」、「法人」、「航空母艦」都是屬於和製漢語日語借詞。[3]。 要注意的是，並不是所有日語中的「和製漢語」都在現代漢語中通用，如「介錯」、「怪我」、「油斷」這類和製漢語詞都沒有進入漢語。

部份抽象化漢語原有詞彙而意義有所改變的半和製漢語詞彙，如「社會」、「經濟」，原先雖為漢語，但現今使用的意義已經與古漢語相異，是否認定為日語借詞有爭議，有些學者稱這類詞彙為「回歸詞」。

...

接受日語借詞的矛盾

現在漢語在向日語借詞的過程中，並非全盤接納，其中也經過排斥、抵抗，但最後日語借詞仍大量湧入。
例如嚴復就強烈反對冒用日語借詞，他提倡使用「計學」（zh-classical:計學）取代「經濟學」、使用「群」取代「社會」（類推「群學」取代「社會學」）、使用「玄学」取代「形而上学」、使用「天演」取代「進化」等，學界習稱「嚴譯」。而嚴復也不是一概否定日本譯詞，例如他接受「自由」一字作為「liberty」、「freedom」之譯名，並嘗言：「西名東譯，失者固多，獨此無成，殆無以易。」[6]不過，嚴復從1899年起，開始採用「自繇」而非「自由」，這是因爲「繇」與「由」字在含義上有微妙的差異。[7]
也有少數新製漢語取代日語借詞的例子，如「邏輯（logic的音譯）」取代和製漢語的「論理」。

從和製漢語的特徵來說，日本人製造和製漢語，好用兩字詞。而精通文言文的中國學者翻譯時好用單字單詞。 在白話文運動後，由於溝通上的需要，兩字詞較為穩定、口語上容易理解，或許是和製漢語借詞最後於中文紮根的主因。

...

很好，Omni老兄很久没见到了。

我觉得单字歧义太多，作为术语来说要劣于两个字的词语，基本上要被淘汰。

最小二乘法这个名字比最小平方法好听。

Omni 先生好久不见啊。以前在老繁星客栈的时候，对你谈论有关管锥编的帖子记忆尤深。你的电子邮箱是多少？能否告知？如果可以的话，给我发在新繁星客栈的信箱里。我在那里的ID是：那一剑的寂寞
谢谢了！