引言

概率论是研究具有不可预测结果的行为（例如抛硬币或投掷飞镖）及其后果的数学学科。它起源于17世纪的赌博游戏研究，但其应用现在从游戏扩展到医学测试和电话网络的经济设计。用皮埃尔·西蒙·拉普拉斯（一位著名的数学家，我们将在课程中遇到他的工作）的话来说： 我们看到，概率论在本质上只是将常识简化为计算；它让我们能够欣赏那些理性思维通过某种直觉感受到的东西，而往往无法解释。值得注意的是，这门科学起源于对机会游戏的考虑，应该成为人类知识中最重要的对象之一。生活中最重要的问题，实际上只是概率问题。

数学理论从实验（或试验）的概念开始，这是一种结果未预先确定的行为过程。实验由一个称概率空间的数学对象表示，它包括：

• 试验的所有可能结果的集合
• 一个包含所有可能作为实验结果的事件的列表（这些事件是结果的组合）
• 对这些事件的可能性进行评估

看个例子吧：

例1:“投掷一个均匀的六面骰子”实验的概率空间包括：

• 所有可能结果的集合\{1,2,3,4,5,6\}
• 可以由结果定义的所有事件的列表：例如，“结果是3”，“结果至少是2”，“结果是奇数”
• 1,2,3,4,5,6每个数字有同样的机率称为投掷结果

我们可以构建一个概率空间来表示任何涉及机会的实验，这涉及评估各种结果和事件的可能性。

如何分配概率？（How to assign probabilities?）

某些事件的可能性通常并不是一成不变的；以下三种方法常用于分配概率：

• 经典方法（the classical approach）
• 主观方法（the subjective approach）
• 相对频率方法（the relative-frequency approach）

经典方法：

如果一个实验有n个简单结果，这种方法为每个结果分配概率\frac{1}{n}，即假设结果是等可能的。一个例子是掷一个公平的六面骰子，它有6个可能的结果，每个结果被分配概率\frac{1}{6}。

主观方法：

在主观方法中，概率是根据我们对事件发生的信念来定义的。在这里，概率基于个人的判断。例如，在特定的一天，一个人可能觉得有40%的概率会下雨。没有公式来计算这个概率，它仅基于那个人的直觉。

相对频率方法：

概率是根据实验或历史数据来分配的。(用频率估计概率)形式上，设A是实验的一个可能结果的事件。如果我们进行了n次实验，如果n_A是A发生的次数，那么A的相对频率是\frac{n_A}{n}。在这种方法中，我们定义事件A的概率为当我们重复实验很多次时A的相对频率的极限，即：

\mathbb{P}(A)=\lim_{n\to\infty}\frac{n_A}{n}

在实践中，我们通过非常大的n 的相对频率来近似\mathbb{P}(A),因为不可能进行无限次重复实验。注意，当我们进行两组n次实验时，得到的A的相对频率通常不相同\mathbb{}；我们期望当n 变得非常大时，相对频率会收敛。例如我们投100次骰子，得到1的结果是15次事件A=\{结果是1\}的相对频率是\frac{n_A}{n}=\frac{15}{100},我们说\mathbb{P}(A)大约等于\frac{15}{100}=0.15.

概率论的框架（The framework of Probability theory）

我们现在定义该领域中使用的基本术语和符号。我们将一个实验（或试验）建模为一个具有定义的可能结果集的过程，通过一个概率空间来表示，该空间包括：

样本空间\Omega

1. 样本空间是实验所有可能结果的集合。
2. 例如，掷一个六面骰子的样本空间是\{1,2,3,4,5,6\}

事件空间\mathcal{F}

1. 事件空间是样本空间\Omega的所有子集的集合。
2. 事件可以是空集、单个结果或结果的集合。
3. 互补事件A^c包含所有不在A中的结果。
4. 通常，事件空间取为样本空间的幂集\mathcal{P}(\Omega)，即包含\Omega的所有可能子集。

概率函数\mathbb{P}

1. 概率函数\mathbb{P}:\mathcal{F}\to[0,1],这是对\mathcal{F}中事件的概率的评估。(见定义7)
2. (对上一条的解读)概率函数是一个从事件空间\mathcal{F} 到区间[0,1] 的函数。
3. 它评估事件的概率，即事件发生的可能性。

离散概率与连续概率

• 离散概率：当样本空间有有限数量的元素或元素可以列出时，使用离散概率。

  • 例子包括掷骰子、抛硬币、通过考试等。

• 连续概率：当样本空间的元素不能列出时，使用连续概率。

  • 例子包括连续尺度上的物理量如温度、高度等。

这些概念是概率论的基础，帮助我们理解和分析随机事件及其概率。

例

1. 考虑实验“抛硬币”；样本空间是 \Omega = \{H,T\} A=\{H\}是正面朝上的事件，A^c={T}是反面朝上的事件，A=\{H,T\} 是硬币正面或反面朝上的事件，A=\emptyset是既不是正面也不是反面的事件！
2. 考虑实验“抛硬币两次”。样本空间是 Ω=\{HH,HT,TH,TT\}；A=\{HH,HT\} 是一个事件，可以用文字描述为“第一次抛掷的结果是正面”。

定义：概率的加法

假设我们对一个实验感兴趣，该实验具有相关的样本空间\Omega和事件空间\mathcal{F}。一个概率测度或函数(probability measure or function) 是一个函数 P:\mathbb {F} \to [0,1]，满足以下条件:

1. P(\Omega)= 1

2. 对于任意的A_1, A_2, ... \in F，这些事件是两两不相交的(即对于任意i \neq j, A_i \cap A_j = \emptyset),有：

   P(A_1 \cup A_2 \cup A_3 \cup ...) = P(A_1) + P(A_2) + ...

一定注意上面的这个式子成立的前提是这些事件是两两不相交的！

概率的性质

设A和B是两个事件。

1. P(A^c)=1-P(A)；特别地，P(\emptyset)=0
2. P(A)=P(A \cap B)+P(A \cap B^c)
3. 如果A \subseteq B，则P(A)\leq P(B)
4. P(A\cup B)=P(A)+P(B)-P(A\cap B)