概率定义
在统计学中，概率是事件发生的可能性程度。它通常用P(A)表示，其中A是一个事件。要计算一个事件的概率，我们需要知道该事件发生时样本空间中的所有可能结果数目，以及其中包含这个事件的结果数目。这可以通过以下公式得出：
P(A) = \frac{A}{S}
其中，P(A)表示事件A发生的概率；A代表包含在事件内的样本点个数；S则是总样本点个数。
条件概率
当我们考虑两个或多个相关联的事物时，就会涉及到条件概率的问题。在这种情况下，条件概率描述了当某一事物已经发生的情况下，另一个事物出现的可能性。数学表达式如下：
P(B|A) = \frac{P(A\cap B)}{P(A)}
这里，P(B|A) 表示当已知事件 A 发生时，B 事件发生的条件概率；而 P(A\cap B) 是同时发生 A 和 B 的共同区域，而 P(A) 是仅考虑 A 的区间。
独立性假设
两件事是否独立取决于它们是否相互影响。如果两个实验之间没有任何联系，那么它们就是独立进行。在这种情况下，可以使用乘法原理来简化复杂问题：
P(AB)=P(A)\cdot P(B)
贝叶斯定理
贝叶斯定理是一种将先验知识转换为后验知识（即基于新信息）的方法，它允许我们根据新的数据更新我们的信念。当有新的信息出现时，我们可以使用以下公式调整我们的估计值：
后验分布 = \frac{\text{似然} \times \text{先验}}{\text{证据}}
其中，“似然”指的是根据新观察到的数据对参数或模型进行评估，“先验”反映了在收集这些数据之前关于参数或模型所持有的信念，而“证据”则是来自观察到的实际数据和模型预测的一致性。
随机过程与马尔科夫链
随机过程是一个随着时间变化逐步演化的一个系统，这些系统具有不确定性，并且每一步都受到前一步骤影响。马尔科夫链特别关注这样一种随机过程，其未来状态只依赖于当前状态，而不依赖于过去状态。对于一条简单的情况，可以用以下转移矩阵来描述其行为:
p_{ij}=\Pr(X_n=j | X_{n-1}=i)
这里的 p_{ij} 表示从状态 i 转移到状态 j 的几何序列中的第一项，这样的算法常用于图像识别、自然语言处理等领域。