统计判决理论

本页面主要介绍统计判决理论的来源与内容

来源

在数字通信系统中，若在 \(0 \leqslant t\leqslant T_s\) ( \(T_s\) 为 \(M\) 进制符号间隔) 时间区间内，发送 \(M\) 进制数字调制信号波形 \(\left\{s_i(t),i=1,2,\cdotp\cdotp\cdotp,M\right\}\) 之一，在信道传输中受到加性白高斯噪声 \(n_\mathrm{w}(t)\) 干扰，接收到的信号为

\[r(t)=s_i(t)+n_w(t)\quad i=1,2,\cdots,M;\quad0\leqslant t\leqslant T_s\]

设该 \(M\) 进制数字调制信号 \(s_i(t)\) 为确定信号，发端发送 \(s_i(t)\) 的概率称为先验概率，并用 \(P(s_i)\) 表示。

我们要根据接收到的信号 \(r(t)\) 来作出发端究竟发的是 \(M\) 个信号波形中的哪个信号的判决。由于加性噪声 \(n_\mathrm{w}(t)\) 的干扰，接收信号 \(r(t)\) 是随机的，所以在作判决时易出错。然而，\(r(t)\) 虽是随机过程，但它有一定的统计规律，因而在接收端，对 \(r(t)\) 进行观察，可利用其统计特性来推断究竟在 \(0\leqslant t\leqslant T\)。期间发的是 \(M\) 个信号中的哪个，使得系统的平均错判概率最小。

在数字通信系统中，按照使平均错判概率最小的要求，应用统计的方法来设计最佳接收，这就是统计判决理论应用在数字通信中所要解决的问题。

理论内容

用统计方法作判决的步骤如下所述。

作出“假设”

在数字通信系统中，首先对信源输出的\(M\)个可能的离散符号或其相应的\(M\)个可能的发送信号波形作出\(M\) 个假设，用 \(\{s_i,i=1,2,\cdotp\cdotp\cdotp,M\}\) 表示，且每个假设出现的概率为先验概率，用 \(P(s_i)\) 表示。需指出，若所假设的信号是确定信号，则此“假设”是“简单假设”。本节仅讨论有关简单假设检验的理论，不涉及复合假设的检验理论。

信道的转移概率

对接收到的信号 \(r(t)\) 进行观察，由于发送信号 \(s_i(t)\) 受到信道加性噪声干扰，所以其观察值可能是一个随机变量或是由多个随机变量构成的随机矢量(或称为观察矢量)。若观察矢量是由 N 个实的随机变量构成的\(N\)维随机矢量，用 \(\vec{r}=(r_1,\cdotp\cdotp\cdotp,r_N)\) 表示，则此观察矢量 \(\vec{r}\) 与发端信源的各假设 \(s_{i}\) 之间无确定的函数关系，但却具有转移概率关系，其转移概率关系可用条件概率密度函数 \(p(\vec{r}|s_i)\) (若 \(\vec{r}\) 中各 \(r_i\) 是连续随机变量),或用条件概率 \(P(\vec{r}|s_i)\)(若 \(\vec{r}\) 中各 \(r_i\) 是离散随机变量)来描述。此观察矢量的条件概率密度函数或条件概率在不同假设成立的条件下是有区别的，这就为统计判决提供了有用的依据。

选择合适的判决准则

在数字通信中，要根据观察矢量 \(\vec{r}\) 作出发端发的是哪个 \(s_i\) 的估计，其判决输出用 \(\hat{s}\) 表示。若判决输出 \(\hat{s}\) 不等于发端的 \(s_i\)，则判错，为使平均错判概率最小，选择最大后验概率准则(MAP 准则),即最小错判概率准则作为判决准则。关于 MAP 准则将在后面阐述。

最佳地划分判决域

将已知的先验概率 \(P(s_i)\) 及已知的条件概率密度函数与 MAP 准则相结合，得到一判决 公式，从而将观察空间最佳地划分为各判决域 \(D_i,i=1,2,\cdotp\cdotp\cdotp,M\)。

最佳判决

视具体的观察矢量 \(r\) 落入哪个判决域 \(D_i\)，就作出发的是哪个 \(s_i\) 的判决，输出 \(\hat{s}\),这样就可使平均错判概率 \(P_\mathrm{e}\) 最小。

平均错判概率 \(P_\mathrm{e}\) 的计算公式为

\[P_\text{e}=\sum_{i=1}^MP(s_i)\cdot P(\hat{s}\neq s_i\mid s_i)=\sum_{i=1}^MP(s_i)\cdot P(e\mid s_i)\]

其中，\(P(\hat{s}\neq s_{i}|s_{i})\)表示在发 \(s_i\) 条件下，收端判决输出 \(\hat{s}\neq s_{i}\) 的错判概率，并用 \(P(e|s_{i})\) 表示。

最小平均错判概率

平均错判概率是各错判概率的加权平均

\[P_{\mathrm{e}}=\sum_{i=1}^{M}P(s_{i})\cdot P(e\mid s_{i})=\sum_{i=1}^{M}P(s_{i})\cdot\left[1-\int_{D_{i}}p\left(r\mid s_{i}\right)\mathrm{d}r\right]\]

其中，在发 \(s_i\) 的条件下，正确判决的概率为

\[P\left(\hat{s} = s_i\:|\:s_i\right)=\int\limits_{D_i}p\left(\vec{r}\:|\:s_i\right)\mathrm{d}\vec{r}\]

于是，在发 \(s_i\) 条件下，错判的概率为

\[P(\hat{s}\neq s_i\mid s_i)=P(e\mid s_i)=1-\int\limits_{D_i}p\left(\vec{r}\mid s_i\right)\mathrm{d}\vec{r}\]

对于某观察矢量 \(\vec{r}\) 来说，作出最大正确判决，即最小错误判决。所以，在给定观察矢量 \(\vec{r}\) 的条件下，对于不同 \(i(i=1,2,\cdotp\cdotp\cdotp,M)\) 的 \(P(s_i)p(\vec{r}|s_i)\) 值进行比较，从中选择最大的 \(P(s_i)p(\vec{r}|s_i)\)值所对应的 \(s_i\)，作出相应的估计，判决输出为 \(\hat{s}\)。此判决规则表示如下

\[\hat{s}=\arg\max P(s_i)p(\vec{r}|s_i)\]

按上式判决规则进行判决，其平均错判概率一定最小。也可用后验概率来描述此判决规则。

MAP 准则

后验概率

\[P\left(s_i\mid r\right)=\frac{P\left(s_i\right)\cdot p\left(r\mid s_i\right)}{p\left(r\right)}\]

从后验概率公式可以看出，最大 \(P(s_i)\cdot p(\vec{r}|s_i)\) 即为后验概率 \(P(s_i|\vec{r})\) 最大，所以，判决输出 \(\hat{s}\) 等效于后验概率最大，因而，称根据后验概率的判决准则为最大后验概率准则，也称为 MAP 准则。

若各先验概率相等，选最大 \(p(\vec{r}|s_i)\) 等价于 MAP 准则，称此条件概率密度函数 \(p(r|s_i)\) 为似然函数，所以在各先验概率相等条件下的 MAP 准则，也就是最大似然准则，用 ML 表示。

判决规则归纳如下：

\[\begin{aligned}\mathrm{MAP:}&\overset{\wedge}{\operatorname*{s}}=\arg\max P(s_{i})p(\vec{r}|s_{i})\\\\\mathrm{ML:}&\overset{\wedge}{\operatorname*{s}}=\arg_{s_{i}}\max p(\vec{r}|s_{i})\end{aligned}\]

显然，在各先验概率相等的条件下，用 MAP 准则或用 ML 准则作出的判决结果是相同的。从上述统计判决理论看出，尚有两个问题需要解决：

一是如何将观察到的接收信号波形 \(r(t)\) 变换为有限维的观察矢量 \(\vec{r}=(r_1,r_2,r_3,\cdotp\cdotp\cdotp\cdotp,r_N)\)，且该观察矢量 \(\vec{r}\) 包含了 \(r(t)\) 中所有与判决有关的信息，是充分统计量；

二是从上述 MAP 准则或 ML 准则看出，要根据观察矢量 \(\vec{r}\) 作出判决，首先要计算出条件概率密度函数(或称为似然函数) \(p(r|s_{i})=p(r_{1},r_{2},\cdots,r_{N}|s_{i})\)。由于 \(\vec{r}\) 是多维随机变量，因而，要计算多维的联合条件概率密度函数，必须要使在发送 \(s_i\) 条件下的 \(r_1,r_2,\cdotp\cdotp\cdotp,r_N\) 是互相统计独立的高斯变量。

要解决上述两个问题，就要用到信号波形的矢量表示的分析工具。

最佳接收

加性白高斯噪声干扰下 M 进制确定信号的最佳接收表示为：

具体证明相对繁杂，暂时跳过。