高斯过程

本页面主要介绍高斯过程的定义、性质和与高斯分布相关的常用函数

定义

联合高斯

设 \(\mathbf{Z} = ( Z_1, Z_2, \cdotp \cdotp \cdotp , Z_n) ^{\mathrm{T} }\) 是一个随机列向量，其中的 \(Z_1,Z_2,\cdotp\cdotp\cdotp,Z_n\) 是独立同分布的标准正态随机变量。设 \(A\) 是任意的 \(k\times n\) 矩阵，令 \(X=(X_1,X_2,...,X_k)^{\mathrm{T}}\)，若 \(X\) 满足 \(X=AZ+b\)，其中 \(b\) 是确定的实向量，则称 \(X_1,X_2,\cdots,X_k\) 服从联合高斯分布。

简单来说，若 \(Z\) 满足联合高斯分布，则 \(Z\) 这一组随机变量，可以用一组独立标准正态随机变量线性组合而成。

由上述定义可以看出：若 \(X_1,X_2,\cdots,X_k\) 是联合高斯，\(m_1,m_2,\cdots,m_k\)是一组确定的实数，则 \(m_1X_1,m_2X_2,\cdotp\cdotp\cdotp,m_kX_k\) 也是联合高斯。

高斯过程

对随机过程 \(X(t)\) 在 \(t_1,t_2,\cdots,t_n\) 时刻采样将得到 \(n\) 个随机变量 \(X(t_1),X(t_2),\cdots, X(t_n)\)。若对于任意 \(n\) 以及任意的 \(t_1,t_2,\cdots,t_n\)，\(X(t_1),X(t_2),\cdots,X(t_n)\) 联合高斯，则称 \(X(t)\) 为高斯过程。

根据定义可知：

高斯过程与确定信号的乘积是高斯过程。即若 \(X(t)\) 是高斯过程，\(m(t)\) 是确定信号，则 \(Y(t)=X(t)m(t)\) 是高斯过程。
高斯过程与确定信号的卷积是高斯过程。即若 \(X(t)\) 是高斯过程，\(h(t)\)是确定信号，则 \(Y( t) = \int _{- \infty }^{\infty }X( u) h( t- u)\mathrm{d}u\) 是高斯过程。

Tip

这是因为卷积积分是一种线性变换。根据这个性质可知：

零均值平稳高斯过程通过滤波器后的输出仍然是零均值平稳高斯过程。

性质

一维分布

设 \(X(t)\) 为正态随机过程，对于任意的时刻 \(t_1,X(t_1)\) 是一个正态随机变量，它的概率分布密度为

\[f_X\left(x_1,t_1\right)=\frac{1}{\sqrt{2\pi}\sigma\left(t_1\right)}\exp\left\{-\frac{\left[x_1-m\left(t_1\right)\right]^2}{2\sigma^2\left(t_1\right)}\right\}\]

式中 \(m(t_{{_{1}}})\) 和 \(\sigma^{2}(t_{{_{1}}})\) 分别为 \(X(t_{1})\) 的均值和方差。

N 维分布

拓展 - 不常用

\(X(t)\) 的 \(N(N\geqslant2)\) 维分布为

\[f_X(x)=\frac{1}{\left(2\pi\right)^{\frac{N}{2}}\det^{\frac{1}{2}}\left(C\right)}\exp\left[-\frac{1}{2}\left(x-m\right)^{\mathrm{T}}C^{-1}\left(x-m\right)\right]\]

式中

\[ {x}= \begin{bmatrix} x_1 \\ x_2 \\ \vdots \\ x_\mathrm{N} \end{bmatrix},{m}= \begin{bmatrix} m\left(t_1\right) \\ m\left(t_2\right) \\ \vdots \\ m\left(t_\mathrm{N}\right) \end{bmatrix},{C}= \begin{bmatrix} \operatorname{Cov}[X(t_1),X(t_1)] & \cdots & \operatorname{Cov}[X(t_1),X(t_N)] \\ \vdots & & \vdots \\ \operatorname{Cov}[X(t_N),X(t_1)] & \cdots & \operatorname{Cov}[X(t_N),X(t_N)] \end{bmatrix} \]

常用函数

高斯 Q 函数

在 X 服从标准正态分布时，\(X>x\) 的概率由高斯 Q 函数给出：

\[P(X>x)=\int_x^\infty\frac{1}{\sqrt{2\pi}}\mathrm{e}^{-\frac{u^2}{2}}\mathrm{d}u=Q(x)\]

互补误差函数

若 \(X\) 服从均值为 0，方差为 ½ 的标准正态分布时，\(| X | > x\) 的概率由互补误差函数给出：

\[P(\mid X\mid>x)=2\int_x^\infty\frac{1}{\sqrt{\pi}}\mathrm{e}^{-u^2}\mathrm{d}u=\mathrm{erfc}(x)\]