Pavel Erofeev edited GP.tex  over 9 years ago

Commit id: a40c3d00a4c215599c646ce669223d911a4920fe

deletions | additions      

       

$ y(\mathbf{x}) = f(\mathbf{x}) + \varepsilon(\mathbf{x})$,  where $\varepsilon(\mathbf{x})\sim\mathcal{N}(0, \tilde{\sigma}^2)$.   In that case observations $y(\mathbf{x})$ are generated by Gaussian Process with zero mean and covariance function $\mathrm{Cov}\left(y(\mathbf{x}), y(\mathbf{x}^\prime)\right) = k(\mathbf{x}, \mathbf{x}^\prime) + \tilde{\sigma}^2\delta(\mathbf{x}- \mathbf{x}^\prime)$, where $\delta(\mathbf{x})$ is a Dirac delta funciton.  Таким образом, функция апостериорного (для заданной обучающей выборки) среднего значения гауссовского процесса Thus, aposterior mean funciton of Gaussian Process  $f(\mathbf{x})$ в точках контрольной выборки in the points of test set  $X_*$ принимает вид: takes form:  \begin{equation}  \label{meanNoise}  \hat{f}(X_*) = K_* \bigl(K + \tilde{\sigma}^2 I\bigr)^{-1} Y,  \end{equation}  где where  $I$ --- единичная матрица размера $N \t N$. -- identity matrix of size $(N \times N)$.  Заметим, что наличие в формуле (\ref{meanNoise}) дисперсии шума $\tilde{\sigma}^2$ фактически приводит к регуляризации, что позволяет улучшить обобщающую способность аппроксиматора.  При этом апостериорная ковариационная функция гауссовского процесса в точках контрольной выборки имеет вид