我们现在回到4.5节研究的贝叶斯logistic回归模型,说明局部变分方法的应用。在4.5节,我们将注意力集中于拉普拉斯近似的使用,而这里,我们考虑一种贝叶斯的方法,本方法基 于Jaakkola and Jordan(2000)的方法。与拉普拉斯方法相似,这也会生成后验概率分布的高斯近似。然而,变分方法的极大的灵活性使得模型的准确率与拉普拉斯相比有所提升。此外,与拉普拉斯方法不同,变分方法最优化一个具有良好定义的目标函数,这个目标函数由模型证据的一个严格界限给定。Dybowski and Roberts(2005)也从贝叶斯的角度研究了logistic回归问题,使用了蒙特卡罗取样的技术。