隆昌网站建设,网站改版流程,漳州房产网,新吴区建设局网站混合高斯模型#xff08;Mixtures of Gaussians#xff09;和EM算法 这篇讨论使用期望最大化算法#xff08;Expectation-Maximization#xff09;来进行密度估计#xff08;density estimation#xff09;。 与k-means一样#xff0c;给定的训练样本是#xff0c;我们…混合高斯模型Mixtures of Gaussians和EM算法 这篇讨论使用期望最大化算法Expectation-Maximization来进行密度估计density estimation。 与k-means一样给定的训练样本是我们将隐含类别标签用表示。与k-means的硬指定不同我们首先认为是满足一定的概率分布的这里我们认为满足多项式分布其中有k个值{1,…,k}可以选取。而且我们认为在给定后满足多值高斯分布即。由此可以得到联合分布。 整个模型简单描述为对于每个样例我们先从k个类别中按多项式分布抽取一个然后根据所对应的k个多值高斯分布中的一个生成样例。整个过程称作混合高斯模型。注意的是这里的仍然是隐含随机变量。模型中还有三个变量和。最大似然估计为。对数化后如下 这个式子的最大值是不能通过前面使用的求导数为0的方法解决的因为求的结果不是close form。但是假设我们知道了每个样例的那么上式可以简化为 这时候我们再来对和进行求导得到 就是样本类别中的比率。是类别为j的样本特征均值是类别为j的样例的特征的协方差矩阵。 实际上当知道后最大似然估计就近似于高斯判别分析模型Gaussian discriminant analysis model了。所不同的是GDA中类别y是伯努利分布而这里的z是多项式分布还有这里的每个样例都有不同的协方差矩阵而GDA中认为只有一个。 之前我们是假设给定了实际上是不知道的。那么怎么办呢考虑之前提到的EM的思想第一步是猜测隐含类别变量z第二步是更新其他参数以获得最大的最大似然估计。用到这里就是 循环下面步骤直到收敛 { E步对于每一个i和j计算 M步更新参数 } 在E步中我们将其他参数看作常量计算的后验概率也就是估计隐含类别变量。估计好后利用上面的公式重新计算其他参数计算好后发现最大化最大似然估计时值又不对了需要重新计算周而复始直至收敛。 的具体计算公式如下 这个式子利用了贝叶斯公式。 这里我们使用代替了前面的由简单的0/1值变成了概率值。 对比K-means可以发现这里使用了“软”指定为每个样例分配的类别是有一定的概率的同时计算量也变大了每个样例i都要计算属于每一个类别j的概率。与K-means相同的是结果仍然是局部最优解。对其他参数取不同的初始值进行多次计算不失为一种好方法。 虽然之前再K-means中定性描述了EM的收敛性仍然没有定量地给出还有一般化EM的推导过程仍然没有给出。下一篇着重介绍这些内容。 转载于:https://www.cnblogs.com/zhangyang520/p/7495451.html
