相关向量机（相关向量机）-尊龙人生就是博d88

简介

它的训练是在贝叶斯框架下进行的，在先验参数的结构下基于主动相关决策理论（automatic relevance determination，简称ard）来移除不相关的点，从而获得稀疏化的模型。在样本数据的迭代学习过程中，大部分参数的后验分布趋于零，与预测值无关，那些非零参数对应的点被称作相关向量（relevance vectors），体现了数据中最核心的特征。同支持向量机相比，相关向量机最大的优点就是极大地减少了核函数的计算量，并且也克服了所选核函数必须满足mercer条件的缺点。

特点

1. svm 基于结构风险最小化原则构建学习机，rvm基于贝叶斯框架构建学习机

2. 与svm相比，rvm不仅获得二值输出，而且获得概率输出

3. 在核函数的选择上，不受梅西定理的限制，可以构建任意的核函数

4. 不需对惩罚因子做出设置。在svm中惩罚因子是平衡经验风险和置信区间的一个常数，实验结果对该数据十分敏感，设置不当会引起过学习等问题。但是在rvm中参数自动赋值

5. 与svm相比，rvm更稀疏，从而测试时间更短，更适用于在线检测。众所周知，svm的支持向量的个数随着训练样本的增大成线性增长，当训练样本很大的时候，显然是不合适的。虽然rvm的相关向量也随着训练样本的增加而增加，但是增长速度相对svm却慢了很多。

6. 学习机有一个很重要的能力是泛化能力，也就是对于没有训练过的样本的测试能力。文章表明，rvm的泛化能力好于svm。

7. 无论是在回归问题上还是分类问题上，rvm的准确率近似于svm。

8. 但是rvm训练时间短。