基于多项式核的支持向量机分类器及其逼近理论
摘要与背景
探讨了利用多项式核函数和支持向量机（SVM）分类器进行分类算法的研究。研究的重点在于通过正则化方案来分析此类算法的误差，并提供显式的收敛速率估计。首先提出了在多项式核函数背景下分类算法的误差分析框架，并针对支持向量机软间隔分类器进行了详细的分析。主要的挑战在于正则化误差的估计，因为它与核多项式的次数密切相关。
多项式核函数与支持向量机简介
支持向量机是一种广泛应用于分类和回归任务的监督学习方法。它基于结构风险最小化原则，寻找决策边界，最大化该边界的几何边缘，使得不同类别样本尽可能正确分类。多项式核函数的形式如下：
\[ K(x, y) = (x \cdot y + c)^d \]
其中 \( x \) 和 \( y \) 是输入样本，\( c \) 是常数项，\( d \) 是多项式次数。
正则化方案与误差分析
正则化用于避免过拟合。作者提出了一种正则化方案，将分类器误差分解为样本误差和正则化误差。样本误差反映数据的随机性和不确定性，而正则化误差衡量模型复杂度对预测性能的影响。
多项式核函数下的正则化误差分析
处理多项式核函数时，正则化误差与多项式的次数紧密相关。高次多项式可能导致模型过拟合，为了克服这一难题，作者采用了通过限定RKHS中的杜尔梅耶算子范数来间接估计正则化误差的策略，从而获得正则化误差的上界。
支持向量机软间隔分类器的误差分析
特别关注支持向量机软间隔分类器在多项式核函数背景下的性能。通过对误分类误差的估计，发现正则化参数应随着样本大小的增加呈指数级减小，这是多项式核函数的特殊性质。