大序列算法

Xindong Wu教授（美国）的数据挖掘十大算法，数据挖掘方向同学的必修课。

涵盖十种数据挖掘领域经典算法，可应用于各种场景。

数据挖掘十大算法，名不虚传。

基于优先级原则的序列模式挖掘算法 通过产生并检测候选序列的方式 扫描序列数据库，得到长度为 1 的序列模式 根据种子集生成候选序列模式，计算支持数 迭代上述步骤，直到没有新序列模式或候选序列模式产生

序列模式t是指在多个数据序列中发现共同的行为模式。 t通过时间序列搜索出重复发生概率较高的模式，强调时间序列的影响。 例如，在所有购买了激光打印机的人中，半年后80%的人再购买新硒鼓，20%的人用旧硒鼓装碳粉； 在所有购买了彩色电视机的人中，有60%的人再购买VCD产品； 在时序模式中，需要找出在某个最短时间内出现比率一直高于某一最小百分比（阈值）的规则。

序列模式挖掘：在包含多个有序序列的数据集中，每个序列由按特定顺序排列的不同元素构成，每个元素又包含不同的项目。通过设置最小支持度阈值，算法识别频繁出现的子序列，即满足出现频率高于阈值的子序列模式。

排序算法是构建数据结构和算法的基石，它包含内部排序和外部排序两种主要类型。内部排序适用于内存中进行数据排序，而外部排序则用于处理无法一次性加载到内存的大规模数据集。 常见的内部排序算法： 插入排序 希尔排序 选择排序 冒泡排序 归并排序 快速排序 堆排序 基数排序 时间复杂度： 平方阶 (O(n2))：直接插入排序、直接选择排序、冒泡排序 线性对数阶 (O(nlog2n))：快速排序、堆排序、归并排序 O(n1+§) (0<§ 线性阶 (O(n))：基数排序、桶排序、箱排序 稳定性： 稳定排序算法：冒泡排序、插入排序、归并排序、基数排序 非稳定排序算法：选择排序、快速排序、希尔排序、堆排序

数据挖掘是从大量数据中提取有用信息的过程，涉及多种算法和技术。2006年，IEEE International Conference on Data Mining (ICDM)评选出了数据挖掘领域的十大经典算法，这些算法代表了数据挖掘技术的最高成就，并在实际应用中广泛发挥作用。其中包括C4.5算法，这是一种基于ID3算法改进的决策树分类算法，以信息增益率选择属性，并实施剪枝操作以减少过拟合风险，处理连续属性并支持不完整数据。另外还有k-Means算法，一种聚类算法，通过将对象分组形成k个群组来实现。

LBG算法，由Linde, Buzo和Gray提出，是一种基于训练序列的矢量量化（VQ）设计算法，它巧妙地避免了多维积分的复杂性。该算法采用迭代方式，每一次迭代都需要处理大量向量集合，即训练集。训练集T={x1, x2, ..., xM}通常由一组典型待编码信号的样本向量构成，其中xi表示一个样本向量，M代表训练集的大小，通常远大于码本大小N。