详解LDA与PCA的特征降维方法及matlab实例演示

MATLAB实现的PCA光谱降维程序，专注于光谱数据的降维处理。

这是一份完全可用的人脸识别matlab代码，采用主成分分析（PCA）和线性判别分析（LDA）方法提取特征进行识别。

主成分分析(PCA) 主成分分析是一种强大的降维技术，能够将高维数据集简化，同时保留大部分关键信息。 PCA的工作原理 想象一下，你正在观察一堆散落在平面上的数据点。PCA的目标是找到一个新的坐标系，使得数据在新的坐标轴上的投影能够最大程度地分散开来。 第一步是找到数据变化最大的方向，这个方向被称为第一主成分。接着，找到与第一主成分正交且数据变化次大的方向，这就是第二主成分。 实例解析 假设我们有一组关于房屋面积和价格的数据，我们可以使用PCA将其降维至一维。 首先，将数据标准化，然后计算协方差矩阵。接着，找到协方差矩阵的特征值和特征向量，特征值的大小代表着对应特征向量方向上的数据方差。 选择最大特征值对应的特征向量作为第一主成分，将原始数据投影到该特征向量上，就得到了降维后的数据。 PCA的应用 数据可视化: 将高维数据降维至二维或三维，以便于观察数据的分布。 特征提取: 选择最重要的主成分作为新的特征，用于机器学习模型的训练。 噪声去除: 通过忽略方差较小的主成分，可以有效去除数据中的噪声。

这是一个基于Matlab开发的二维LDA+PCA人脸识别程序，可以直接使用。

PCA和LDA的原始论文与Matlab程序实现。PCA原始论文为文字版，非常见扫描版。

使用MATLAB编写的代码对CroppedYale人脸数据进行降维，比较了PCA、SVD及MATLAB自带的PCA算法的时间和准确度。分析了中心化对PCA的影响，并对比了PCA与SVD的异同。选取了适当的维度k，并展示了k个特征向量对应的图像。还评估了自行实现的PCA算法与MATLAB自带函数的性能。

无监督学习是一类强大的机器学习方法，其核心在于从无标签数据中学习内在结构和模式。常见的无监督学习技术包括： 聚类分析: 将数据点划分为不同的组，使得组内相似度高，组间相似度低。 主成分分析 (PCA): 一种降维技术，通过线性变换将原始数据映射到低维空间，保留数据的主要特征。 稀疏编码与学习: 通过学习一组基向量，将数据表示为这些基向量的稀疏线性组合，从而实现特征提取和降维。

随着数据维度的增加，高维数据降维问题变得尤为重要。MATLAB提供了丰富的功能，使得LASSO算法在高维数据集上得以有效实现。

34种数据降维方法代码.zip