线性判别函数与决策边界

3、超平面的几何性质 Ω1 和 Ω2 分别表示两类样本的区域。对于判别函数 g(x)，当 g(x) > 0 时，样本点属于 Ω1 类；当 g(x) < 0> 时，样本点属于 Ω2 类。超平面的几何性质决定了分类的边界，并影响判别函数的值域。

本资源讲解判别分析概念、Fisher线性判别，并提供相关算例。

这是一个完整的人脸识别系统，使用Matlab编写，基于Fisher线性判别算法。

详细讲解了图9.14中线性判别分析模型的预测结果，帮助读者深入理解该模型的运作原理及其在TinyXML中的应用。

共轭双线性函数与 Hermite 型 本节推广了双线性函数的概念。设 f (α， β) 是 n 维复线性空间 V 上的二元函数。如果对任意向量 α，β，α₁，α₂，β₁，β₂ ∈ V，以及任意复数 λ₁，λ₂，μ₁，μ₂ ∈ C，均有： f(λ₁α₁ + λ₂α₂, β) = λ₁ f(α₁, β) + λ₂ f(α₂, β) (9.4.1) f(α, μ₁β₁ + μ₂β₂) = μ₁ f(α, β₁) + μ₂ f(α, β₂) (9.4.2) 其中 μ 表示复数 μ 的共轭复数，则二元函数 f (α， β) 称为共轭双线性的。 共轭双线性函数的性质 命题 9.4.1 设 f (α， β) 是 V 上的共轭双线性函数，则对任意 α，β ∈ V，f (α， 0) = 0 = f (0， β) 命题 9.4.2 设 f (α， β) 是 V 上的共轭双线性函数，则对任意 α₁， ... ， αp，β₁， ... ， βq ∈ V，λ₁， ... ， λp，μ₁， ... ， μq ∈ C， f ( ∑^{k=1}{p} λₖαₖ, ∑^{ℓ=1}{q} μℓβℓ) = ∑^{k=1}{p} ∑^{ℓ=1}{q} λₖμℓ f (αₖ， βℓ) (9.4.3) 共轭双线性函数的方阵表示 V 上的共轭双线性函数 f (α， β) 在 V 的基 {ξ₁，ξ₂， ... ，ξn} 下的方阵表示如下： 设向量 α，β ∈ V 在 V 的基 {ξ₁，ξ₂， ... ，ξn} 下的坐标分别是 x = (x₁，x₂， ... ，xn) 与 y = (y₁，y₂， ... ，yn)，即 α = ∑^{k=1}{n} xₖ ξₖ， β = ∑^{ℓ=1}{n} yℓ ξℓ， 则由式 (9.4.3)， f (α， β) = f ( ∑^{k=1}{n} xₖ ξₖ, ∑^{ℓ=1}{n} yℓ ξℓ) = ∑_{1⩽k，ℓ⩽n} xₖ yℓ f (ξₖ， ξℓ) (9.4.4) 记 n 阶方阵 A = ( f (ξₖ， ξℓ))_{n×n}，则上式化为 f (α， β) = xAy∗ (9.4.5) 其中 y∗ = yT 是 y = (y₁，y₂， ... ，yn) 的共轭转置。方阵 A 称为共轭双线性函数 f (α， β) 在基 {ξ₁，ξ₂， ... ，ξn} 下的方阵。而式 (9.4.4) 称为 f (α， β) 在基 {ξ₁，ξ₂， ...

判别函数是模式识别中用于分隔不同类别的重要统计技术之一。这种方法基于已知类别的均值和协方差，适用于参数方法。在此情境下，选择了两个不同的类别，以获取它们之间最优决策边界。这些类别包括双变量和单变量情形。这种分类器被称为二类分类器。分类器的简化形式涵盖三种情况：情况1：特征向量在统计上是独立的，协方差矩阵为对角矩阵，样本分布于球形簇中。情况2：特征向量在统计上相关，但两个类别的协方差矩阵相同，样本分布于相等大小的唇形簇中。情况3：最优决策边界为二次形式。若要使用此GUI，请先解压文件夹，并将MATLAB的当前目录设置为该文件夹。然后，在MATLAB命令行中输入判别式，并按ENTER以打开GUI。

数据挖掘中，预测建模是一种分析多个自变量或预测变量与一个响应或因变量之间数学相关性的技术。在机器学习中，决策树用于分类和回归目的，分类树称为CART模型，而回归树用于预测。聚焦于比较线性回归和回归树的概念及其在UCI数据集上的应用。研究发现，决策树相比线性回归在预测建模中表现更优，特别是在最小均方误差的选择上。

通过案例分析，展示费舍尔判别法 (LDA) 和贝叶斯判别法从数学理论到计算机模型以及计算的完整过程。区别于直接调用 R 语言包，本实现相当于重写了判别法，深入剖析算法细节。

数据集包含基于气候数据进行分类的Fisher线性判别分析（LDA）示例。