HT 6. Logistic回归

Logistic回归，又称为logistic回归分析，是一种广义的线性回归分析模型，通常用于数据挖掘和分类任务。

在Logistic回归中，多元线性回归模型为： y = β0 + β1X1 + β2X2 + … + βpXp当y为分类变量（如发生/未发生，阳性/阴性等）时，以上模型不再适用。因此，我们用发生的概率P来代替y： P = β0 + β1X1 + β2X2 + … + βpXp

条件Logistic回归是一种用于配对资料分析的统计方法，特别适用于流行病学的病例-对照研究。通过年龄、性别等条件进行配对，以控制重要混杂因素，形成多个匹配组。每组通常包括一个病例和若干个对照，是一种常见的1:M配对研究方法。

Logistic回归，又称logistic回归分析，是一种广义的线性回归分析模型，在数据挖掘、疾病自动诊断和经济预测等领域有广泛应用。例如，可以用于探索疾病的危险因素，并预测疾病发生的概率。虽然Logistic回归的因变量可以是多分类的，但在实际应用中，二分类的情况更为常见和易于解释。Matlab提供了有效的工具和函数来实现这一模型。

社会经济和科学研究中，线性模型和广义线性模型已广泛应用于数据分析和数据挖掘。在公司财务预警领域，引入L1范数惩罚技术的模型不仅可以估计模型系数，还能实现变量选择。探讨了L1范数正则化Logistic回归模型在上市公司财务危机预测中的应用，通过对比沪深股市制造业ST公司和正常公司的T-2年财务数据，证实了其在提高模型解释性的同时保持预测精度。

提供Logistic映射及反Logistic映射的MATLAB代码，与理论相结合，有助于深入理解映射特性。

详细介绍了如何使用Matlab编程实现Logistic迭代算法的求解过程。通过编程，可以有效地求解Logistic回归模型，实现数据分类和预测功能。

以下是展示logistic混沌序列的Matlab代码，确保代码能够成功运行并生成预期结果。

问题 1：逻辑回归 实验结果表明，随着进入 Logistic 回归分类器 的样本数量增加，测试准确性也逐步提高。这是合理的，因为数据集中的模式在样本量增多时变得更加代表性。随着更多样本的引入，模型的泛化能力也变得更强。下图展示了模型的测试准确性与训练时使用的样本数之间的关系，随着样本数量的增加，测试准确性呈明显的上升趋势。 问题 2：稀疏Logistic回归 根据实验结果，理想的正则化参数为 0.1。当正则化参数过大时， AUC 值会降低，正则化参数为 0 或 1 时，模型的性能较差。当正则化参数为 1 时，模型的测试准确度恰好为 50%。这是因为测试数据包含了74个阳性样本和74个阴性样本，因此，模型始终预测为0时，正好能够正确分类一半的样本。下图显示了精度与 L1 正则化参数 的关系。实验还揭示了一个有趣的模式，数据集中的相关特征数量约为 15-20 个。