利用梯度下降和牛顿法求解Rosenbrock函数最小值
本实例探讨如何使用Python和机器学习库，通过梯度下降和牛顿法两种优化算法寻找Rosenbrock函数的最小值。
机器学习概述
机器学习致力于研究能够从经验中学习并改进性能的算法。其核心要素包括：
- 算法: 用于学习和预测的核心程序。
- 经验: 指的是用于训练算法的数据，也称为训练集。
- 性能: 指算法根据经验进行预测的能力，通常通过评估指标来衡量。
机器学习的典型流程为：使用数据训练模型，评估模型性能，若性能不达标则调整算法或数据，直至模型达到预期效果。
监督学习
监督学习是机器学习的一大分支，其目标是从已标注的训练数据中学习一个函数，用于预测新的输入数据。训练数据包含输入特征和对应的输出目标，通过学习特征与目标之间的关系，模型能够对新的输入进行预测。
例如，垃圾邮件过滤器就是一个监督学习的例子，其训练数据包含邮件文本（特征）和对应的标签（垃圾邮件或正常邮件）。模型学习如何根据邮件文本判断邮件类型，从而对新的邮件进行分类。
本实例将聚焦于监督学习中的优化算法，即梯度下降和牛顿法，用于寻找Rosenbrock函数的最小值。