MPI并行WARSHALL算法

Matlab编程-矢量化Floyd-Warshall算法开发。为了实现所有对最短路径算法的快速实现，我们应该采用Floyd-Warshall算法的矢量化方法。

MPI 提供四种消息发送函数，它们参数相同，但发送方式和对接收方的要求不同。 标准模式 (MPI_Send)：由 MPI 系统决定是否将消息复制到缓冲区立即返回，或等待数据发送完成后返回。 缓冲模式 (MPI_Bsend)：MPI 系统将消息复制到用户提供的缓冲区后立即返回，用户需确保缓冲区大小足够。 同步模式 (MPI_Ssend)：基于标准模式，要求确认接收方已开始接收数据后才返回。 就绪模式 (MPI_Rsend)：调用时必须确保接收方已处于就绪状态，否则会产生错误。 后三种模式函数名在标准模式函数名 MPI_Send 后加上 B、S 和 R，参数相同。

查询打开文件的进程组句柄，用户释放句柄。 查询文件访问模式。

今天的软件并行程序开发工具与硬件潜力之间存在着一个巨大的软件鸿沟。这些工具需要程序员手动干预以实现代码的并行化。编写并行计算程序需要对目标算法或应用程序进行深入研究，比传统的顺序编程更为复杂。程序员必须了解算法或应用程序的通信和数据依赖关系。本书提供了探索为特定应用程序编写并行计算程序的技术。

并行随机存取机（PRAM）是计算机科学中的一种理论计算模型，用于设计和分析并行算法。该模型由同步处理器组成，每个处理器具有少量的局部内存，并共享一个大容量的主存储器。在每个时间步长内，每个处理器可以并行访问内存单元进行读写操作或执行本地计算。PRAM模型的变体包括EREW（独占读独占写）、CREW（并发读独占写）和CRCW（并发读并发写），分别控制处理器对内存的访问权限。尽管PRAM模型在实际系统中的应用有限，作为理论框架，它为并行算法的开发提供了重要指导。开发者可以专注于算法逻辑而无需深入考虑网络结构和技术细节。PRAM算法的基本编程构造类似于并行循环结构，用于描述多处理器同时操作内存的场景。尽管实际并行系统更复杂，PRAM模型简化了通信和同步问题，有助于理解和优化并行算法的性能。

基于CUDA的并行粒子群优化算法 该项目运用CUDA编程模型，将粒子群优化算法的核心计算环节迁移至GPU平台，实现了显著的性能提升。CPU主要负责逻辑控制，而GPU则承担了并行计算的重任，实现了比传统串行方法快10倍以上的加速效果，并且保持了高精度。 优势 加速计算: 利用GPU的并行计算能力，大幅提升算法执行效率。 高精度: 算法在加速的同时，依然保持了结果的精确性。 CPU/GPU协同: CPU负责逻辑控制，GPU专注于并行计算，实现高效分工。 应用领域 该算法可应用于各类优化问题，例如： 函数优化 工程设计 机器学习模型参数调优 路径规划

Matlab Hill代码存储库包含Matlab和Python类库，展示多种进化算法示例，包括多目标优化算法，作为NSGA-II学习的比较基准。该库支持并行适应性评估，适用于多核或集群计算机。

实验环境与测试函数 本次实验采用7台Dell服务器搭建Spark集群，包含1个主节点和6个工作节点，采用standalone模式进行任务调度。服务器配置为8G内存、四核处理器。软件环境包括spark-1.2.0-bin-hadoop1、Hadoop-1.2.1、JDK1.7.0_71(Linux版)以及ubuntu12.04Server操作系统。 实验选用Deb等人提出的双目标函数ZDT1作为测试用例，该函数包含两个复杂的目标函数和约束条件，符合大规模复杂优化问题的要求。 实验结果与性能分析 mapPartitions和map算子性能对比 实验初始化8个不同规模的种群，在相同条件下分别使用mapPartitions和map算子实现SPGA算法，对ZDT1函数进行优化求解，并对比分析运行时间。 结果表明，使用mapPartitions算子实现的算法在所有种群规模下都明显优于map算子。随着种群规模的增大，两种算子的运行时间均有所增加，但mapPartitions算子与map算子之间的差距也越来越大。 分析原因，个体数量增加的同时，partition数量保持不变，因此mapPartitions算子无需增加初始化资源的时间，仅因种群规模扩大而增加了计算时间，因此算法效率更高。最终选择使用mapPartitions算子实现SPGA算法的变异和适应度操作。 算法运行时间对比 本次实验对比了串行遗传算法、基于MapReduce的并行遗传算法（MRPGA）和基于Spark的并行遗传算法在不同种群规模下求解ZDT1多目标优化问题的运行时间。 实验结果表明，当种群规模较小，个体数量小于0.2*10^5时，串行遗传算法执行时间最短，其次是SPGA算法。

针对大规模数据集，提出了基于MapReduce的并行近似SS-ELM算法。