Spark RDD

Spark-RDD.md

Spark RDD提供了一种灵活的数据处理方式，适用于分布式计算环境。利用RDD，用户可以轻松地进行数据分片和并行计算，从而提高处理效率。通过RDD的转换和行动操作，可以实现数据的高效处理和分析。RDD支持多种编程语言，方便用户根据需求进行选择。

spark 2 2024-07-12

Spark RDD 算子详解

RDD 分区调整：- repartition()- coalesce()聚合函数：- reduce()- aggregate()关联函数：- join()- cogroup()

spark 3 2024-04-30

Spark RDD持久化策略选择指南

Spark提供多种RDD持久化级别，用于在CPU和内存消耗之间进行权衡。建议优先考虑MEMORY_ONLY，若数据量过大则选择MEMORY_ONLY_SER进行序列化存储。另外，可选带有_2后缀的备份策略以实现快速失败恢复，避免重新计算。尽量避免使用DISK相关策略，因为从磁盘读取数据的性能不如重新计算。

spark 2 2024-07-13

Spark RDD深度解析与基本语法详解

深入探讨了Spark RDD的核心概念和基本语法，涵盖了Spark的基本特性、生态体系、支持的API、运行模式以及RDD的创建和计算类型。Spark作为高可伸缩性、高容错性的分布式计算框架，通过内存存储中间结果和优化有向无环图等特点，显著提高了大规模数据处理的效率。文章还详细介绍了RDD的容错Lineage机制，确保计算过程的可靠性。

spark 0 2024-08-22

摸鱼大数据-Spark核心-RDD综合案例-搜狗搜索流

搜狗搜索流的应用案例展示了如何利用Spark核心的RDD功能处理大数据，通过摸索和实践，深入探索数据处理的精髓。

spark 0 2024-10-15

RDD编程API详解

在Apache Spark框架中，弹性分布式数据集（RDD）是基本的数据抽象，具有不可变性和分布式特性，能够并行处理集群节点上的数据。深入介绍了RDD的核心概念，以及常见的转换（Transformation）和动作（Action）操作，包括map、filter、flatMap、mapPartitions、mapPartitionsWithIndex、sample等。

spark 0 2024-10-11

南华大学RDD实验报告改写

深入理解PPT中的RDD算子

spark 2 2024-07-17

Scala中RDD操作的详细分析与实例

详细解析了Scala语言中操作RDD的代码。通过逐行分析Scala基础和RDD操作，深入解释了map和reduceByKey的使用方法。同时探讨了Scala中下划线的多种用法，如作为占位符、元组元素访问、模式匹配和变量初始化。最后介绍了transform操作在RDD转换中的应用。

spark 0 2024-08-24

Spark & Spark Streaming 实战学习

深入掌握 Spark 和 Spark Streaming 技术 课程资料囊括代码示例和环境配置指导。 授课内容基于经典案例，助您构建扎实的理论基础与实战经验。 欢迎共同探讨学习心得，交流技术问题。

spark 6 2024-04-30

Spark 程序与 Spark Streaming 的区别

Spark 程序适用于对静态的历史数据进行一次性处理，它利用单个 Spark 应用实例完成计算。 Spark Streaming 则用于处理连续不断的实时数据流，它将数据流分割成多个批次，并利用一组 Spark 应用实例进行并行处理。

spark 2 2024-05-15