IntelliJ

Hadoop Intellij Plugin 是一款适用于 Intellij IDEA 的插件，方便开发者在 IDE 中直接访问和操作 Hadoop 文件系统。 功能： 浏览 Hadoop 文件系统文件列表 创建和删除目录 上传和下载文件 查看文件内容 运行 Job 作业 支持国际化语言设置 该插件与 hadoop-eclipse-plugin 类似，使用 IDEA 2018 编译并测试可用。

适用于IDEA 2020.2-2020.2.2版本的Scala插件，可帮助开发者在IntelliJ IDEA中使用Scala语言。

排除 NoSuchMethodError: scala.collection.JavaConverters（版本不匹配）。 解决 java.lang.NoClassDefFoundError: org/apache/hadoop/fs/FSDataInputStream（添加 Hadoop 包）。 从 spark-2.4.2-bin-hadoop2.7 中导入 example 源码以进行开发。 设置 Library（spark 包）、SDK（JDK 1.8）和 Global Libraries（Scala）。

本教程帮助您熟悉专业开发流程。许多公司使用master分支作为最新版本，并在独立分支上开发功能或修复错误。 通过练习，您将熟悉Git和IntelliJ。 练习内容 您将了解并熟悉以下基本方案： 创建此存储库的个人分支 在IntelliJ中签出项目 创建自己的分支 找到测试用例失败的原因 提交并推送您的解决方案 将包含您解决方案的分支合并到master分支 为每次练习创建分支不是必要的，但如果您想在Github上保存您的工作或与同学合作，这将很有帮助。 如果您不需要Github帐户，则可以匿名签出信息，但不能创建分支或推送更改。 准备工作 安装JDK (请参考相关资料) 安装Git (请参考相关资料) Windows：(请参考相关资料) OS X：(请参考相关资料) Linux：建议使用发行版的软件包管理器 创建分支 打开存储库网站并登录。 点击右上角的“Fork”按钮创建分支。 在IntelliJ中...

标题"Hadoop IDEA本地调试MR包含文档和所有的资源"涉及到的主要知识点是关于使用IntelliJ IDEA（简称IDEA）在本地环境中调试Hadoop MapReduce（MR）作业。Hadoop是一个开源的分布式计算框架，主要用于处理和存储海量数据，而MapReduce则是Hadoop的核心组件之一，负责数据的并行处理。以下将详细讲解如何在IDEA中进行本地调试Hadoop MR作业，以及涉及的相关资源。 1. Hadoop环境搭建：你需要安装和配置Hadoop环境。压缩包中的hadoop-2.7.2.tar.gz是Hadoop 2.7.2版本的源码包，解压后按照官方文档或教程配置环境变量，包括HADOOP_HOME、PATH等，并确保Hadoop能够正常启动，如NameNode、DataNode和ResourceManager等服务。 2. IDEA配置：在IDEA中，你需要安装Hadoop相关的插件，如Hadoop Console或Hadoop Support。这些插件可以帮助你在IDEA中直接运行和调试Hadoop作业。同时，确保IDEA的Java版本与Hadoop版本兼容。 3. 创建MapReduce项目：在IDEA中新建一个Java项目，导入Hadoop相关的依赖库，这些通常可以在Hadoop的lib目录下找到，或者通过Maven或Gradle添加。编写MapReduce作业，包括Mapper和Reducer类，以及Job配置代码。 4. 本地运行与调试：hadoop本地调试.txt可能包含了详细的步骤和注意事项，通常包括如何配置项目的运行/调试配置，指定输入输出路径，以及设置主类。在IDEA中，你可以创建一个新的Run/Debug Configuration，选择“Application”类型，设置Main Class为你的Job类，添加VM options来模拟Hadoop环境，例如-Dmapreduce.jobtracker.address=localhost:8021。 5. 测试与验证：为了在本地运行，你可能需要创建一些测试数据，可以将它们放在项目的一个特定目录下，作为Hadoop作业的输入。在运行作业时，指定这个目录作为输入，IDEA会在本地模拟Hadoop的运行环境，从而帮助你调试和验证MapReduce作业的正确性和效果。