小工具      在线工具  汉语词典  dos游戏  css  js  c++  java

配置了环境变量却依然报错Caused by: java.io.FileNotFoundException: HADOOP_HOME and hadoop.home.dir are unset.

大数据,hadoop,java,scala 额外说明

收录于:18天前

Caused by: java.io.FileNotFoundException: HADOOP_HOME and hadoop.home.dir are unset.

java.io.FileNotFoundException: HADOOP_HOME and hadoop.home.dir are unset.
	at org.apache.hadoop.util.Shell.checkHadoopHomeInner(Shell.java:467)
	at org.apache.hadoop.util.Shell.checkHadoopHome(Shell.java:438)
	at org.apache.hadoop.util.Shell.<clinit>(Shell.java:515)
	at org.apache.hadoop.util.StringUtils.<clinit>(StringUtils.java:79)
	at org.apache.hadoop.conf.Configuration.getBoolean(Configuration.java:1712)
	at org.apache.hadoop.security.SecurityUtil.setConfigurationInternal(SecurityUtil.java:99)
	at org.apache.hadoop.security.SecurityUtil.<clinit>(SecurityUtil.java:88)
	at org.apache.hadoop.security.UserGroupInformation.initialize(UserGroupInformation.java:312)
	at org.apache.hadoop.security.UserGroupInformation.ensureInitialized(UserGroupInformation.java:300)
	at org.apache.hadoop.security.UserGroupInformation.getCurrentUser(UserGroupInformation.java:575)
	at org.apache.spark.util.Utils$.$anonfun$getCurrentUserName$1(Utils.scala:2561)
	at scala.Option.getOrElse(Option.scala:201)
	at org.apache.spark.util.Utils$.getCurrentUserName(Utils.scala:2561)
	at org.apache.spark.SparkContext.<init>(SparkContext.scala:316)
	at org.apache.spark.SparkContext.<init>(SparkContext.scala:157)
	at org.apache.spark.SparkContext.<init>(SparkContext.scala:170)
	at org.apache.spark.api.java.JavaSparkContext.<init>(JavaSparkContext.scala:64)
	at com.example.demo.componet.spark.sparkConnect.<init>(sparkConnect.java:15)
	at com.example.demo.componet.spark.sparkConnect.main(sparkConnect.java:34)
18:11:09.346 [main] WARN org.apache.hadoop.util.Shell - Did not find winutils.exe: {
    }
java.io.FileNotFoundException: java.io.FileNotFoundException: HADOOP_HOME and hadoop.home.dir are unset. -see https://wiki.apache.org/hadoop/WindowsProblems
	at org.apache.hadoop.util.Shell.fileNotFoundException(Shell.java:547)
	at org.apache.hadoop.util.Shell.getHadoopHomeDir(Shell.java:568)
	at org.apache.hadoop.util.Shell.getQualifiedBin(Shell.java:591)
	at org.apache.hadoop.util.Shell.<clinit>(Shell.java:688)
	at org.apache.hadoop.util.StringUtils.<clinit>(StringUtils.java:79)
	at org.apache.hadoop.conf.Configuration.getBoolean(Configuration.java:1712)
	at org.apache.hadoop.security.SecurityUtil.setConfigurationInternal(SecurityUtil.java:99)
	at org.apache.hadoop.security.SecurityUtil.<clinit>(SecurityUtil.java:88)
	at org.apache.hadoop.security.UserGroupInformation.initialize(UserGroupInformation.java:312)
	at org.apache.hadoop.security.UserGroupInformation.ensureInitialized(UserGroupInformation.java:300)
	at org.apache.hadoop.security.UserGroupInformation.getCurrentUser(UserGroupInformation.java:575)
	at org.apache.spark.util.Utils$.$anonfun$getCurrentUserName$1(Utils.scala:2561)
	at scala.Option.getOrElse(Option.scala:201)
	at org.apache.spark.util.Utils$.getCurrentUserName(Utils.scala:2561)
	at org.apache.spark.SparkContext.<init>(SparkContext.scala:316)
	at org.apache.spark.SparkContext.<init>(SparkContext.scala:157)
	at org.apache.spark.SparkContext.<init>(SparkContext.scala:170)
	at org.apache.spark.api.java.JavaSparkContext.<init>(JavaSparkContext.scala:64)
	at com.example.demo.componet.spark.sparkConnect.<init>(sparkConnect.java:15)
	at com.example.demo.componet.spark.sparkConnect.main(sparkConnect.java:34)
Caused by: java.io.FileNotFoundException: HADOOP_HOME and hadoop.home.dir are unset.
	at org.apache.hadoop.util.Shell.checkHadoopHomeInner(Shell.java:467)
	at org.apache.hadoop.util.Shell.checkHadoopHome(Shell.java:438)
	at org.apache.hadoop.util.Shell.<clinit>(Shell.java:515)
	... 16 common frames omitted
18:11:09.348 [main] DEBUG org.apache.hadoop.util.Shell - Failed to find winutils.exe

Java通过spark提供的接口org.apache.spark.api.java调用spark但是这仅限于在普通项目中。例如

windows上配置hadoop并通过idea连接本地spark和服务器spark本篇文章中介绍了在普通Maven项目如何使用spark。但当同样的项目移植到spring boot时就行不通了。老是包如标题的错误。

[org.apache.hadoop.util.Shell] - Failed to detect a valid hadoop home directory
java.io.IOException : HADOOP_HOME or hadoop.home.dir are not set.

环境变量可能已经配置了,但还是找不到路径。

在这里插入图片描述

在代码中手动添加路径:

System.setProperty("hadoop.home.dir","D:\\SoftWares\\Apache\\spark-3.3.1-bin-hadoop3");
. . .

相关推荐

额外说明

Juc23_LockSupport概述、阻塞方法park、唤醒方法unpark(thread)、解决的痛点以及提出的面试问题

文章目录 ①. 什么是LockSupport? ②. 阻塞方法 ③. 唤醒方法(注意这个permit最多只能为1) ④. LockSupport它的解决的痛点 ⑤. LockSupport 面试题目 ①. 什么是LockSupport? ①. 通过par

额外说明

Python每日一练——数据存储第一关:读取XML节点和属性值的方法

面试题第一关: 第一部分——考点: 掌握读取XML节点和属性值的方法。 第二部分——面试题: 1.面试题一:有一个test.xml文件,要求读取该文件中products节点的所有子节点的值以及子节点的属性值。 test.xml文件: <!-- produ

额外说明

【Unity3D插件】AnyPortrait插件分享《(一)制作史莱姆动画》

推荐阅读 CSDN主页 GitHub开源地址 Unity3D插件分享 简书地址 我的个人博客 QQ群:1040082875 大家好,我是佛系工程师☆恬静的小魔龙☆,不定时更新Unity开发技巧,觉得有用记得一键三连哦。 一、前言 AnyPortrait是

额外说明

activity任意节点动态加签

前言 在之前的章节中,我们聊到了activity可以解决动态的任意加签节点的问题,但那时候我们的加签节点是临时存储的,而在现实的业务中,往往需要通过创建自身的业务表与activity的表建立一定的业务关系,从而实现数据持久化,即我们加签的节点不能因为加签

额外说明

C++的delete 和 delete []的使用区别

目录 使用规则 区分的方法 1.对于像int/char/long/int*/struct等等简单数据类型,既可以用delete也可以用delete[] 2.针对类Class,数组只能使用delete[] 3.总结: 使用规则         delete

额外说明

Spark基础学习笔记23:DataFrame与Dataset

文章目录 零、本讲学习目标 一、Spark SQL (一)Spark SQL概述 (二)Spark SQL主要特点 1、将SQL查询与Spark应用程序无缝组合 2、Spark SQL以相同方式连接多种数据源 3、在现有数据仓库上运行SQL或HiveQL

额外说明

计算机英语讲课笔记(2020-6-23)

Use it or lose it. 用进废退。 Translation Exercise: 墨写的谎言,无法掩盖血染的事实。 list the keywords: ink, write (wrote, written), lie, cannot(can

额外说明

Java【代码分享 12】判断一个集合是否包含另一个集合中的一个或多个元素 retainAll() 及其他方法

1.原因说明 业务中有这么一个逻辑:判断第一个集合里包含第二个集合中的一个或多个元素。首先想到的是 contains() 但是它的参数只能传 Object,还有另一个也就是 retainAll() 它可以传 Collection<?>。 2.代码测试 p

额外说明

解决Windows系统目录丢失bitsperf.dll文件问题

其实很多用户玩单机游戏或者安装软件的时候就出现过这种问题,如果是新手第一时间会认为是软件或游戏出错了,其实并不是这样,其主要原因就是你电脑系统的该dll文件丢失了或没有安装一些系统软件平台所需要的动态链接库,这时你可以下载这个bitsperf.dll文件

ads via 小工具