ERROR sqoop.Sqoop: Got exception running Sqoop: java.lang.NullPointerException 解决方案【SOLVED】
最新推荐文章于 2021-08-20 15:40:52 发布
洛萨之锋公司最近需要使用sqoop利用hcatalog将数据从mysql导入到hive,我在导数据的时候碰到这样的问题:
ERROR sqoop.Sqoop: Got exception running Sqoop: java.lang.NullPointerException.
具体Exception是:
java.lang.NullPointerException
at java.lang.ProcessBuilder.start(ProcessBuilder.java:1012)
at java.lang.Runtime.exec(Runtime.java:620)
at java.lang.Runtime.exec(Runtime.java:528)
at org.apache.sqoop.util.Executor.exec(Executor.java:76)
at org.apache.sqoop.mapreduce.hcat.SqoopHCatUtilities.executeExternalHCatProgram(SqoopHCatUtilities.java:1126)
at org.apache.sqoop.mapreduce.hcat.SqoopHCatUtilities.launchHCatCli(SqoopHCatUtilities.java:1078)
at org.apache.sqoop.mapreduce.hcat.
ERROR sqoop.Sqoop: Got exception running Sqoop: java.lang.NullPointerException 解决方案【SOLVED】
洛萨之锋公司最近需要使用sqoop利用hcatalog将数据从mysql导入到hive,我在导数据的时候碰到这样的问题:ERROR sqoop.Sqoop: Got exception running Sqoop: java.lang.NullPointerException.具体Exception是:java.lang.NullPointerExceptionat jav
ERROR
sqoop
.
Sqoop
:
Got
exception
running
Sqoop
:
java
.
lan
g.Runtime
Exception
: Could not load db driver
问题产生原因
缺少 oracle 驱动
#需要在安装
sqoop
server的节点上放oracle的驱动包
cp ojdbc6.jar /opt/cloudera/parcels/CDH/lib/
sqoop
/lib/
一、Caused by:
java
.
lan
g.ClassNotFound
Exception
: org.apache.hadoop.hive.conf.HiveConf$ConfVars
Exception
in thread "main"
java
.
lan
g.NoClassDefFound
Error
: org/apache/hadoop/hive/conf/HiveConf$ConfVars
at org.apache.hive.hcatalog.common.HCatConstants.<...
使用
sqoop
将mysql中的表上传到hdfs中时
出现
error
sqoop
.
Sqoop
:
Got
exception
running
Sqoop
:
java
.
lan
g.RuntimeExceptrion
解决方法: 把mysql-connector-
java
的jar包 复制到 /
sqoop
/lib 的目录下
jar包下载地址: http://download.csdn.net/d
1、启动
sqoop
报错:
ERROR
sqoop
.
Sqoop
:
Got
exception
running
Sqoop
:
java
.
lan
g.Runtime
Exception
: Could not load db driver class: com.mysql.jdbc.Driver
[root@slave bin]# ./
sqoop
list-databases --connect jdbc:m
/usr/bin/
sqoop
list-databases \
--connect jdbc:oracle:thin:@(DESCRIPTION =(ADDRESS = (PROTOCOL = TCP)(HOST = xxx.xx.xx.xx)(PORT = 1521))(CONNECT_DATA =(SERVER = DEDICATED)(SERVICE_NAME = p3edsdb))) \
--username xxx\
--password xxx
##注意:jdb...
通过
java
api并发调用
sqoop
,发现如下相关异常
2020-07-03 15:10:44 [ pool-1-thread-6:350039 ] - [
ERROR
]
Got
exception
running
Sqoop
:
java
.
lan
g.
NullPointerException
java
.
lan
g.
NullPointerException
at
java
.util.Objects.requireNonNull(Objects.
java
:203)
at
java
.util.Arrays
20/09/06 18:02:40
ERROR
sqoop
.
Sqoop
:
Got
exception
running
Sqoop
: org.kitesdk.data.Validation
Exception
: Namespace test.db is not alphanumeric (plus '_')
org.kitesdk.data.Validation
Exception
: Namespace test.db is not alphanumeric (plus '_')
at org.k...
缺少MYSQL JDBC驱动
ERROR
sqoop
.
Sqoop
:
Got
exception
running
Sqoop
:
java
.
lan
g.Runtime
Exception
: Could not load db driver class:
com.mysql.jdbc.Driver
java
.
lan
g.Runtime
Exception
: Could not load db driver ...
1
sqoop
介绍
Apache
Sqoop
是专为Apache Hadoop和结构化数据存储如关系数据库之间的数据转换工具的有效工具。你可以使用
Sqoop
从外部结构化数据存储的数据导入到Hadoop分布式文件系统或相关系统如Hive和HBase。相反,
Sqoop
可以用来从Hadoop的数据提取和导出到外部结构化数据存储如关系数据库和企业数据仓库。
Sqoop
专为大数据批量传输设计,能够分割数...
1.
Sqoop
将mysql中表导入到hive遇到
ERROR
hive.HiveConfig: Could not load org.apache.hadoop.hive.conf.HiveConf. Make sure HIVE_CONF_DIR is set correctly.
2021-08-03 21:13:28,937
ERROR
hive.HiveConfig: Could not load org.apache.hadoop.hive.conf.HiveConf. Make sure
声明:
sqoop
1.4.7
oracle 11g
测试命令 :
sqoop
list-databases --connect jdbc:oracle:thin:@ip地址:1521/orcl --username scott --password tiger
1.如果连接报错
ERROR
sqoop
.
Sqoop
:
Got
exception
running
Sqoop
:
java
.
lan
g.Runtime
Exception
: Could not load db driver class: oracle.jdb
error
sqoop
.
sqoop
:
got
exception
running
sqoop
:
java
.
lan
g.runtime
exception
: could not load db driver class: com.mysql.jdbc.driver
### 回答1:
这个错误是由于
Sqoop
无法加载MySQL数据库驱动程序类com.mysql.jdbc.Driver导致的。可能是因为驱动程序JAR文件未正确配置或未在
Sqoop
的类路径中找到。您可以尝试检查以下内容:
1. 检查MySQL驱动程序JAR文件是否已正确配置到
Sqoop
的类路径中。
2. 确保MySQL驱动程序JAR文件已正确安装在
Sqoop
所在的机器上。
3. 检查MySQL驱动程序版本是否与
Sqoop
版本兼容。
4. 如果您使用的是CDH(Cloudera Distribution Hadoop),则可以尝试使用CDH提供的
Sqoop
版本和MySQL驱动程序版本。
希望这些提示可以帮助您解决问题。
### 回答2:
该错误通常表示
Sqoop
无法加载MySQL JDBC驱动程序类com.mysql.jdbc.Driver。
Sqoop
需要这个驱动程序才能连接MySQL数据库,如果该类未找到,则
Sqoop
无法执行任何与MySQL相关的任务。
要解决此错误,有几个步骤可以尝试:
1. 检查MySQL JDBC驱动程序是否存在。请确保已将mysql-connector-
java
.jar文件放置在
Sqoop
类路径中。如果未在类路径中,则需要将其添加到类路径中。
2. 检查MySQL JDBC驱动程序的版本。
Sqoop
需要MySQL JDBC驱动程序的特定版本才能正常工作。请确保正在使用与
Sqoop
兼容的版本。
3. 检查
sqoop
-env.sh文件。如果使用的是
Sqoop
2,则需要在
sqoop
-env.sh文件中设置正确的数据库驱动程序,以便
Sqoop
2可以正确加载它。
4. 检查MySQL数据库是否在运行。如果MySQL数据库未运行,则无法使用
Sqoop
与其进行交互。
总之,如果遇到了这个错误,请先检查以上步骤,并确保所有设置都正确。这将确保
Sqoop
可以正确连接到MySQL数据库并执行所需的任务。
### 回答3:
这个错误提示意味着在
Sqoop
运行时无法加载MySQL数据库的驱动程序。在
Sqoop
里,需要一个有效的数据库驱动程序来访问和操作数据库。这个错误通常出现在以下几种情况下:
1. 未正确安装MySQL JDBC驱动程序。
Sqoop
需要用到MySQL数据库的JDBC驱动程序。如果没有正确地安装MySQL JDBC驱动程序,就会导致这个错误出现。解决此问题的方法是下载并正确安装MySQL JDBC驱动程序。
2. 没有将MySQL JDBC驱动程序添加到
Sqoop
的classpath中。
如果在
Sqoop
的classpath中没有将MySQL JDBC驱动程序添加到其中,就无法加载MySQL驱动程序。为了解决这个问题,需要将MySQL JDBC驱动程序添加到
Sqoop
的classpath中。可以使用export命令设置CLASSPATH变量来将JAR文件所在的目录添加到classpath中,或者在
Sqoop
命令中使用--driver选项指定MySQL驱动程序路径。
3. MySQL JDBC驱动程序版本不兼容。
如果MySQL JDBC驱动程序的版本不兼容,就会导致无法加载MySQL驱动程序。为了解决这个问题,需要确定MySQL驱动程序的版本是否与
Sqoop
兼容,并确保使用了兼容的驱动程序版本。
总之,这个错误提示表明出现了无法加载MySQL JDBC驱动程序的问题。要解决这个问题,需要确定MySQL JDBC驱动程序是否正确安装和添加到了
Sqoop
的classpath中,并确定驱动程序的版本是否与
Sqoop
兼容。只有这样,才能成功加载MySQL JDBC驱动程序并使用
Sqoop
访问和操作MySQL数据库。
ERROR sqoop.Sqoop: Got exception running Sqoop: java.lang.NullPointerException 解决方案【SOLVED】
14843