hbase相关内容

如何使用HDFS 3.1.0设置HBase?

HDFS 2.7是HBase 2.0.0的默认版本. 对于HBase稳定版,为2.5. 我刚刚从版本3.1.0开始了HDFS集群.我如何使HBase来使用它? 我收到hsync错误消息. 编辑 我了解我必须替换所有这些jar文件? hadoop-*-2.7.4.jar 在此处输入图片描述 解决方案 如果您引用 (NT代表“未测试".) 您还可以通过观看JIRA HBASE ..
发布时间:2020-07-13 20:14:06 其他开发

无法删除HDFS损坏的文件

我无法删除HDFS中存在的损坏文件. Namenode已进入安全模式.块总数为980,其中已报告978.当我运行以下命令时, sudo -u hdfs hdfs dfsadmin -report 生成的报告是 Safe mode is ON Configured Capacity: 58531520512 (54.51 GB) Present Capacity: 357740789 ..
发布时间:2020-07-01 04:10:14 其他开发

创建hfile时出现Spark问题-添加了一个密钥,该密钥的大小不比以前的单元大

我正在尝试创建hfiles来将其批量加载到Hbase中,即使一切看起来都很好,它仍会引发带有行键的错误。 我正在使用以下代码: val df = sqlContext.read.format(“ com.databricks.spark .csv“) .option(” header“,” true“) .option(” inferSchema“,” true“) .load(” ..
发布时间:2020-06-07 18:51:53 其他开发

用于HBase/Phoenix的ODBC驱动程序

我需要将Tableau连接到HBase或Phoenix,并且Tableau不支持JDBC.糟透了! 我已经阅读了有关Simba专有驱动程序的信息,但尚未看到有关使用它的人的任何报道.在不理想的时候,我不想花钱,而我的雇主也有同样的感觉. 是否存在将Tableau连接到HBase或Phoenix的另一种方法?别人如何做?我不喜欢使用Hive连接到HBase的想法,因为离开Hive的主要原 ..
发布时间:2020-05-19 20:15:13 其他开发

Hbase 1.0.0连接池

由于Hbase 1.0+ API无法使用到目前为止,我已经创建了 Connection 对象为 ThreadLocal ,但我不确定这是否是个好主意. 通常,由于连接对象非常重,因此创建连接池是一个好主意吗? 有人有什么主意吗? 解决方案 我已经从 Carter Page ,这是他的答案: “每个应用程序不必只使用一个Connection,在某些情况下,您可能会发现需要多 ..
发布时间:2020-05-13 23:47:57 Java开发

找不到spark-hbase mvn依赖性

我想使用Spark在HBase中读取表.我添加了以下依赖项: libraryDependencies += "org.apache.hbase" %% "hbase-spark" % "2.0.0-SNAPSHOT" 如hbase 网站所述,但该依赖关系可以不能解决! 我还尝试了不同的版本(1.2.0、1.1.2),但没有用. 解决方案 看起来hbase-spark不在ma ..
发布时间:2020-05-07 21:12:54 其他开发

hbase-client 2.0.x错误

我正在尝试使用hbase-client java API连接到远程hbase服务器. 到目前为止,我已经能够使其与hbase-client版本1.3.1一起使用.但是,为了解决与gRPC的依赖冲突,我正在尝试使用hbase-client versoin 2.0.x. 当我尝试在hbase Java客户端版本2.0.x中使用admin.tableExists(tableName)时,出现此错误 ..
发布时间:2020-05-07 21:05:16 Java开发

在Hbase表中使用Rowcounter

我正在尝试计算Hbase表中的行数.可以用scannner做到这一点,但这是一个庞大的过程.想使用RowCounter从Hbase表中获取行号.有什么方法可以在Java代码中使用它.是否有任何示例或代码段可用. 通过使用命令:- ,直接使用rowcounter非常简单. /hbase org.apache.hadoop.hbase.mapreduce.RowCounter [TABLE ..
发布时间:2020-05-05 15:44:02 其他开发

花费1个小时将1GB数据加载到hbase中

我想将1GB(1000万条记录)的CSV文件加载到Hbase中.我为此写了Map-Reduce程序.我的代码工作正常,但需要1个小时才能完成. Last Reducer耗时超过半小时.有人可以帮我吗? 我的代码如下: Driver.Java package com.cloudera.examples.hbase.bulkimport; import org.a ..
发布时间:2020-05-05 15:42:01 Java开发

HBase上的Hive与HDFS上的Hive

我的数据不需要实时加载,因此我不必使用HBASE,但是我想知道在MR Jobs中使用HBASE是否对性能有好处,由于索引数据? 有人有基准吗? 解决方案 通常来说,hive/hdfs将比HBase快得多. HBase位于HDFS之上,因此添加了另一层.如果您要查找单个记录,则HBase会更快,但您不会为此使用MR作业. ..
发布时间:2020-05-05 15:39:52 其他开发

在蜂巢的外部表中创建分区

我已经成功在蜂巢的内部表中创建并添加了动态分区.即使用以下步骤: 1创建了一个源表 2将数据从本地加载到源表 3-创建了另一个带有分区的表-partition_table 4-将数据从源表插入此表,从而动态创建所有分区 我的问题是,如何在外部表中执行此操作?我读了很多关于此的文章,但是我很困惑,我是否必须指定到现有分区的路径才能为外部表创建分区? 示例: 步骤1 ..
发布时间:2020-05-05 15:38:54 其他开发

Hbase checkAndPut和checkAndMutate有什么区别?

在Hbase 1.2.4中 checkAndPut和checkAndMutate有什么区别? 解决方案 checkAndPut-根据传递的CompareOp将值与hbase中的当前值进行比较. CompareOp = EQUALS如果期望值相等,则将值添加到放置对象中. checkAndMutate-根据传递的CompareOp将值与hbase中的当前值进行比较.CompareOp= ..
发布时间:2020-04-26 09:27:15 其他开发

在hbase中创建表

我是hbase和hadoop的新手.无论如何,我成功地建立了由3台机器组成的hadoop集群.现在,我需要一些有关建立数据库的帮助. 我有一个表"comments",其中包含字段: 用户ID 评论 对评论的评论(可以不止一个)和状态字段相同的说法, 有人可以帮助我使用hbase/shell构建相同的文件吗? 解决方案 以下是一些对您有用的HBase shell命令.获 ..
发布时间:2020-04-25 11:58:01 其他开发

从Spark访问kererized远程HBASE集群

我正在尝试使用如果我通过直接在客户端上使用master = local [*]运行Spark绕过独立群集,那么只要我首先从客户端启动,我就可以访问远程HBASE群集.但是,当我将主服务器设置为具有所有其他配置的远程集群时,在org.apache.hadoop.hbase.security.UserProvider.instantiate(UserProvider.java:43)处会收到一个空指针 ..
发布时间:2020-04-25 11:14:02 其他开发

使用keytab提交oozie作业

我正在使用一个keytab文件绕过kerberos,从而通过oozie运行shell脚本. Shell脚本包含hbase shell命令,因此我需要在运行hbase shell命令之前先进行一次kinit.这对我来说很好. 因此,在我使用协调器启动作业并使用keytab(服务帐户)在工作流中包含多个shell脚本的情况下,oozie是否会发生冲突?因为我使用oozie coordinator ..
发布时间:2020-04-25 11:13:06 其他开发

连接到Impala和HBase的Kerberos错误

我们正在开发一个可与hadoop组件(例如HDFS,HBase和Impala)交互的Web应用程序. 集群已使用kerberized,我们正在使用JAAS config进行身份验证. 我们将在VM参数中配置JAAS,如下所示: -Djava.security.auth.login.config=/user/gss-jaas.conf -Djava.security.krb5.conf=/us ..
发布时间:2020-04-25 11:08:32 其他开发

将Jar文件添加到WEB-INF/lib

我是Eclipse,Java和Linux的新手.我搜索了此问题,但没有得到答复.我想编写一个处理HBase表的程序.因此,我有一些与HBase相关的Jar文件.在普通的Java应用程序中,我按照以下说明添加Jar文件 构建路径->配置构建路径->添加外部Jars 因此在Dynamic Web Project中声音听起来有所不同.经过一些搜索后,我了解到Jar文件必须添加到WEB-INF ..
发布时间:2020-04-23 08:52:16 Java开发

将Json作为JSON插入Hbase-Scala

我想使用scala将json对象插入Hbase单元中,目前我可以使用以下代码插入值,但想知道我如何能够将整个Json对象插入Hbase单元中. import org.apache.hadoop.hbase.util.Bytes.toBytes val hTable:HTable = new HTable(configuration, "tablename") val p = new Put( ..
发布时间:2019-11-24 15:07:01 其他开发