日韩久久久精品,亚洲精品久久久久久久久久久,亚洲欧美一区二区三区国产精品 ,一区二区福利

hive集成hbase筆記

系統(tǒng) 3536 0

系統(tǒng)環(huán)境:

Hbase:0.90.3

hive:0.7.0

hive 0.7.0自帶的lib下包含文件“hbase-0.89.0-SNAPSHOT.jar”,我的hbase版本是0.90.3,首先拷貝hbase-0.90.3.jar到hive/lib下,然后刪除“hbase-0.89.0-SNAPSHOT.jar”。

創(chuàng)建hive表、hbase表:

?Xml代碼??

  1. CREATE?TABLE?hbase_table_1(key?int,?value?string)???
  2. ??STORED?BY?'org.apache.hadoop.hive.hbase.HBaseStorageHandler'??
  3. ??WITH?SERDEPROPERTIES?("hbase.columns.mapping"?=?":key,cf1:val")??
  4. ??TBLPROPERTIES?(" hbase.table.name "?=?"xyz");??

?其中屬性hbase.table.name值"xyz"為hbase的表名,屬性hbase.columns.mapping,"cf1:val"為列族名稱。

在hive 客戶端執(zhí)行上面語句后,會在hive中生成表"hbase_table_1",在hbase中生成表"xyz"

?

導(dǎo)入測試數(shù)據(jù):

Java代碼??
  1. hive>?CREATE?TABLE?pokes?(foo?INT,?bar?STRING);??
  2. hive>?LOAD?DATA?LOCAL?INPATH?'./examples/files/kv1.txt'?OVERWRITE?INTO?TABLE?pokes;??
  3. hive>?INSERT?OVERWRITE?TABLE?hbase_table_1?SELECT?*?FROM?pokes;??
  4. hive>?select?*?from?hbase_table_1;??

?

troubleshooting:

Java代碼??
  1. FAILED:?Error?in?metadata:?MetaException(message:org.apache.hadoop.hbase.MasterNotRunningException:?CNC-JN-R-541:60000??
  2. ????????at?org.apache.hadoop.hbase.client.HConnectionManager$HConnectionImplementation.getMaster(HConnectionManager.java:394)??
  3. ????????at?org.apache.hadoop.hbase.client.HBaseAdmin.<init>(HBaseAdmin.java:83)??
  4. ????????at?org.apache.hadoop.hive.hbase.HBaseStorageHandler.getHBaseAdmin(HBaseStorageHandler.java:74)??
  5. ????????at?org.apache.hadoop.hive.hbase.HBaseStorageHandler.preCreateTable(HBaseStorageHandler.java:158)??
  6. ????????at?org.apache.hadoop.hive.metastore.HiveMetaStoreClient.createTable(HiveMetaStoreClient.java:344)??
  7. ????????at?org.apache.hadoop.hive.ql.metadata.Hive.createTable(Hive.java:470)??
  8. ????????at?org.apache.hadoop.hive.ql.exec.DDLTask.createTable(DDLTask.java:3146)??
  9. ????????at?org.apache.hadoop.hive.ql.exec.DDLTask.execute(DDLTask.java:213)??
  10. ????????at?org.apache.hadoop.hive.ql.exec.Task.executeTask(Task.java:130)??
  11. ????????at?org.apache.hadoop.hive.ql.exec.TaskRunner.runSequential(TaskRunner.java:57)??
  12. ????????at?org.apache.hadoop.hive.ql.Driver.launchTask(Driver.java:1063)??
  13. ????????at?org.apache.hadoop.hive.ql.Driver.execute(Driver.java:900)??
  14. ????????at?org.apache.hadoop.hive.ql.Driver.run(Driver.java:748)??
  15. ????????at?org.apache.hadoop.hive.cli.CliDriver.processCmd(CliDriver.java:164)??
  16. ????????at?org.apache.hadoop.hive.cli.CliDriver.processLine(CliDriver.java:241)??
  17. ????????at?org.apache.hadoop.hive.cli.CliDriver.main(CliDriver.java:456)??
  18. ????????at?sun.reflect.NativeMethodAccessorImpl.invoke0(Native?Method)??
  19. ????????at?sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39)??
  20. ????????at?sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)??
  21. ????????at?java.lang.reflect.Method.invoke(Method.java:597)??
  22. ????????at?org.apache.hadoop.util.RunJar.main(RunJar.java:156)??
  23. )??

?

出現(xiàn)這個錯誤的原因是我引入的hbase包和hive自帶的hive包沖突,刪除hive/lib下的?hbase-0.89.0-SNAPSHOT.jar, OK了。

?

?

FAILED: Error in metadata: MetaException(message:Column Family department is not defined in hbase table hello)

?

當(dāng)使用hive相關(guān)管理已經(jīng)存在的hbase 多列table時,出現(xiàn)上面錯誤,而且列族“department ”的確存在,最終發(fā)現(xiàn)原因是:在hive中使用CREATE EXTERNAL TABLE 創(chuàng)建表的時候,"hbase.columns.mapping"的值中不能包含空格

hive集成hbase筆記


更多文章、技術(shù)交流、商務(wù)合作、聯(lián)系博主

微信掃碼或搜索:z360901061

微信掃一掃加我為好友

QQ號聯(lián)系: 360901061

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點(diǎn)擊下面給點(diǎn)支持吧,站長非常感激您!手機(jī)微信長按不能支付解決辦法:請將微信支付二維碼保存到相冊,切換到微信,然后點(diǎn)擊微信右上角掃一掃功能,選擇支付二維碼完成支付。

【本文對您有幫助就好】

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描上面二維碼支持博主2元、5元、10元、自定義金額等您想捐的金額吧,站長會非常 感謝您的哦!!!

發(fā)表我的評論
最新評論 總共0條評論
主站蜘蛛池模板: 清水河县| 宜州市| 乌鲁木齐县| 邹平县| 关岭| 建昌县| 思南县| 拜城县| 关岭| 樟树市| 清水河县| 阳春市| 华亭县| 巴林左旗| 武清区| 铜陵市| 广东省| 宁都县| 湖北省| 鹿泉市| 武乡县| 乌兰浩特市| 邮箱| 潮州市| 瑞安市| 儋州市| 淅川县| 东明县| 罗定市| 右玉县| 洛川县| 通河县| 资溪县| 象山县| 兴安县| 孟村| 海盐县| 大石桥市| 新竹县| 曲靖市| 宽甸|