百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 博客教程 > 正文

【HIVE】不会Java也能操作Hadoop,常用HQL语句,收藏就是赚了。

connygpt 2024-09-06 19:42 15 浏览

show databases;

查看都有哪些数据库。

create database park;

创建park数据库

创建的数据库,实际是在Hadoop的HDFS文件系统里创建一个目录节点,统一存在: /user/hive/warehouse 目录下

use park;

进入park数据库

show tables;

查看当前数据库下所有表

create table stu (id int,name string);

创建stu表,以及相关的两个字段

hive里,用的是string,不用char和varchar。此外,所创建的表,也是HDFS里的一个目录节点

insert into stu values(1,'zhang')

向stu表插入数据

1.HDFS不支持数据的修改和删除,但是在2.0版本后支持了数据追加。实际上,insert into 语句执行的是追加操作。

2.所以注意:hive支持查询,行级别的插入。不支持行级别的删除和修改。

3.hive的操作实际是执行一个job任务,调用的是Hadoop的MR。

4.插入完数据之后,发现HDFS stu目录节点下,多了一个文件,文件里存了插入的数据,所以得出结论,hive存储的数据,是通过HDFS的文件来存储的。

select * from stu

查看表数据

也可以根据字段来查询,比如select id from stu

drop table stu

删除表

select * from stu

查询stu表数据

有时会出现这样的情况:

原因是:我们从外部导入的文件的数据格式是:

1 jary

2 rose

即第一列和第二列是以空格为分隔符的。

但是把数据导入到hive之后,hive并不知道分隔符是什么,所以就不能正确的切分数据。所以显示null。

解决办法:在hive创建表的时候,要指定分割符,并且这个分割符要和外部文件里的分割符一致。详见下面指令

load data local inpath '/home/software/1.txt' into table stu;

通过加载文件数据到指定的表里

在执行完这个指令之后,发现hdfs stu目录下多了一个1.txt文件。由此可见,hive的工作原理实际上就是在管理hdfs上的文件,把文件里数据抽象成二维表结构,然后提供hql语句供程序员查询文件数据。可以做这样的实验:不通过load 指令,而通过插件向stu目录下再上传一个文件,看下hive是否能将数据管理到stu表里。

create table stu1(id int,name string) row format delimited fields terminated by ' ';

创建stu1表,并指定分割符 空格。

此时,把外部数据导入hive,就可以正确查出数据了。

desc stu

查看stu表结构。

create table stu2 like stu

创建一张stu2表,表结构和stu表结构相同,

只复制表结构不复制数据。

insert overwrite table stu2 select * from stu

把stu表数据插入到stu2表中

insert overwrite 可用于将select 查询出的数据插入到指定的表中或指定的目录下

比如:把查询结果存到本地指定的目录下,

执行:insert overwrite local directory '/home/stu' row format delimited fields terminated by ' ' select * from stu;

也可以将查询结果存到HDFS文件系统上

执行:insert overwrite directory '/stu' row format delimited fields terminated by ' ' select * from stu;

也可以将查询结果插入到多张表中

执行:from stu insert overwrite table stu1 select * insert overwrite table stu2 select *;结果是把stu表的数据插入 stu1和stu2 表。(也可以加where 条件等,比如select * where id>3)

alter table stu rename to stu2

将stu重命名为stu2

alter table stu add columns (age int);

为表stu增加一个列字段age,类型为int

Exit

退出hive

当退出hive后,我们可以尝试做这样的一件事:之前我们是在bin目录执行:sh hive 进入的现在,我们换一个目录来进入hive,比如: sh /bin/hive 来进入当我们查看数据库或查看表时,发现之前建立的park和stu表都没有了。原因:hive可以管理hdfs上的文件,用表的形式来管理文件数据。

而表名、表里有哪些字段,字段类型、哪张表存在哪个数据下等这些表信息,称之为hive的元数据信息。

知识点:hive的元数据信息不是存在hdfs上的,而是存在hive自带的derby关系型数据库里的。

即hive管理的数据是在hdfs上的,hive的元数据信息是存在关系型数据库里的。

上述问题出现的原因就是由于derby数据库引起的,这个数据库功能不完善,仅用于测试。

derby数据库存储hive元数据的方式:当在bin目录下进入hive时,derby数据会在bin目录下生成一个metastore_db目录,将元数据信息存在这个目录下。

当换个目录,比如在home 目录下hive时,derby又会在home目录下生成一个metastore_db目录,存储元数据信息。

解决办法:将默认使用的derby数据库换成mysql数据库

(后续更新hive的MySQL安装配置,欢迎转发关注)

相关推荐

3分钟让你的项目支持AI问答模块,完全开源!

hello,大家好,我是徐小夕。之前和大家分享了很多可视化,零代码和前端工程化的最佳实践,今天继续分享一下最近开源的Next-Admin的最新更新。最近对这个项目做了一些优化,并集成了大家比较关注...

干货|程序员的副业挂,12个平台分享

1、D2adminD2Admin是一个完全开源免费的企业中后台产品前端集成方案,使用最新的前端技术栈,小于60kb的本地首屏js加载,已经做好大部分项目前期准备工作,并且带有大量示例代码,助...

Github标星超200K,这10个可视化面板你知道几个

在Github上有很多开源免费的后台控制面板可以选择,但是哪些才是最好、最受欢迎的可视化控制面板呢?今天就和大家推荐Github上10个好看又流行的可视化面板:1.AdminLTEAdminLTE是...

开箱即用的炫酷中后台前端开源框架第二篇

#头条创作挑战赛#1、SoybeanAdmin(1)介绍:SoybeanAdmin是一个基于Vue3、Vite3、TypeScript、NaiveUI、Pinia和UnoCSS的清新优...

搭建React+AntDeign的开发环境和框架

搭建React+AntDeign的开发环境和框架随着前端技术的不断发展,React和AntDesign已经成为越来越多Web应用程序的首选开发框架。React是一个用于构建用户界面的JavaScrip...

基于.NET 5实现的开源通用权限管理平台

??大家好,我是为广大程序员兄弟操碎了心的小编,每天推荐一个小工具/源码,装满你的收藏夹,每天分享一个小技巧,让你轻松节省开发效率,实现不加班不熬夜不掉头发,是我的目标!??今天小编推荐一款基于.NE...

StreamPark - 大数据流计算引擎

使用Docker完成StreamPark的部署??1.基于h2和docker-compose进行StreamPark部署wgethttps://raw.githubusercontent.com/a...

教你使用UmiJS框架开发React

1、什么是Umi.js?umi,中文可发音为乌米,是一个可插拔的企业级react应用框架。你可以将它简单地理解为一个专注性能的类next.js前端框架,并通过约定、自动生成和解析代码等方式来辅助...

简单在线流程图工具在用例设计中的运用

敏捷模式下,测试团队的用例逐渐简化以适应快速的发版节奏,大家很早就开始运用思维导图工具比如xmind来编写测试方法、测试点。如今不少已经不少利用开源的思维导图组件(如百度脑图...)来构建测试测试...

【开源分享】神奇的大数据实时平台框架,让Flink&Spark开发更简单

这是一个神奇的框架,让Flink|Spark开发更简单,一站式大数据实时平台!他就是StreamX!什么是StreamX大数据技术如今发展的如火如荼,已经呈现百花齐放欣欣向荣的景象,实时处理流域...

聊聊规则引擎的调研及实现全过程

摘要本期主要以规则引擎业务实现为例,陈述在陌生业务前如何进行业务深入、调研、技术选型、设计及实现全过程分析,如果你对规则引擎不感冒、也可以从中了解一些抽象实现过程。诉求从硬件采集到的数据提供的形式多种...

【开源推荐】Diboot 2.0.5 发布,自动化开发助理

一、前言Diboot2.0.5版本已于近日发布,在此次发布中,我们新增了file-starter组件,完善了iam-starter组件,对core核心进行了相关优化,让devtools也支持对IAM...

微软推出Copilot Actions,使用人工智能自动执行重复性任务

IT之家11月19日消息,微软在今天举办的Ignite大会上宣布了一系列新功能,旨在进一步提升Microsoft365Copilot的智能化水平。其中最引人注目的是Copilot...

Electron 使用Selenium和WebDriver

本节我们来学习如何在Electron下使用Selenium和WebDriver。SeleniumSelenium是ThoughtWorks提供的一个强大的基于浏览器的开源自动化测试工具...

Quick 'n Easy Web Builder 11.1.0设计和构建功能齐全的网页的工具

一个实用而有效的应用程序,能够让您轻松构建、创建和设计个人的HTML网站。Quick'nEasyWebBuilder是一款全面且轻巧的软件,为用户提供了一种简单的方式来创建、编辑...