温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

HIVE有什么用

发布时间:2021-12-13 09:19:44 来源:亿速云 阅读:196 作者:小新 栏目:大数据

这篇文章将为大家详细讲解有关HIVE有什么用,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。

一、HIVE与数据仓库

             在实际工作中,hive往往被用于建设数据仓库,所以,在学习HIVE前,你有必要去简单了解一下数据仓库的一些基本概念,比如:

1、什么是数据仓库

2、数据仓库与数据库区别 

3、数据仓库分层架构

      由于这些概念在网上很多,这里就不在介绍了,请自行网上查找。

二、Hive的概念

   1、 Hive是基于Hadoop的一个数据仓库工具
  • 可以将结构化的数据文件映射为一张数据库表,并提供类SQL查询功能。

  • 其本质是将SQL转换为MapReduce的任务进行运算,底层由HDFS来提供数据的存储支持,说白了hive可以理解为一个将SQL转换为MapReduce任务的工具,甚至更进一步可以说hive就是一个MapReduce的客户端

  HIVE有什么用

2、Hive与数据库的区别

     HIVE有什么用

  • Hive 具有 SQL 数据库的外表,但应用场景完全不同。

  • Hive 只适合用来做海量离线数据统计分析,也就是数据仓库。

3、Hive的优缺点
  • 优点 

  • 操作接口采用类SQL语法,提供快速开发的能力(简单、容易上手)。

  • 避免了去写MapReduce,减少开发人员的学习成本。

  • Hive支持用户自定义函数,用户可以根据自己的需求来实现自己的函数。

  • 缺点

  • Hive的查询延迟很严重

  • Hive不支持事务

4、Hive架构原理

HIVE有什么用

  • 1、用户接口:Client

    • CLI(hive shell)

  • JDBC/ODBC(java访问hive)

  • WEBUI(浏览器访问hive)

  • 2、元数据:Metastore

    • 元数据包括:表名、表所属的数据库(默认是default)、表的拥有者、列/分区字段、表的类型(是否是外部表)、表的数据所在目录等;

  • 默认存储在自带的derby数据库中,推荐使用MySQL存储Metastore

  • 3、Hadoop集群

  • 使用HDFS进行存储,使用MapReduce进行计算。

  • 4、Driver:驱动器

    • 解析器(SQL Parser)

      将SQL字符串转换成抽象语法树AST

      对AST进行语法分析,比如表是否存在、字段是否存在、SQL语义是否有误

  • 编译器(Physical Plan):将AST编译生成逻辑执行计划

  • 优化器(Query Optimizer):对逻辑执行计划进行优化

    • 执行器(Execution):把逻辑执行计划转换成可以运行的物理计划。对于Hive来说默认就是mapreduce任务

HIVE有什么用

关于“HIVE有什么用”这篇文章就分享到这里了,希望以上内容可以对大家有一定的帮助,使各位可以学到更多知识,如果觉得文章不错,请把它分享出去让更多的人看到。

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI