微信号:AngelaTalk

介绍:感谢订阅,我是朱赟,也叫 angela.头像是我本人(因为总有人问).硅谷 Airbnb 资深程序媛一枚.希望透过女码工的视角为您讲述硅谷程序员的技术和故事.

白话 IT 之 从 Hive 到 Presto 到 Airpal

2016-01-22 05:11 朱赟


致谢:感谢好友曾洪博(Airbnb Data Infra Engineer)帮忙审稿。


前言


随着基于 Hadoop 的大数据处理越来越广泛,在 Hadoop 上对数据进行 SQL 查询的操作也成为各个公司最常用的应用之一。本篇主要介绍一个由 Facebook 开源的快速交互式SQL搜索引擎 Presto。将他和大家熟悉的 Hive 进行一个很简单的比较。最后略提 Airbnb 基于 Presto 的一个开源项目 Airpal。


Hive:基于 MapReduce 的批处理查询


Hadoop 是一个由 Apache 基金会所开发的分布式系统基础架构。这个框架上已经集成了很多的子项目,帮助用户在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力进行高速运算和存储。


Hadoop 作为一种分布式数据和计算的框架,可以想象,它的子项目的核心技术,就包括对数据的存储、计算和查询 。最早纳入 Hadoop 项目的一些核心技术,就包括 HDFS 和 MapReduce。简单来说,HDFS为海量的数据提供了存储,则 MapReduce 为海量的数据提供了计算。


而 Hive,就是建立在 Hadoop 上的数据仓库基础构架。他支持对存储在 HDFS 以及其他兼容的文件系统如 Amazon S3 文件系统上的数据的查询和分析。Hive 也是一个基于 MapReduce 的计算框架,它提供了一个类似 SQL 的叫做 HiveQL 的语言,可以对有 schema  的结构化数据进行读取,并将 query 转化成 MapReduce 任务来进行查询。


HDFS、MapReduce、和 Hive 是大家最常见的 Hadoop 上和数据处理相关的项目,很多人已经很熟悉。由于基于 Hive 的 HQL 是把 SQL 转换成 MapReduce 任务来完成的,通常因为作业提交和作业调度需要大量的开销,所以 HiveQL 查询的延迟极高,一个简单的查询也往往有几分钟的延迟。所以 Hive 更实用于大数据集的批处理作业,比如网络日志分析。然而对一些需要频繁操作的实时查询,或者需要低延时的应用,Hive 的效率就太低。



Presto:快速交互式SQL搜索引擎


Presto 是 Facebook 从 2012 年末开始开发的一个分布式 SQL 引擎,用 Java 写的,已开源。现在 Dropbox 和 Airbnb 也在使用。主要解决的问题就是工程师和数据科学家每天需要交互式的对数据仓库中数据做一些即时的查询,延时太大会极大的影响工程师和数据科学家的工作效率。


使用 Presto 对 数据进行 SQL 查询具有以下特点:


  1. 与 Hive 的批处理不同,Presto 主要用于低频的,随机的,交互式查询。

  2. 语法与 ANSI SQL 极为相似,但略有不同。

  3. Presto 的实现和 Hive 有着本质的不同。Hive 是把一个 query 转化成多个 stage 的 MapReduce 的任务,然后一个接一个执行。执行的中间结果通过对磁盘的读写来同步。Presto 没有使用 MapReduce,它是通过一个定制的 query 和执行引擎来完成的,参见《Presto: Interacting with petabytes of data at Facebook》(链接1)。

  4. Presto 所有的查询处理是 in memory 的,这也是它性能很高的一个主要原因。所以在日常使用中,如果有大量的 join 偶尔会发生内存不足的报错,一个常见的解决方法是生成中间表的方式来减少 join 的次数。

  5. Presto 比 Hive 的性能好很多,尤其适合做 needle in haystack 这样的 key lookup 操作。有些操作 Hive 可以 run 几小时而 Presto一分钟就能搞定:



  6. Presto 支持多种存储系统和文件结构。存储系统的支持包括 HDFS,HBase,Scribe 等。文件结构的支持包括 Jason,Avro,Parquet,RCFile,ORCFile 等。《Using Presto in our Big Data Platform on AWS》(链接7)一文中,对 Presto 对于不同文件格式的查询性能做了一个比较。可以看出,Presto 对非结构化的数据查询效率最低,对 RCFile 或 ORCFile 的查询性能最高:





Airpal:基于 Presto 的 web 查询接口


Airpal 是 Airbnb 2015 年开源的一个基于 Presto 的 SQL 查询引擎。其最大的区别,就是提供了一个可视化的 web 界面,让数据查询变得更直观和高效:





Airpal 比 Presto 的用户体验要更人性化,包括:


  1. 可以简单的在 metadata, partitions, schemas, 和 sample rows 之间进行 tab 切换。

  2. 易于复制粘贴修改的 query 编辑器。

  3. 有一个进程条来跟踪查询的进度。

  4. 可以把结果以 CSV 格式下载

  5. 可以保存一个 query,或者从 query 历史中选择一个 query 来执行。

  6. 与 LDAP 关联,设定用户访问权限。


该开源项目的介绍和 github 参见《Introducing Airpal》(链接9)


链接及相关阅读:


  1. 《Presto: Interacting with petabytes of data at Facebook》:https://www.facebook.com/notes/facebook-engineering/presto-interacting-with-petabytes-of-data-at-facebook/10151786197628920/

  2. 《8 SQL-on-Hadoop frameworks worth checking out》:http://blog.matthewrathbone.com/2014/06/08/sql-engines-for-hadoop.html

  3. 《Presto: Facebook’s Distributed SQL Query Engine》:http://www.infoq.com/news/2013/11/Presto

  4. 《Even faster: Data at the speed of Presto ORC》:https://code.facebook.com/posts/370832626374903/even-faster-data-at-the-speed-of-presto-orc/

  5. 《Faster Big Data on Hadoop with Hive and RCFile》:http://www.semantikoz.com/blog/faster-big-data-hadoop-hive-rcfile/

  6. 《ORC: An Intelligent Big Data file format for Hadoop and Hive》:http://www.semantikoz.com/blog/orc-intelligent-big-data-file-format-hadoop-hive/

  7. 《Using Presto in our Big Data Platform on AWS》:http://techblog.netflix.com/2014/10/using-presto-in-our-big-data-platform.html

  8. 《Presto-as-a-Service: Interactive SQL Queries on AWS》:http://www.infoq.com/news/2014/01/presto-aws-qubole

  9. 《Introducing Airpal》:http://nerds.airbnb.com/airpal/

  10. 《Airbnb Boosts Presto SQL Query Engine For Hadoop》:http://www.informationweek.com/big-data/big-data-analytics/airbnb-boosts-presto-sql-query-engine-for-hadoop/d/d-id/1319359




注:本号谈技术,在力求准确的前提下尽量保证浅显、白话,更适合入门者阅读。按朋友的说法,属于技术入门的开胃菜。专家慎入。


讲述技术、白话硅谷。偶尔八八程序员身边的事儿。关注长按二维码:


 
嘀嗒嘀嗒 更多文章 开号第一篇:致可爱的程序员们和他们的朋友们 就从这鄙视链说起好了 PowerBall 特刊 —— 程序员们是怎么买彩票的 写在MacTalk《神童的世界你不懂》之后 是时候考虑适当锻炼了,要不就该反省了。
猜您喜欢 性能测试之用例得分评价和 CPU 内存数据监控——谈谈个人看法和实践总结 尊享专属,IBM Bluemix资深技术架构师带来微课堂第四讲! 2040年,虚拟现实和DNA匹配帮你约会 谷歌推出全新Android开发语言Sky:让App更流畅 【机器学习】监督式和非监督式机器学习算法