Presto怎么安装使用


这篇文章主要介绍“Presto怎么安装使用”的相关知识,小编通过实际案例向大家展示操作过程,操作方法简单快捷,实用性强,希望这篇“Presto怎么安装使用”文章能帮助大家解决问题。背景知识:Hive的缺点和Presto的背景Hive使用MapReduce作为底层计算框架,是专为批处理设计的。但随着数据越来越多,使用Hive进行一个简单的数据查询可能要花费几分到几小时,显然不能满足交互式查询的需求。Presto是一个分布式SQL查询引擎,它被设计为用来专门进行高速、实时的数据分析。它支持标准的ANSI
SQL,包括复杂查询、聚合(aggregation)、连接(join)和窗口函数(window
functions)。这其中有两点就值得探究,首先是架构,其次自然是怎么做到低延迟来支持及时交互PRESTO是什么?Presto是一个开源的分布式SQL查询引擎,适用于交互式分析查询,数据量支持GB到PB字节。Presto的设计和编写完全是为了解决像Facebook这样规模的商业数据仓库的交互式分析和处理速度的问题。它可以做什么?Presto支持在线数据查询,包括Hive, Cassandra, 关系数据库以及专有数据存储。
一条Presto查询可以将多个数据源的数据进行合并,可以跨越整个组织进行分析。Presto以分析师的需求作为目标,他们期望响应时间小于1秒到几分钟。
Presto终结了数据分析的两难选择,要么使用速度快的昂贵的商业方案,要么使用消耗大量硬件的慢速的“免费”方案。谁在使用它?Facebook使用Presto进行交互式查询,用于多个内部数据存储,包括300PB的数据仓库。
每天有1000多名Facebook员工使用Presto,执行查询次数超过30000次,扫描数据总量超过1PB。领先的互联网公司包括Airbnb和Dropbox都在使用Presto。Presto是一个运行在多台服务器上的分布式系统。 完整安装包括一个coordinator和多个worker。
由客户端提交查询,从Presto命令行CLI提交到coordinator。
coordinator进行解析,分析并执行查询计划,然后分发处理队列到worker。Presto查询引擎是一个Master-Slave的架构,由一个Coordinator节点,一个Discovery
Server节点,多个Worker节点组成,Discovery
Server通常内嵌于Coordinator节点中。Coordinator负责解析SQL语句,生成执行计划,分发执行任务给Worker节点执行。Worker节点负责实际执行查询任务。Worker节点启动后向Discovery
Server服务注册,Coordinator从Discovery Server获得可以正常工作的Worker节点。如果配置了Hive
Connector,需要配置一个Hive MetaStore服务为Presto提供Hive元信息,Worker节点与HDFS交互读取数据。安装介质安装配置Presto Server  1、解压安装包  2、创建etc目录  3、需要在etc目录下包含以下配置文件编辑node.properties编辑jvm.config由于OutOfMemoryError将会导致JVM处于不一致状态,所以遇到这种错误的时候我们一般的处理措施就是收集dump
headp中的信息(用于debugging),然后强制终止进程。Presto会将查询编译成字节码文件,因此Presto会生成很多class,因此我们我们应该增大Perm区的大小(在Perm中主要存储class)并且要允许Jvm
class unloading。编辑config.properties    coordinator的配置    workers的配置    如果我们想在单机上进行测试,同时配置coordinator和worker,请使用下面的配置:    参数说明:编辑log.properties    配置日志级别。配置Catalog PropertiesPresto通过connectors访问数据。这些connectors挂载在catalogs上。 香港云主机
connector可以提供一个catalog中所有的schema和表。例如:Hive connector
将每个hive的database都映射成为一个schema,所以如果hive connector挂载到了名为hive的catalog,
并且在hive的web有一张名为clicks的表,
那么在Presto中可以通过hive.web.clicks来访问这张表。通过在etc/catalog目录下创建catalog属性文件来完成catalogs的注册。

如果要创建hive数据源的连接器,可以创建一个etc/catalog/hive.properties文件,文件中的内容如下,完成在hivecatalog上挂载一个hiveconnector。注意:要访问Hive的话,需要将Hive的MetaStore启动:hive –service metastore下载:presto-cli-0.217-executable.jar重命名jar包,并增加执行权限连接Presto Server使用Presto操作Hive使用Presto的Web Console:端口:8080使用JDBC操作Presto    1、需要包含的Maven依赖    2、JDBC代码*******************************************************************************************关于“Presto怎么安装使用”的内容就介绍到这里了,感谢大家的阅读。如果想了解更多行业相关的知识,可以关注开发云行业资讯频道,小编每天都会为大家更新不同的知识点。

相关推荐: ASP.NET怎么部署到IIS中

这篇文章主要介绍“ASP.NET怎么部署到IIS中”,在日常操作中,相信很多人在ASP.NET怎么部署到IIS中问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”ASP.NET怎么部署到IIS中”的疑惑有所帮助!接下来,请跟着小编一…

免责声明:本站发布的图片视频文字,以转载和分享为主,文章观点不代表本站立场,本站不承担相关法律责任;如果涉及侵权请联系邮箱:360163164@qq.com举报,并提供相关证据,经查实将立刻删除涉嫌侵权内容。

(0)
打赏 微信扫一扫 微信扫一扫
上一篇 10/18 16:59
下一篇 10/18 16:59

相关推荐