加入收藏 | 设为首页 | 会员中心 | 我要投稿 常州站长网 (https://www.0519zz.com/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 站长学院 > MySql教程 > 正文

SQL on Hadoop在快手大数据平台的实践与优化

发布时间:2019-06-01 14:19:13 所属栏目:MySql教程 来源:佚名
导读:副标题#e# 快手大数据架构工程师钟靓近日在A2M人工智能与机器学习创新峰会分享了题为《SQL on Hadoop在快手大数据平台的实践与优化》的演讲,主要从SQL on Hadoop介绍、快手SQL on Hadoop平台概述、SQL on Hadoop在快手的使用经验和改进分析、快手SQL on Ha

当外部Monitor监控感知到连续内存过高,会自动触发HS2服务进程的FGC操作,如果内存依然连续过高,则通过ZK直接下线服务,并根据查询提交的时间顺序,依次停止查询,直到内存恢复,保证服务中剩余任务的正常运行。

SQL on Hadoop在快手大数据平台的实践与优化

HiveServer2集群管理平台

HiveServer2在多集群状态下,需要掌握每个集群、以及每个HS2服务的状态。通过管理平台,可以查看版本情况、启动时间、资源使用情况以及上下线状态。

后续跟运维平台打通,可以更方便地进行一键式灰度以及升级。

SQL on Hadoop在快手大数据平台的实践与优化

快手查询平台的改进总结

SQL on Hadoop在快手大数据平台的实践与优化

04快手SQL on Hadoop的未来计划

  • 专家系统的升级,实现自动化参数调优和SQL优化
  • AdHoc查询的缓存加速

新引擎的调研与应用

【编辑推荐】

  1. MySQL底层架构大揭秘,远不止写SQL那么简单!
  2. MySQL到底是怎么解决幻读的?
  3. MySQL删除操作其实是假删除
  4. MySQL数据库字符编码总结--数据传输编码
  5. DBA大牛MySQL优化心得,语句执行加速就是这么简单!
【责任编辑:武晓燕 TEL:(010)68476606】
点赞 0

(编辑:常州站长网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

热点阅读