星环大数据平台 TDH inceptor 问题排查

一、四点

1.metastore
2.mysql
3.Inceptor server
4.ldap

二、日志收集

1.Inceptor server & metastore 日志

2.Inceptor server & metastore jstack/jstat/jmap日志

三、常见问题

1.Inceptor server异常停止

2.Inceptor full gc

a.小文件 map*reduce 数量太多
b..长sql
c.分桶过大
d.jstack jmap
sudo -u hive /usr/java/latest/bin/jstack 9150
-- jmap
sudo -u hive /usr/java/latest/bin/jmap -histo:live 56 > /var/log/inceptor1/jmap_histo.log
-- dump
sudo -u hive /usr/java/latest/bin/jmap -dump:live,format=b,file=/var/log/inceptor1/jmap_dump.log 58
e.hive-server2.log
gc jvm
f.sql
udf 窗口函数 group by
g.org.apache.hive.service.cli.session.HiveSessionImpl session泄露，这个的个数如果超过500 一般就疑似泄露了

3.Inceptor executor重启

4.beeline登录超时/超慢

四、必知必会

1.如何查看metastore的主备？

cat /etc/inceptor1/conf/hive-site.xml | grep uris

2.如何查看Inceptor的连接数

netstat -an | grep 10000 | wc -l

3.怎么修改最大并发数？

hive.metastore.server.max.threads

4.怎么判断metastore连接数达到上限？

pdsh -R ssh -w 11.1.110.2 cat /var/log/inceptor1/hive-metastore.log | grep rejected

2018-05-10 04:11:02,400 WARN server.TThreadPoolServer: (TThreadPoolServer.java:serve(184)) [main()] - Task has been rejected by ExecutorService 9 times till timedout, reason: java.util.concurrent.RejectedExecutionException: Task org.apache.thrift.server.TThreadPoolServer$WorkerProcess@b89aac3 rejected from java.util.concurrent.ThreadPoolExecutor@332a128e[Running, pool size = 3000, active threads = 3000, queued tasks = 0, completed tasks = 12992]

星环大数据平台 TDH inceptor 问题排查相关推荐

美创科技与星环科技大数据平台完成兼容互认证！
近日,杭州美创科技有限公司(简称:美创科技)旗下数据脱敏产品与星环信息科技(上海)有限公司旗下星环大数据平台TDH完成产品兼容互认证.测试结果显示,双方产品相互兼容,可以顺利安装.配置,整体运行稳定, ...
星环科技数据安全管理平台 Defensor重磅发布
随着国际互联网信息高速公路的畅通和国际化的信息交流,业务大范围扩展 ,数据安全的风险也在急剧恶化.为保障信息安全,国家陆续出台诸多安全相关的法律法规,尤其是 2021 年出台的<数据安全法> ...
基于星环科技大数据平台辽宁城市建设职业技术学院打造智慧校园
当今世界,发展职业教育已经成为各国应对危机.促进就业.迎接新工业革命挑战的共同行动.同时数字化技术的快速发展,改变着学习和教育,将成为职业教育系统整体改革与创新发展的战略选择. 星环科技与北京点为信息 ...
企业级大数据平台智能运维好帮手——星环科技多模数据平台监控软件Aquila Insight
Aquila Insight介绍 Aquila Insight是星环科技推出的一款多模数据平台监控软件,为企业运维团队提供了一套统一.完整.便捷的智能化运维解决方案.通过丰富的仪表盘管理.告警与通知管 ...
【案例】基于星环科技数据云平台TDC为富国基金建设万能的数据湖
星环科技作为企业级大数据基础软件开发商,通过发挥基础软件硬实力已经成功助力金融.政府.能源.交通.制造业等多个行业的客户实现了数字化转型,积累了丰富的成功经验.[行业案例]旨在定期分享星环科技最新案例 ...
内蒙农信携手星环科技建设农信大数据平台，激活金融业务创新
背景内蒙古自治区农村信用社联合社(简称"内蒙农信")经过多年的信息化建设,目前投产使用的信息化系统近100套,产生了大量的数据.该社于2019年采用MPP架构的分布式数据库,实现 ...
使用jdbc方式（token登陆）连接星环科技云平台TDC中的inceptor数据库（Kerberos安全认证）
使用jdbc方式连接星环科技云平台TDC中的inceptor数据库大数据数据库inceptor开启Kerberos安全认证方式: 登陆时使用token令牌方式登录 token串写在这里 import ...
TDH大数据平台的卸载与重装
本文目录前言 TDH 集群卸载 TDH集群卸载后的重装 haproxy问题总结前言大家好,我是明哥! 前段时间写过一篇博文关于TDH 集群的许可证管理机制及TDH集群的卸载与安装的博文. TDH ...
搭建TDH商业大数据平台社区版（附其他主流商业大数据平台下载汇总）
大数据核心原理与实践专栏说明: TDH社区版还挺好用的,无限量续签许可证,如果大家只是想玩玩儿大数据平台,或者刚入行大数据想练手,那么TDH社区版就够用了,避免了你前期安装一系列Hadoop组件的麻 ...
星环科技数据中台解决方案，助力某政府机构建设新型智慧城市
客户背景城市,是人们工作生活的栖息地,也是展示发展成果的全景图.某政府机构不仅注重城市"中枢大脑"的建设,而且兼顾"神经末梢"的需求,既有技术进步的" ...

星环大数据平台 TDH inceptor 问题排查

星环大数据平台 TDH inceptor 问题排查相关推荐

最新文章

热门文章