百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 博客教程 > 正文

Greenplum(GP)数据库事务ID处理那些事

connygpt 2024-09-12 13:53 5 浏览

背景

生产线上的gp数据库前几天突然拒绝服务了,具体现象会在jar包中报如下图错误。

The distributed transaction 'Prepare' broadcast failed to one or more segments for gid = 1634870850-0000771545. (cdbtm.c:673)

因为GP数据库默认的事务id告警是5亿条,停止服务是10亿条,因此达到10亿之后会拒绝服务,应用连接就会出现类似上图红色框中的提示。

原因

查看gp数据库事务告警极限值,以及拒绝服务极限值

--查询数据库拒绝服务极限值

show xid_stop_limit;

--查询数据告警极限值

show xid_warn_limit

目前已经拒绝服务了,因此需要先在服务器上停掉数据库,修改数据库节点的配置

停止数据库

gpstop -M fast

修改配置,找到节点服务器中每一个的postgresql.conf,为其增加

xid_stop_limit=50000000

全部修改完成之后,重启数据库即可

清除

1、检查master数据库年龄

SELECT datname, datfrozenxid ,age(datfrozenxid) FROM pg_database ORDER BY 1 DESC ;


2、---检查segment数据库年龄

SELECT gp_segment_id,datname, age(datfrozenxid) FROM gp_dist_random('pg_database') ORDER BY 3 DESC;

可见还有部分数据库存在的年龄非常的大。因此需要考虑对全库做事务id清理处理

3、针对大量的数据库表进行排序

SELECT c.oid::regclass as tbl,

greatest(age(c.relfrozenxid),age(t.relfrozenxid)) as age -- greatest 取最大值

FROM gp_dist_random ('pg_class') c

LEFT JOIN gp_dist_random ('pg_class') t ON c.reltoastrelid = t.oid

WHERE c.relkind IN ('r') AND

greatest( age( c.relfrozenxid ), age( t.relfrozenxid )) < 891779095 AND

greatest( age( c.relfrozenxid ), age( t.relfrozenxid )) >1000000

ORDER BY age desc

由上图所示,可以根据自己数据库的范围来调整大小值,因为我这边已经处理过一次了,因此现在查询sql已经不算大了。还算正常

4.单表清除

---处理指定表的事务

VACUUM FREEZE tablename

5.批量清除

-将查询出来的结果生成sh可执行脚本

COPY (

SELECT

'echo -n "' || tbl || ' ' || SUM (age) || ' "; psql -d dbname -c " vacuum freeze ' || tbl || ';"'

FROM

(

SELECT

c.gp_segment_id,

c.oid::regclass as tbl,

greatest(age(c.relfrozenxid),age(t.relfrozenxid)) as age -- greatest 取最大值

FROM gp_dist_random ('pg_class') c

LEFT JOIN gp_dist_random ('pg_class') t ON c.reltoastrelid = t.oid

WHERE c.relkind IN ('r') AND

greatest( age( c.relfrozenxid ), age( t.relfrozenxid )) < 891779095 AND

greatest( age( c.relfrozenxid ), age( t.relfrozenxid )) >1000000

ORDER BY age desc

) T

GROUP BY

tbl

ORDER BY

SUM (age) DESC

-- LIMIT 7500 ----如果数据表过多可以根据自己调节

) TO '/home/gpadmin/freeze_vacuum.sh'

上面的sql语句可根据自己数据库的实际进行调整,比如大小范围,条数等,当然生成的sh脚本位置也可以自己指定。

6、去数据库服务器给脚本复权,并执行

可以先查看freeze_vacuum.sh脚本的内容。然后

chmod 777 freeze_vacuum.sh

启动freeze_vacuum.sh脚本,并记录日志存放在process.log文件中

nohup ./freeze_vacuum.sh >process.log 2>&1 &

查看执行情况

ps -ef |grep freeze_vacuum.sh

也可通过日志了解执行进度

tailf process.log

7、定时任务

可以使用dolphinscheduler创建一个sql任务流程,每三个月或者半年执行一次。

注意,上图中对整个库vacuum,会占用大量的IO,并且会花费很多时间,因此在前置sql中配置当前session回话的时间长一些,不然会产生statement_timeout问题。

其他命令

---查询正在执行的sql任务

SELECT

procpid,

start,

now() - start AS lap,

current_query

FROM

(SELECT

backendid,

pg_stat_get_backend_pid(S.backendid) AS procpid,

pg_stat_get_backend_activity_start(S.backendid) AS start,

pg_stat_get_backend_activity(S.backendid) AS current_query

FROM

(SELECT pg_stat_get_backend_idset() AS backendid) AS S

) AS S

WHERE

current_query <> '<IDLE>'

ORDER BY

lap DESC;

--删除正在执行的sql

SELECT pg_terminate_backend(181231);

上面的两个可以在测试的过程中kill掉查询语句,避免出现一些不必要的问题。

相关推荐

自学Python,写一个挨打的游戏代码来初识While循环

自学Python的第11天。旋转~跳跃~,我~闭着眼!学完循环,沐浴着while的光芒,闲来无事和同事一起扯皮,我说:“编程语言好神奇,一个小小的循环,竟然在生活中也可以找到原理和例子”,同事也...

常用的 Python 工具与资源,你知道几个?

最近几年你会发现,越来越多的人开始学习Python,工欲善其事必先利其器,今天纬软小编就跟大家分享一些常用的Python工具与资源,记得收藏哦!不然下次就找不到我了。1、PycharmPychar...

一张思维导图概括Python的基本语法, 一周的学习成果都在里面了

一周总结不知不觉已经自学Python一周的时间了,这一周,从认识Python到安装Python,再到基本语法和基本数据类型,对于小白的我来说无比艰辛的,充满坎坷。最主要的是每天学习时间有限。只...

三日速成python?打工人,小心钱包,别当韭菜

随着人工智能的热度越来越高,许多非计算机专业的同学们也都纷纷投入到学习编程的道路上来。而Python,作为一种相对比较容易上手的语言,也越来越受欢迎。网络上各类网课层出不穷,各式广告令人眼花缭乱。某些...

Python自动化软件测试怎么学?路线和方法都在这里了

Python自动化测试是指使用Python编程语言和相关工具,对软件系统进行自动化测试的过程。学习Python自动化测试需要掌握以下技术:Python编程语言:学习Python自动化测试需要先掌握Py...

Python从放弃到入门:公众号历史文章爬取为例谈快速学习技能

这篇文章不谈江流所专研的营销与运营,而聊一聊技能学习之路,聊一聊Python这门最简单的编程语言该如何学习,我完成的第一个Python项目,将任意公众号的所有历史文章导出成PDF电子书。或许我这个Py...

【黑客必会】python学习计划

阅读Python文档从Python官方网站上下载并阅读Python最新版本的文档(中文版),这是学习Python的最好方式。对于每个新概念和想法,请尝试运行一些代码片段,并检查生成的输出。这将帮助您更...

公布了!2025CDA考试安排

CDA数据分析师报考流程数据分析师是指在不同行业中专门从事行业数据搜集、整理、分析依据数据作出行业研究评估的专业人员CDA证书分为1-3级,中英文双证就业面广,含金量高!!?报考条件:满18...

一文搞懂全排列、组合、子集问题(经典回溯递归)

原创公众号:【bigsai】头条号:程序员bigsai前言Hello,大家好,我是bigsai,longtimenosee!在刷题和面试过程中,我们经常遇到一些排列组合类的问题,而全排列、组合...

「西法带你学算法」一次搞定前缀和

我花了几天时间,从力扣中精选了五道相同思想的题目,来帮助大家解套,如果觉得文章对你有用,记得点赞分享,让我看到你的认可,有动力继续做下去。467.环绕字符串中唯一的子字符串[1](中等)795.区...

平均数的5种方法,你用过几种方法?

平均数,看似很简单的东西,其实里面包含着很多学问。今天,分享5种经常会用到的平均数方法。1.算术平均法用到最多的莫过于算术平均法,考试平均分、平均工资等等,都是用到这个。=AVERAGE(B2:B11...

【干货收藏】如何最简单、通俗地理解决策树分类算法?

决策树(Decisiontree)是基于已知各种情况(特征取值)的基础上,通过构建树型决策结构来进行分析的一种方式,是常用的有监督的分类算法。决策树算法是机器学习中的一种经典算法,它通过一系列的规则...

面试必备:回溯算法详解

我们刷leetcode的时候,经常会遇到回溯算法类型题目。回溯算法是五大基本算法之一,一般大厂也喜欢问。今天跟大家一起来学习回溯算法的套路,文章如果有不正确的地方,欢迎大家指出哈,感谢感谢~什么是回溯...

「机器学习」决策树——ID3、C4.5、CART(非常详细)

决策树是一个非常常见并且优秀的机器学习算法,它易于理解、可解释性强,其可作为分类算法,也可用于回归模型。本文将分三篇介绍决策树,第一篇介绍基本树(包括ID3、C4.5、CART),第二篇介绍Ran...

大话AI算法: 决策树

所谓的决策树算法,通俗的说就是建立一个树形的结构,通过这个结构去一层一层的筛选判断问题是否好坏的算法。比如判断一个西瓜是否好瓜,有20条西瓜的样本提供给你,让你根据这20条(通过机器学习)建立起...