记一次线上druid数据库连接池加密问题排查
connygpt 2024-10-12 16:57 6 浏览
背景:
目前线上的系统使用的是springcloud+ nacos + druid + mybatisplus的微服务架构,配置中心使用的是nacos。数据库连接池是阿里的druid,由于之前的小伙伴出于各种原因(可能是炫技,也可能是自己练手),采用了双数据源的配置,配置文件中的数据库密码使用的是密文。系统在运行期间总是会不定期出现连接不上数据库。
问题排查:
从上面的报错信息可以推断出,造成数据库连不上的极大可能是因为数据库密码不正确,但是并没有人去更改过密码,并且每次重启系统就又可以正常运行了。与之前的小伙(因系统是其搭建的)进行问题讨论,小伙并没有给出什么好的解决方案,建议升级mysql 驱动试试。但小学生并不觉得是mysql 驱动的问题:主要是因为其他没有使用双数据源配置的系统并没有出现此类问题。
最近又开始频繁出现,于是小学生本着对工作的认真负责态度(实际是被产品骂得不行,系统经常报错),决定要一探究竟到底是何方妖魔在此作怪。
于是小学生仔细回想每次出现这种问题的前后时间点,还真是让小学生发现了些蛛丝马迹(不得不佩服自己的这聪明的大脑,中午给自己加个鸡腿):每次出现此问题之前,肯定是修改并发布了nacos配置中心的文件。为了验证自己的初步想法是否正确,小学生本地启动项目进行debug,然后不断地修改发布nacos配置文件,果然出现了上述的问题。
问题分析:
项目中是使用以下的方式进行初始化数据源的:
跟踪进源码后发现实际上是创建了DruidDataSourceWrapper对象 :
从上面的注释可以得知:构建多数据源,详细请看文档----这是一个历史的方法,现在你可以使用 new DruidDataSourceWrapper()。起初我以为是这出的问题,当我去new DruidDataSourceWrapper 它的时候,发现根本无法new 出来,因为这个类并不是 public 的,作罢。
下面我们放一张类的关系继承图:
实际上本次我们分析的问题,主要只用到了DruidDataSource 和 其父类 DruidAbstractDataSource。
首先我们来看下DruidAbstractDataSource 该类中的 public void setConnectionProperties(String connectionProperties) 这个方法
//connectionProperties 实际上就是项目配置文件中的
//spring.datasource.xxx.connection-properties 配置的值
public void setConnectionProperties(String connectionProperties) {
//如果是空 将connectProperties 设置成 null
if (connectionProperties == null || connectionProperties.trim().length() == 0) {
//该方法是个抽象方法,这里实际调用的是 DruidDataSource 中重写过的
setConnectProperties(null);
return;
}
//下面这段代码的逻辑很简单,就不具体分析了。
String[] entries = connectionProperties.split(";");
Properties properties = new Properties();
for (int i = 0; i < entries.length; i++) {
String entry = entries[i];
if (entry.length() > 0) {
int index = entry.indexOf('=');
if (index > 0) {
String name = entry.substring(0, index);
String value = entry.substring(index + 1);
properties.setProperty(name, value);
} else {
// no value is empty string which is how java.util.Properties works
properties.setProperty(entry, "");
}
}
}
setConnectProperties(properties);
}
实际在DruidAbstractDataSource 初始化完成,属性设置完成之后的时候,数据库的password是加密之后的,这个时候小学生就很好奇它是在什么地方进行解密的,进过一些列的追踪验证,发现是在 com.alibaba.druid.pool.DruidDataSource#init(后面会详细分析这个方法) 这个方法中 调用 filter.init(this),com.alibaba.druid.filter.config.ConfigFilter#init进行解密的 。
下面我就来具体看看 com.alibaba.druid.pool.DruidDataSource#init(由于篇幅原因,会删减一些代码) 这个方法中到底干啥了:
public void init() throws SQLException {
//是否已经初始过,如果初始化了,直接return
if (inited) {
return;
}
// bug fixed for dead lock, for issue #2980
DruidDriver.getInstance();
final ReentrantLock lock = this.lock;
try {
lock.lockInterruptibly();
} catch (InterruptedException e) {
throw new SQLException("interrupt", e);
}
boolean init = false;
try {
if (inited) {
return;
}
//遍历所有的filter,调用其init的方法,
//本例中的系统实际上只有 ConfigFilter ,其init方法中是负责数据库密码解密的
for (Filter filter : filters) {
filter.init(this);
}
//从spi serviceLoader 中加载 filter
initFromSPIServiceLoader();
//初始化检查,主要是不同数据版本的检测
initCheck();
//初始化异常排序
initExceptionSorter();
//初始化验证连接检查器
initValidConnectionChecker();
//验证查询检查
validationQueryCheck();
SQLException connectError = null;
//第一次的时候 createScheduler 肯定是null,所以该分支不会执行
if (createScheduler != null && asyncInit) {
for (int i = 0; i < initialSize; ++i) {
submitCreateTask(true);
}
} else if (!asyncInit) {
// 初始化连接
while (poolingCount < initialSize) {
try {
//创建物理连接信息,本例中问题的解决办法就是从该方法中找到的思路(后面会详细介绍)
PhysicalConnectionInfo pyConnectInfo = createPhysicalConnection();
DruidConnectionHolder holder = new DruidConnectionHolder(this, pyConnectInfo);
connections[poolingCount++] = holder;
} catch (SQLException ex) {
LOG.error("init datasource error, url: " + this.getUrl(), ex);
if (initExceptionThrow) {
connectError = ex;
break;
} else {
Thread.sleep(3000);
}
}
}
}
//创建logStats线程
createAndLogThread();
//创建数据库连接线程,这是一个守护线程
createAndStartCreatorThread();
//创建销毁线程
createAndStartDestroyThread();
//挂起当前的执行的线程
initedLatch.await();
init = true;
initedTime = new Date();
registerMbean();
if (connectError != null && poolingCount == 0) {
throw connectError;
}
if (keepAlive) {
// async fill to minIdle
if (createScheduler != null) {
for (int i = 0; i < minIdle; ++i) {
submitCreateTask(true);
}
} else {
this.emptySignal();
}
}
} catch (SQLException e) {
LOG.error("{dataSource-" + this.getID() + "} init error", e);
throw e;
} catch (InterruptedException e) {
throw new SQLException(e.getMessage(), e);
} catch (RuntimeException e){
LOG.error("{dataSource-" + this.getID() + "} init error", e);
throw e;
} catch (Error e){
LOG.error("{dataSource-" + this.getID() + "} init error", e);
throw e;
} finally {
inited = true;
lock.unlock();
if (init && LOG.isInfoEnabled()) {
String msg = "{dataSource-" + this.getID();
if (this.name != null && !this.name.isEmpty()) {
msg += ",";
msg += this.name;
}
msg += "} inited";
LOG.info(msg);
}
}
}
下面简单介绍一下 createAndStartCreatorThread()这个方法,实际上这个方法是创建一个守护线程,这个守护线程在后台一直自旋,当数据库连接不够用的时候,这个线程负责创建新的连接放到池中(实际是往 这个数组DruidConnectionHolder[] connections里面添加元素)。
我们再来看看本例中找到解决问题思路的方法 com.alibaba.druid.pool.DruidAbstractDataSource#createPhysicalConnection():
public PhysicalConnectionInfo createPhysicalConnection() throws SQLException {
//数据库连接url
String url = this.getUrl();
Properties connectProperties = getConnectProperties();
//用户名
String user;
if (getUserCallback() != null) {
user = getUserCallback().getName();
} else {
user = getUsername();
}
//数据库密码 密文
String password = getPassword();
//数据库密码 回调处理类
PasswordCallback passwordCallback = getPasswordCallback();
//如果这个回调处理类不是null,则调用其 setUrl 和 setProperties()方法
//如果 回调处理类的密码不是null,则用其覆盖现在的密文密码
//于是小学生就在系统中 写了一个类继承了 DruidPasswordCallback 并进行了密码的解密操作
if (passwordCallback != null) {
if (passwordCallback instanceof DruidPasswordCallback) {
DruidPasswordCallback druidPasswordCallback = (DruidPasswordCallback) passwordCallback;
druidPasswordCallback.lsetUrl(ur);
druidPasswordCallback.setProperties(connectProperties);
}
char[] chars = passwordCallback.getPassword();
if (chars != null) {
password = new String(chars);
}
}
Properties physicalConnectProperties = new Properties();
if (connectProperties != null) {
physicalConnectProperties.putAll(connectProperties);
}
if (user != null && user.length() != 0) {
physicalConnectProperties.put("user", user);
}
if (password != null && password.length() != 0) {
physicalConnectProperties.put("password", password);
}
//.....省略
return new PhysicalConnectionInfo(conn, connectStartNanos, connectedNanos, initedNanos, validatedNanos, variables, globalVariables);
}
从上面的源码中我们可以看出 如果我们配置了数据库密码回调处理类并且该类是DruidPasswordCallback的子类 ,将会调用其setUrl 和 setProperties 方法,于是小学生就写了一个类继承自DruidPasswordCallback 并重写其 setProperties方法 ,在其方法中将密码进行解密操作:
需要注意的是,需要在配置文件中添加 spring.datasource.druid.xxx.password-callback-class-name 属性,属性值为自定义密码回调类的全类名,另外,从前面的分析中,我们知道setProperties(Properties properties) 中的参数实际上spring.datasource.druid.xxx.connection-properties 中配置的值,所以我们需要在spring.datasource.druid.xxx.connection-properties 中追加 ;password=${spring.datasource.druid.xxx.password},至此问题得以解决。
遗留问题:
为什么单个数据源没有出现此类问题?如果有小伙伴知道原因欢迎留言告诉小学生。
以上就是小学生对线上问题排查及解决,如果有小伙伴遇到类似问题,欢迎留言讨论。由于本人才疏学浅,如果文中说的有不正确的地方,欢迎小伙伴们留言指出,谢谢
相关推荐
- 3分钟让你的项目支持AI问答模块,完全开源!
-
hello,大家好,我是徐小夕。之前和大家分享了很多可视化,零代码和前端工程化的最佳实践,今天继续分享一下最近开源的Next-Admin的最新更新。最近对这个项目做了一些优化,并集成了大家比较关注...
- 干货|程序员的副业挂,12个平台分享
-
1、D2adminD2Admin是一个完全开源免费的企业中后台产品前端集成方案,使用最新的前端技术栈,小于60kb的本地首屏js加载,已经做好大部分项目前期准备工作,并且带有大量示例代码,助...
- Github标星超200K,这10个可视化面板你知道几个
-
在Github上有很多开源免费的后台控制面板可以选择,但是哪些才是最好、最受欢迎的可视化控制面板呢?今天就和大家推荐Github上10个好看又流行的可视化面板:1.AdminLTEAdminLTE是...
- 开箱即用的炫酷中后台前端开源框架第二篇
-
#头条创作挑战赛#1、SoybeanAdmin(1)介绍:SoybeanAdmin是一个基于Vue3、Vite3、TypeScript、NaiveUI、Pinia和UnoCSS的清新优...
- 搭建React+AntDeign的开发环境和框架
-
搭建React+AntDeign的开发环境和框架随着前端技术的不断发展,React和AntDesign已经成为越来越多Web应用程序的首选开发框架。React是一个用于构建用户界面的JavaScrip...
- 基于.NET 5实现的开源通用权限管理平台
-
??大家好,我是为广大程序员兄弟操碎了心的小编,每天推荐一个小工具/源码,装满你的收藏夹,每天分享一个小技巧,让你轻松节省开发效率,实现不加班不熬夜不掉头发,是我的目标!??今天小编推荐一款基于.NE...
- StreamPark - 大数据流计算引擎
-
使用Docker完成StreamPark的部署??1.基于h2和docker-compose进行StreamPark部署wgethttps://raw.githubusercontent.com/a...
- 教你使用UmiJS框架开发React
-
1、什么是Umi.js?umi,中文可发音为乌米,是一个可插拔的企业级react应用框架。你可以将它简单地理解为一个专注性能的类next.js前端框架,并通过约定、自动生成和解析代码等方式来辅助...
- 简单在线流程图工具在用例设计中的运用
-
敏捷模式下,测试团队的用例逐渐简化以适应快速的发版节奏,大家很早就开始运用思维导图工具比如xmind来编写测试方法、测试点。如今不少已经不少利用开源的思维导图组件(如百度脑图...)来构建测试测试...
- 【开源分享】神奇的大数据实时平台框架,让Flink&Spark开发更简单
-
这是一个神奇的框架,让Flink|Spark开发更简单,一站式大数据实时平台!他就是StreamX!什么是StreamX大数据技术如今发展的如火如荼,已经呈现百花齐放欣欣向荣的景象,实时处理流域...
- 聊聊规则引擎的调研及实现全过程
-
摘要本期主要以规则引擎业务实现为例,陈述在陌生业务前如何进行业务深入、调研、技术选型、设计及实现全过程分析,如果你对规则引擎不感冒、也可以从中了解一些抽象实现过程。诉求从硬件采集到的数据提供的形式多种...
- 【开源推荐】Diboot 2.0.5 发布,自动化开发助理
-
一、前言Diboot2.0.5版本已于近日发布,在此次发布中,我们新增了file-starter组件,完善了iam-starter组件,对core核心进行了相关优化,让devtools也支持对IAM...
- 微软推出Copilot Actions,使用人工智能自动执行重复性任务
-
IT之家11月19日消息,微软在今天举办的Ignite大会上宣布了一系列新功能,旨在进一步提升Microsoft365Copilot的智能化水平。其中最引人注目的是Copilot...
- Electron 使用Selenium和WebDriver
-
本节我们来学习如何在Electron下使用Selenium和WebDriver。SeleniumSelenium是ThoughtWorks提供的一个强大的基于浏览器的开源自动化测试工具...
- Quick 'n Easy Web Builder 11.1.0设计和构建功能齐全的网页的工具
-
一个实用而有效的应用程序,能够让您轻松构建、创建和设计个人的HTML网站。Quick'nEasyWebBuilder是一款全面且轻巧的软件,为用户提供了一种简单的方式来创建、编辑...
- 一周热门
- 最近发表
- 标签列表
-
- kubectlsetimage (56)
- mysqlinsertoverwrite (53)
- addcolumn (54)
- helmpackage (54)
- varchar最长多少 (61)
- 类型断言 (53)
- protoc安装 (56)
- jdk20安装教程 (60)
- rpm2cpio (52)
- 控制台打印 (63)
- 401unauthorized (51)
- vuexstore (68)
- druiddatasource (60)
- 企业微信开发文档 (51)
- rendertexture (51)
- speedphp (52)
- gitcommit-am (68)
- bashecho (64)
- str_to_date函数 (58)
- yum下载包及依赖到本地 (72)
- jstree中文api文档 (59)
- mvnw文件 (58)
- rancher安装 (63)
- nginx开机自启 (53)
- .netcore教程 (53)