从 Oracle 到 MySQL 数据库的迁移之旅
connygpt 2024-10-25 11:35 7 浏览
引言
随着技术的进步,许多企业开始考虑将他们的数据从Oracle迁移到更现代、成本效益更高的数据库系统如MySQL或PostgreSQL。本文将详细描述我们如何进行这样的数据迁移过程。
一、前期准备工作
1.搭建新的MySQL数据库
首先,我们需要设置一个新的MySQL数据库环境,这将作为我们的新数据源。这包括安装MySQL服务器,创建数据库,以及配置适当的用户权限。
2 .建立相应的数据表
我们可以使用PowerDesigner等数据表模型设计工具,将Oracle的模型转换成MySQL模型,然后根据这个模型生成DDL脚本。这些脚本可能需要根据实际情况进行一些修改。例如,我们可能需要调整字段类型以适应MySQL的特性,或者修改索引和约束的定义。
2.1 数据库兼容性分析
2.1.1 字段类型兼容性分析
以下是常用的oracle字段类型和和mysql字段类型的对应关系 ,如果使用特殊的字段类型,需要检查确认字段转换是否符合真实需求。
oracle字段类型 | mysql字段类型 |
varchar2 | varchar |
number(1,0))->number(2,0) | tinyint |
number(3,0)->number(4,0) | smallint |
number(5,0)->number(6,0) | mediumint |
number(7,0)->number(9,0) | int |
number(10,0) -> number(18,0) | bigint |
number(x,y) | decimal(x,y) |
date | datetime |
timestamp(6) | datetime |
char | varchar |
clob | Text 或 Midiumtext 或 longtext |
2.1.2 函数兼容性分析
Oracle和MySQL的函数有一定对的相似性也要有一定的区别,下面表格列出了Oracle和MySQL常用函数的对比和区别。
功能 | oracle函数 | mysql函数 | 备注 |
舍入函数 | round | round | 一样 |
取绝对值 | abs | abs | 一样 |
返回 expr 的最小或最大值 | Max(expr)/Min(expr) | Max(expr)/Min(expr) | 一样 |
在字符串 str 中所有出现的字符串 from_str 均被 to_str 替换 | REPLACE(str,from_str,to_str) | REPLACE(str,from_str,to_str) | 一样 |
截取函数 | SUBSTR('abcd',2,2) | substring('abcd',2,2) | 函数名称不同 |
获取长度 | length(str) | char_length() | 函数名称不同 |
转大写 | UPPER(str) | UPPER(str) | 一样 |
转小写 | LOWER(str) | LOWER(str) | 一样 |
转字符 | TO_CHAR(SQLCODE) | date_format/ time_format | 函数名称不同 |
转时间 | to_date(str,format) | STR_TO_DATE(str,format) | 函数名称不同 |
获取当前时间 | SYSDATE | now() / SYSDATE() | 函数名称不同 |
求和 | SUM(num) | SUM(num) | 一样 |
返回两个日期之间的天数 | (D1-D2) | DATEDIFF(date1,date2) |
2.1.3 是否使用存储过程?存储过程的个数?复杂度?
在这次的案例中,没有使用存储过程,因此不需要进行这方面的分析。
2.1.4 是否使用触发器?个数?使用的场景?
公司的数据库使用规范里禁止使用触发器,因此这次也不需要进行这方面的分析。
2.2 建表过程中其他需要注意的事项
- 自增主键 mysql默认需要有自增主键,而oracle的表可以不加主键
- 编码格式:oracle的编码格式utf8在mysql需要修改成utf8mb4 要确保所有的表都有一个自增的主键列。
- 时间字段:时间字段需要精确到时分秒的需要修改为datatime类型。这是因为MySQL的DATETIME类型可以存储到秒级别的时间信息,而Oracle的DATE类型只能存储到天级别的时间信息。
- 索引格式:索引格式需要按照规范重新定义,最好在测试环境中进行检查和校验。这是因为Oracle和MySQL的索引实现方式有所不同,直接复制索引可能会导致性能问题。
3.为项目配置Oracle和MySQL双数据源
在项目的数据源配置里添加刚刚新建的MySQL数据源配置,并配置双数据源和Mapper的匹配规则。
4.对项目进行改造添加MySQL数据CRUD代码
添加一套针对MuSQL数据库CRUD的Dao和Mapper代码,同时我们写了一个注解以切面的方式实现根据配置实例化Oracle的Dao、MySQl的Dao、同时调用Oracle和MySQLDao的功能。
改造方式:
数据库迁移切换流程:
二、数据迁移操作步骤
数据迁移操作的答题步骤如下图所示:
1、配置初始化
? 数据库写入的配置设置为只写Oracle数据库。数据库读取的配置设置为从OracleL数据库读取。
2、同步数据检查
? 查询待迁移的几张表的数据量:
? select count(1) from table;
3、全量数据迁移
? 在迁移工具上执行数据迁移脚本SQL
4、检查全量迁移的数据
? 查询迁移后的数据量,检查是否和需要迁移的数据量能匹配:
5、开启双写
数据库写入的配置设置为Oracle数据库和MYSQl数据库双写
6、获取迁移过程中oracle数据库的增量数据
查询updated_time在全量数据迁移开始时间之后的数据
select * from table whereupdated_time>to_Date('2022/12/16 04:00:00', 'yyyy/mm/dd hh24:mi:ss')
7、增量数据脚本准备
根据监控的增量数据对比,找出需要新增和修改的数据,准备脚本
8、数据补偿
在迁移工具上执行数据补偿脚本SQL
9、核对整体数据
我们有额外的数据核对方案,通过应用读Oracle,再异步读取MySQL并进行对比的方式进行业务表的数据核对。这样可以确保数据的一致性。
10、在灰度环境里验证数据的正确性
将灰度机器的数据库读取的配置设置为从MySQL数据库读取。并在灰度环境验证数据的正确性
11、数据库读取的配置设置为从MySQL数据库读取。
将正式环境的机器的数据库读取的配置设置为从MySQL数据库读取。
12、数据库写入的配置设置为只写MySQL
在生产环境运行一段时间,如果运行平稳的话,就可以关闭数据库双写,将数据库写入配置改为只写MySQL数据库了。
三、数据迁移的经验教训
1. 遇到的坑
在迁移过程中,我们发现了一些Oracle语法与MySQL语法不兼容的地方,有些写法在Oracle中可行,在MySQL中会报错:
(1)子查询语句要取别名
(2)字段别名需要注意,AS后是否为空
(3)条件语句中判断需要注意
(4)oracle转mysql条件语句is null需格外注意,在Oracle中null和空串是一个含义,在mysql中是两个含(只针对字段类型为varchar类型的字段)
Oracle中:
IS_LIMIT_SUCESS is null
Mysql替换为:
(IS_LIMIT_SUCESS is null or IS_LIMIT_SUCESS = '')
相关推荐
- 3分钟让你的项目支持AI问答模块,完全开源!
-
hello,大家好,我是徐小夕。之前和大家分享了很多可视化,零代码和前端工程化的最佳实践,今天继续分享一下最近开源的Next-Admin的最新更新。最近对这个项目做了一些优化,并集成了大家比较关注...
- 干货|程序员的副业挂,12个平台分享
-
1、D2adminD2Admin是一个完全开源免费的企业中后台产品前端集成方案,使用最新的前端技术栈,小于60kb的本地首屏js加载,已经做好大部分项目前期准备工作,并且带有大量示例代码,助...
- Github标星超200K,这10个可视化面板你知道几个
-
在Github上有很多开源免费的后台控制面板可以选择,但是哪些才是最好、最受欢迎的可视化控制面板呢?今天就和大家推荐Github上10个好看又流行的可视化面板:1.AdminLTEAdminLTE是...
- 开箱即用的炫酷中后台前端开源框架第二篇
-
#头条创作挑战赛#1、SoybeanAdmin(1)介绍:SoybeanAdmin是一个基于Vue3、Vite3、TypeScript、NaiveUI、Pinia和UnoCSS的清新优...
- 搭建React+AntDeign的开发环境和框架
-
搭建React+AntDeign的开发环境和框架随着前端技术的不断发展,React和AntDesign已经成为越来越多Web应用程序的首选开发框架。React是一个用于构建用户界面的JavaScrip...
- 基于.NET 5实现的开源通用权限管理平台
-
??大家好,我是为广大程序员兄弟操碎了心的小编,每天推荐一个小工具/源码,装满你的收藏夹,每天分享一个小技巧,让你轻松节省开发效率,实现不加班不熬夜不掉头发,是我的目标!??今天小编推荐一款基于.NE...
- StreamPark - 大数据流计算引擎
-
使用Docker完成StreamPark的部署??1.基于h2和docker-compose进行StreamPark部署wgethttps://raw.githubusercontent.com/a...
- 教你使用UmiJS框架开发React
-
1、什么是Umi.js?umi,中文可发音为乌米,是一个可插拔的企业级react应用框架。你可以将它简单地理解为一个专注性能的类next.js前端框架,并通过约定、自动生成和解析代码等方式来辅助...
- 简单在线流程图工具在用例设计中的运用
-
敏捷模式下,测试团队的用例逐渐简化以适应快速的发版节奏,大家很早就开始运用思维导图工具比如xmind来编写测试方法、测试点。如今不少已经不少利用开源的思维导图组件(如百度脑图...)来构建测试测试...
- 【开源分享】神奇的大数据实时平台框架,让Flink&Spark开发更简单
-
这是一个神奇的框架,让Flink|Spark开发更简单,一站式大数据实时平台!他就是StreamX!什么是StreamX大数据技术如今发展的如火如荼,已经呈现百花齐放欣欣向荣的景象,实时处理流域...
- 聊聊规则引擎的调研及实现全过程
-
摘要本期主要以规则引擎业务实现为例,陈述在陌生业务前如何进行业务深入、调研、技术选型、设计及实现全过程分析,如果你对规则引擎不感冒、也可以从中了解一些抽象实现过程。诉求从硬件采集到的数据提供的形式多种...
- 【开源推荐】Diboot 2.0.5 发布,自动化开发助理
-
一、前言Diboot2.0.5版本已于近日发布,在此次发布中,我们新增了file-starter组件,完善了iam-starter组件,对core核心进行了相关优化,让devtools也支持对IAM...
- 微软推出Copilot Actions,使用人工智能自动执行重复性任务
-
IT之家11月19日消息,微软在今天举办的Ignite大会上宣布了一系列新功能,旨在进一步提升Microsoft365Copilot的智能化水平。其中最引人注目的是Copilot...
- Electron 使用Selenium和WebDriver
-
本节我们来学习如何在Electron下使用Selenium和WebDriver。SeleniumSelenium是ThoughtWorks提供的一个强大的基于浏览器的开源自动化测试工具...
- Quick 'n Easy Web Builder 11.1.0设计和构建功能齐全的网页的工具
-
一个实用而有效的应用程序,能够让您轻松构建、创建和设计个人的HTML网站。Quick'nEasyWebBuilder是一款全面且轻巧的软件,为用户提供了一种简单的方式来创建、编辑...
- 一周热门
- 最近发表
- 标签列表
-
- kubectlsetimage (56)
- mysqlinsertoverwrite (53)
- addcolumn (54)
- helmpackage (54)
- varchar最长多少 (61)
- 类型断言 (53)
- protoc安装 (56)
- jdk20安装教程 (60)
- rpm2cpio (52)
- 控制台打印 (63)
- 401unauthorized (51)
- vuexstore (68)
- druiddatasource (60)
- 企业微信开发文档 (51)
- rendertexture (51)
- speedphp (52)
- gitcommit-am (68)
- bashecho (64)
- str_to_date函数 (58)
- yum下载包及依赖到本地 (72)
- jstree中文api文档 (59)
- mvnw文件 (58)
- rancher安装 (63)
- nginx开机自启 (53)
- .netcore教程 (53)