如何去平滑地迁移数据库中的数据

来源: 云巴巴 2022-11-21 11:16:09

 

    你可能会认为:数据迁移无非是将数据从一个数据库拷贝到另一个数据库,可以通过 MySQL 主从同步的方式做到准实时的数据拷贝;也可以通过 mysqldump 工具将源库的数据导出,再导入到新库,这有什么复杂的呢?

    其实,这两种方式只能支持单库到单库的迁移,无法支持单库到多库多表的场景。而且即便是单库到单库的迁移,迁移过程也需要满足以下几个目标,迁移应该是在线的迁移,也就是在迁移的同时还会有数据的写入,数据应该保证完整性,也就是说在迁移之后需要保证新的库和旧的库的数据是一致的;迁移的过程需要做到可以回滚,这样一旦迁移的过程中出现问题,可以立刻回滚到源库,不会对系统的可用性造成影响。

    如果你使用 Binlog 同步的方式,在同步完成后再修改代码,将主库修改为新的数据库,这样就不满足可回滚的要求,一旦迁移后发现问题,由于已经有增量的数据写入了新库而没有写入旧库,不可能再将数据库改成旧库。

    数据库的迁移,其实说起来也很简单,它可以分为以下几个步骤:将新的库配置为源库的从库,用来同步数据;如果需要将数据同步到多库多表,那么可以使用一些第三方工具获取 Binlog 的增量日志(比如开源工具 Canal),在获取增量日志之后就可以按照分库分表的逻辑写入到新的库表中了。同时,我们需要改造业务代码,在数据写入的时候,不仅要写入旧库,也要写入新库。当然,基于性能的考虑,我们可以异步地写入新库,只要保证旧库写入成功即可。但是,我们需要注意的是,需要将写入新库失败的数据记录在单独的日志中,这样方便后续对这些数据补写,保证新库和旧库的数据一致性。

    然后,我们就可以开始校验数据了。由于数据库中数据量很大,做全量的数据校验不太现实。你可以抽取部分数据,具体数据量依据总体数据量而定,只要保证这些数据是一致的就可以。

如果一切顺利,我们就可以将读流量切换到新库了。

    由于有双写的存在,所以在切换的过程中出现任何的问题,都可以将读写流量随时切换到旧库去,保障系统的性能。在观察了几天发现数据的迁移没有问题之后,就可以将数据库的双写改造成只写新库,数据的迁移也就完成了。

 

 

更多产品了解

欢迎扫码加入云巴巴企业数字化交流服务群

产品交流、问题咨询、专业测评

都在这里!

 

评论列表

为你推荐

想知道数据库的基本结构是什么样的

想知道数据库的基本结构是什么样的

想要知道数据库的基本结构是什么样的,首先就想要了解一下数据库的处理系统是怎样吧。 数据库存储的是属于中国企业和事业管理部门、团体和个人的有关数据的集合。数据库是一个单位或是一个重要应用研究领域的通用数据进行处理技术系统,而系统设计数据库。 数据库中的数

2022-11-22 10:52:09

为什么分布式数据库忽然就火了呢

为什么分布式数据库忽然就火了呢

提起“科技”一词,大家都不会感到陌生,它存在我们生活中的点点滴滴,时时刻刻改变着我们的思想和生活方式! 那么在众多的科技产品中,为什么分布式数据库忽然就火了呢。 最近关于分布式数据库的讨论热度确实挺高,小编我也忍不住来说两句。 但可能有些人会疑惑,分布

2022-11-22 15:54:27

数据引擎全新发布;门户界面实现千人千面;SQL Server、Oracle、MySQL数据库连接器上线|功能更新

数据引擎全新发布;门户界面实现千人千面;SQL Server、Oracle、MySQL数据库连接器上线|功能更新

轻流连接中心上线SQL Server、Oracle、MySQL三大主流数据库连接器。

2022-02-25 10:31:50

硬核干货 | 揭秘TDSQL国产数据库新敏态引擎Online DDL技术原理

硬核干货 | 揭秘TDSQL国产数据库新敏态引擎Online DDL技术原理

近日,TDSQL新敏态引擎重磅发布。该引擎可完美解决对于敏态业务发展过程中业务形态、业务量的不可预知性,实现PB级存储的Online DDL,可以实现大幅提升表结构变更过程中的数据库吞吐量

2021-12-27 13:54:59

国产数据库是怎么成长的?

国产数据库是怎么成长的?

今天我们来聊一聊国产数据库是怎么成长的,也就是国产数据库的发展状况。

2020-04-17 19:50:40

关于“国产数据库”自主研发的那些事儿

关于“国产数据库”自主研发的那些事儿

我们来谈谈关于“国产数据库”自主研发的那些事儿。 从20世纪90年代初,中国国产数据库的发展不断提高,国内已有多家企业做了多方面的投资。 中国传统数据库管理软件进入市场,是从80年代末开始的,就是伴随改革开放的自由竞争市场,

2020-04-17 17:54:42

严选云产品

一站式智慧化学生管理系统 学生管理系统是为职业院校量身打造的针对学校学生事务的管理系统,本着实用、先进、开放、可靠、可扩展的设计原则,整合德育管理、奖惩管理、资助管理、团委管理等学生在校全业务,规范各类业务流程,可提高工作效率,实现学生管理的数据共享化、流程信息化。
长亭流量分析预警系统 通过网络流量深度分析,有效实现对APT新型网络攻击的检测和响应,开箱即用,提升企业防护高级威胁攻击的能力,快速建立联防联动的自动化处置方案。
网易云信IM即时通讯 IM服务提供了一整套即时通讯基础能力,通过该平台服务就可以将即时通讯能力快速集成至企业自身应用中。针对不同场景,网易提供了一系列产品、技术解决方案,包括:客户端 IM 组件、客户端 IM 基础库、全平台SDK以及服务端 API 等。
灵当CRM广告行业解决方案 灵当CRM广告行业解决方案“以项目为中心”的信息化平台建设流程,对客户、设计师排期、进度和各项收支进行统一管理,确保管理层对每个项目都一目了然。以OA协同办公系统规范企业内部管理。打通了不同部门间的沟通流程,提升沟通效率,高效协同。
瑞翔恒宇消磁销毁设备解决方案 瑞翔恒宇消磁销毁设备解决方案,国内首台通过国家保密科技测评中心认证的固态硬盘、半导体、光介质销毁一级设备,拥有自主研发的发明专利,独特的高压风冷磨削技术,无尘处理、防尘暴;能处理所有主流的固态硬盘、线路板、各类光盘,工作效率高,优于市场其它产品;友商的产品仅能处理普通固态硬盘,对服务器所用的特殊固态硬盘无法处理。
保融财资管理平台 保融财资管理平台,系统可支持自动处理,实现跨行收付结算系统自动运行;系统可支持高频结算,日处理量可达百万笔交易量级。开发电子回单查询接口,实现有红章的电子回单打印。接受企业全面预算管理和控制,实现资金计划全面线上化、自动化生成,形成多维度、多形式控制。

甄选10000+数字化产品 为您免费使用

申请试用