立即咨询

电话咨询

微信咨询

立即试用
商务合作

如何去平滑地迁移数据库中的数据

2022-11-21

 

    你可能会认为:数据迁移无非是将数据从一个数据库拷贝到另一个数据库,可以通过 MySQL 主从同步的方式做到准实时的数据拷贝;也可以通过 mysqldump 工具将源库的数据导出,再导入到新库,这有什么复杂的呢?

    其实,这两种方式只能支持单库到单库的迁移,无法支持单库到多库多表的场景。而且即便是单库到单库的迁移,迁移过程也需要满足以下几个目标,迁移应该是在线的迁移,也就是在迁移的同时还会有数据的写入,数据应该保证完整性,也就是说在迁移之后需要保证新的库和旧的库的数据是一致的;迁移的过程需要做到可以回滚,这样一旦迁移的过程中出现问题,可以立刻回滚到源库,不会对系统的可用性造成影响。

    如果你使用 Binlog 同步的方式,在同步完成后再修改代码,将主库修改为新的数据库,这样就不满足可回滚的要求,一旦迁移后发现问题,由于已经有增量的数据写入了新库而没有写入旧库,不可能再将数据库改成旧库。

    数据库的迁移,其实说起来也很简单,它可以分为以下几个步骤:将新的库配置为源库的从库,用来同步数据;如果需要将数据同步到多库多表,那么可以使用一些第三方工具获取 Binlog 的增量日志(比如开源工具 Canal),在获取增量日志之后就可以按照分库分表的逻辑写入到新的库表中了。同时,我们需要改造业务代码,在数据写入的时候,不仅要写入旧库,也要写入新库。当然,基于性能的考虑,我们可以异步地写入新库,只要保证旧库写入成功即可。但是,我们需要注意的是,需要将写入新库失败的数据记录在单独的日志中,这样方便后续对这些数据补写,保证新库和旧库的数据一致性。

    然后,我们就可以开始校验数据了。由于数据库中数据量很大,做全量的数据校验不太现实。你可以抽取部分数据,具体数据量依据总体数据量而定,只要保证这些数据是一致的就可以。

如果一切顺利,我们就可以将读流量切换到新库了。

    由于有双写的存在,所以在切换的过程中出现任何的问题,都可以将读写流量随时切换到旧库去,保障系统的性能。在观察了几天发现数据的迁移没有问题之后,就可以将数据库的双写改造成只写新库,数据的迁移也就完成了。

 

 

更多产品了解

欢迎扫码加入云巴巴企业数字化交流服务群

产品交流、问题咨询、专业测评

都在这里!

 

热门数字化产品

壹悟科技智能物流仿真系统Simulator壹悟科技智能物流仿真系统(Simulator)可以实现对仓储场景和工厂场景的业务流程仿真。支持用户导入项目现场运行地图,自定义移动机器人的参数和数量,以真实的物流业务调度系统(WCS)和机器人调度系统(RCS)为内核,驱动仿真运行,高度还原业务实际场景的作业流程和节拍。支持2D和3D实时运行显示,并提供完善的运行数据统计分析。
DuoPlus云手机DuoPlus云手机是云端操控,拓展全球商机,简化多设备跨平台社媒操作,专注打造全球社媒营销、Tiktok、WhatsApp专用云手机!
智引科技智塑云MES系统智引科技智塑云MES系统,工艺巡检,自由定义间隔时间保存生产工艺以备追溯,工艺数字化,工艺参数异常监控,工艺参数变动历史记录。采取“统一备份”的机制,做到及时、安全的数据备份, 同时减轻了数据备份的工作量。
闪捷数据库水印系统闪捷数据库水印系统以水印数据为核心,构建数据流转安全路径,实现安全与业务双效平衡。提供丰富的API接口能力,支持用户通过API接口调用执行水印、溯源任务,查看任务执行监控等。最高水印性能可达每小时150G,助力产品满足客户大数据量高性能水印要求。
晨科布草管理系统晨科布草管理系统,为酒店布草洗涤管理提供从交接、跟踪、生命周期管理等流程;批量扫描识别,使用方便快捷,提高工作效率和经济效益,节约人员费用支出,降低成本;记录客户资料及洗衣统计,生成各类报表,可随时查询和打印信息。
为你推荐
2025腾讯产业合作伙伴大会|云巴巴荣获双项大奖,载誉而归

1月16日,2025腾讯产业合作伙伴大会在三亚召开。云巴巴,荣膺“2024腾讯云卓越合作伙伴奖—星云奖”和“2024腾讯云AI产品突出贡献奖”双项大奖

2025-01-17
制造业为何选择蓝巨人AGV?解析72小时柔性改造背后的三维技术革新

制造业为何选择蓝巨人AGV?解析72小时柔性改造背后的三维技术革新

2025-06-27
广告产研协同工具怎么选?TAPD 3个关键指标 打通敏捷协作全流程

广告产研协同工具怎么选?TAPD 3个关键指标 打通敏捷协作全流程

2025-06-27
连锁餐饮HR系统怎么选?i人事破解多门店工时&成本分摊难题

能否高效解决多门店场景下的工时记录与成本分摊难题,已然成为连锁餐饮企业选择 HR 系统的关键考量因素。

2025-06-27
数据开发治理平台选型评测!腾讯云WeData如何实现全域治理与降本增效

数据开发治理平台选型评测!腾讯云WeData如何实现全域治理与降本增效

2025-06-27
查看更多