分布式数据库的发展背景以及技术路线

来源: 云巴巴 2020-04-17 21:43:29

  在各个行业,随着业务迅猛发展,很多系统都会面临处理高并发、大数据量、超高峰值等多种场景。以金融行业为例,由于互联网的普及,很多互联网业务得到迅猛发展,于是业务系统对应的活跃用户量和数据量也会出现迅猛增长,比如各种场景的在线支付(水费、电费、电话费等各种高频次的小额消费)、网上银行、手机银行等;还有一类场景是具有极高峰值的业务系统,比如 6.18 、双十一、纪念币预约、抢购、秒杀、春节红包、春节火车票等。

  传统单机数据库的处理能力已经难以支撑这些业务发展,于是,开始探索各种解决各种有效的方案,最常见的就是应用系统通过分库分表进行解决。但是,这种解决方案一方面应用系统需要做大量改造,需要感知数据存储位置,一方面增加了运维的复杂性。于是出现了中间件的方式,如 mycat 等。这种方式实现了数据对应用的透明,但未解决数据库运维的痛点。

  近年来,互联网、银行业等各行业对处理这类问题逐渐探索形成了自己的思路和解决方案,进一步出现了分布式数据库产品。它们的设计理念和技术路线各不相同,却需要解决一些成熟的分布式数据库产品必然会面临的技术问题。这些问题或者与选择的技术路线有关,或者是做分布式数据库产品必然面临的问题,它们的解决方案和实现机制各不相同,但它们也存在一些共性。因此,本文拟通过对业界分布式数据库产品的研究和探索,介绍一些常见功能的主流方案和技术趋势,以此抛砖引玉,以飨读者。

分布式数据库的发展背景以及技术路线

技术路线
  目前业界的分布式数据库产品非常多,各有优缺点,本文不会成为某种产品的推荐者或者批判者。按照目前业界现状,技术路线分类如下:

  基于开源数据库 + 中间件:开源单机数据库(如 mysql 、 postgres 等)已经经过了几十年的应用,产品功能相对稳定,单机数据处理性能也相对比较高。这种方案的优点是可以利用现有单机数据库稳定的产品功能,缺点是中间件的功能实现要受限于单机数据库的功能。比如,中间件要实现一个对数据表列进行加密的功能,如果单机数据库不具备这种功能,中间件只能采用迂回折中的方式。当然,也有足够研究能力的厂商会对单机数据库进行功能优化和改进,比如 mysql 的主从同步机制、热点数据访问等,这对厂商的研发能力和技能储备要求非常高。

  完全自研:公司组建团队进行产品的自研开发,当然,不可能完全重复造轮子,在实现部分产品功能时可能会采用或者借鉴一些开源软件,比如 TiDB 的数据存储使用了 RocksDB 。数据资产是公司最核心的资源,尤其是银行等金融行业,数据库不能出现重大问题,但数据库的产品功能完善需要经过一段时期的生成环境验证,需要填各种坑。因此,这种方案的优点是天生具有分布式的特性,从设计之初就是针对分布式架构进行设计的,而单机数据库的很多设计当时还未具备分布式的思维理念,缺点是产品的功能需要经过不同场景、不同数据量和不同行业用户的检验、改进和完善,才能具备成熟度,需要团队具备相应的应用场景。自研的数据库产品,有些是采用开源模式,比如 TiDB ,有些是闭源模式,比如 OceanBase 从 1.0 版本 1.0 起已经闭源,网上有些错误的文章都是针对之前它们的开源版本 0.4 进行的研究和讨论。

更多产品了解

欢迎扫码加入云巴巴企业数字化交流服务群

产品交流、问题咨询、专业测评

都在这里!

 

评论列表

为你推荐

分布式数据库融合区块链技术带来的曙光

分布式数据库融合区块链技术带来的曙光

尽管区块链和数据库在各自的领域代表最进步前辈的技术,然则它们都有各自的短板和缺乏,是以这两种技术的融合将给行业带来新的曙光,区块链的观点大概引伸出了不少贸易方面的刷新,然则抛开这些上层修筑,从底层地基来看,区块链属于是一种特殊的数据库技术。

2020-04-16 17:40:13

数据库审计和影响数据库审计的原因

数据库审计和影响数据库审计的原因

数据库管理审计信息系统是对数据库技术进行双方向、深度审计,不给黑客“高手”、内部工作人员或第三方运维人员等留任何可乘之机,防范财务数据可以安全风险隐患,数据库审计系统发展到预防,报警的事,三位一体追踪机制后,数据库安全保驾护航船队。 旁路部署,无需安装插

2022-11-22 16:03:53

你的数据库“云原生”了吗?

你的数据库“云原生”了吗?

TDSQL-C 是腾讯自研的云原生分布式数据库(原CynosDB), 基于共享存储,实现了强大的扩展能力和超百万级QPS的高吞吐性能。

2022-03-31 19:58:26

优炫数据库为数字农业开启新篇章

优炫数据库为数字农业开启新篇章

   俗话说,民以食为天。     我国是中国传统的农业经济大国,三农问题研究一直是我国国民关心的大话题,它关系着国计民生,也关系着一个我们每一个人的切身相关利益。     今年的中央一号文件明确指出:“将依托现有资源,开展农业农村大型数据中心,建设加快的

2022-11-21 17:30:18

全球最受欢迎的开源数据库之一云数据库

全球最受欢迎的开源数据库之一云数据库

现在,随着劳动力市场变得低迷,竞争日趋激烈,对于大多数人来说找到一份好工作很难,所以,我们就要多多了解现代科技,了解云数据库就十分必要了。 云数据库对于商业实战市场的应用: 对于电商有高并发、高性能场景,能提供稳定、高性能、安全可靠的数据库服务,云数据

2021-12-27 10:17:18

腾讯云618云数据库特惠盘点,怎么买最经济实惠?

腾讯云618云数据库特惠盘点,怎么买最经济实惠?

腾讯云618特惠活动云数据库会场提供涵盖MySQL、Redis、SQLServer等各类数据库,适用于中小型电商、游戏、互联网等行业。在超低折扣的同时还可以获得丰厚礼品和千元代金券。

2022-11-24 14:05:11

严选云产品

腾讯云金融虚拟营业厅 腾讯云金融虚拟营业厅,通过混合云的部署方式,利用腾讯云强大的骨干网络和实时音视频技术,实现基于移动端的远程视频柜员支持服务,同时支持视频双录和双向传输,灵活对接业务场景,实现从文字—语音—视频的服务升级,同时提升网点服务的深度。
简单云容器部署ezK8S ezK8S是ezOne产品系列中的Kubernetes集群部署系统,为用户提供将镜像快速部署至Kubernetes集群的能力。同时提供Kubernetes集群管理、PV管理、环境管理的功能。为您的企业在云原生时代实现业务快速交付助力!
道一云医院行业综合解决方案 道一云医院行业综合解决方案,设备维修问题的解决速度,由原来传统方式的7~15天处理完成,缩短至最快1小时内解决。PC/PAD/手机多端数据同步,医务人员移动学习无障碍 ,后台实时采集和分析直播数据,及时掌握各时段收看情况,了解直播效果 。
环信IM私域流量解决⽅案 环信IM私域流量解决⽅案,⾮常丰富的回调事件,满⾜数据存储和业务运营需求。IM提供更多增值服务,满⾜⽤户业务需要。全部的消息格式,覆盖基本IM场景。IM提供⾼并发的通讯管道,⽀持亿级⽤户并发。
兴企云MES生产管理系统 兴企云MES生产管理系统,提供生产管理数字化与智能工厂一站式解决方案,基于订单、计划、生产、质量、设备、库存等业务场景,帮助制造企业搭建协同生产管理平台,实现生产过程透明化、可视化。
腾讯云分析型分布式数据库TDSQL-A TDSQL-A是腾讯云自主研发的分布式分析型数据库系统,有自研列式存储引擎,采用无共享的集群架构,支持高效的海量数据复杂 查询能力,具备高扩展性、高 SQL 兼容度、高压缩比等特性,同时具备完整的分布式事务支持能力,又支持多级容灾以及多维度资源隔离。

甄选10000+数字化产品 为您免费使用

申请试用