分布式数据库的发展背景以及技术路线

来源: 云巴巴 2020-04-17 21:43:29

  在各个行业,随着业务迅猛发展,很多系统都会面临处理高并发、大数据量、超高峰值等多种场景。以金融行业为例,由于互联网的普及,很多互联网业务得到迅猛发展,于是业务系统对应的活跃用户量和数据量也会出现迅猛增长,比如各种场景的在线支付(水费、电费、电话费等各种高频次的小额消费)、网上银行、手机银行等;还有一类场景是具有极高峰值的业务系统,比如 6.18 、双十一、纪念币预约、抢购、秒杀、春节红包、春节火车票等。

  传统单机数据库的处理能力已经难以支撑这些业务发展,于是,开始探索各种解决各种有效的方案,最常见的就是应用系统通过分库分表进行解决。但是,这种解决方案一方面应用系统需要做大量改造,需要感知数据存储位置,一方面增加了运维的复杂性。于是出现了中间件的方式,如 mycat 等。这种方式实现了数据对应用的透明,但未解决数据库运维的痛点。

  近年来,互联网、银行业等各行业对处理这类问题逐渐探索形成了自己的思路和解决方案,进一步出现了分布式数据库产品。它们的设计理念和技术路线各不相同,却需要解决一些成熟的分布式数据库产品必然会面临的技术问题。这些问题或者与选择的技术路线有关,或者是做分布式数据库产品必然面临的问题,它们的解决方案和实现机制各不相同,但它们也存在一些共性。因此,本文拟通过对业界分布式数据库产品的研究和探索,介绍一些常见功能的主流方案和技术趋势,以此抛砖引玉,以飨读者。

分布式数据库的发展背景以及技术路线

技术路线
  目前业界的分布式数据库产品非常多,各有优缺点,本文不会成为某种产品的推荐者或者批判者。按照目前业界现状,技术路线分类如下:

  基于开源数据库 + 中间件:开源单机数据库(如 mysql 、 postgres 等)已经经过了几十年的应用,产品功能相对稳定,单机数据处理性能也相对比较高。这种方案的优点是可以利用现有单机数据库稳定的产品功能,缺点是中间件的功能实现要受限于单机数据库的功能。比如,中间件要实现一个对数据表列进行加密的功能,如果单机数据库不具备这种功能,中间件只能采用迂回折中的方式。当然,也有足够研究能力的厂商会对单机数据库进行功能优化和改进,比如 mysql 的主从同步机制、热点数据访问等,这对厂商的研发能力和技能储备要求非常高。

  完全自研:公司组建团队进行产品的自研开发,当然,不可能完全重复造轮子,在实现部分产品功能时可能会采用或者借鉴一些开源软件,比如 TiDB 的数据存储使用了 RocksDB 。数据资产是公司最核心的资源,尤其是银行等金融行业,数据库不能出现重大问题,但数据库的产品功能完善需要经过一段时期的生成环境验证,需要填各种坑。因此,这种方案的优点是天生具有分布式的特性,从设计之初就是针对分布式架构进行设计的,而单机数据库的很多设计当时还未具备分布式的思维理念,缺点是产品的功能需要经过不同场景、不同数据量和不同行业用户的检验、改进和完善,才能具备成熟度,需要团队具备相应的应用场景。自研的数据库产品,有些是采用开源模式,比如 TiDB ,有些是闭源模式,比如 OceanBase 从 1.0 版本 1.0 起已经闭源,网上有些错误的文章都是针对之前它们的开源版本 0.4 进行的研究和讨论。

更多产品了解

欢迎扫码加入云巴巴企业数字化交流服务群

产品交流、问题咨询、专业测评

都在这里!

 

评论列表

为你推荐

数字化案例秀 ‖ 首次国产!腾讯云TDSQL落地张家港行

数字化案例秀 ‖ 首次国产!腾讯云TDSQL落地张家港行

腾讯云TDSQL落地张家港行,合力打造金融业务。 TDSQL涵盖金融级分布式、云原生、分析型等多引擎融合的完整数据库产品体系,可满足客户及业务的各类需求。

2022-03-31 19:54:42

国产数据库是怎么成长的?

国产数据库是怎么成长的?

今天我们来聊一聊国产数据库是怎么成长的,也就是国产数据库的发展状况。

2020-04-17 19:50:40

传说中主流云数据库的两大类别是什么

传说中主流云数据库的两大类别是什么

科技是一直向前发展的,这就少不了创新精神,云数据库就是科技创新下的产物,不得不说,有创新精神的人不仅能聚集财富,还能建立职业,适应社会,甚至获得不菲的成就,当然,有更好的输入,才有更好的输出,下面,我就介绍一下传说中主流云数据库的两大类别是什么,

2020-04-28 17:33:17

腾讯云618优惠活动数据库专场,低至612元/年!

腾讯云618优惠活动数据库专场,低至612元/年!

腾讯云618优惠活动重磅来袭!活动主会场包含云服务器、数据库、人工智能等丰富云产品,本次腾讯云618活动云巴巴携手腾讯云共同打造,奖品丰厚,立即点击腾讯云618活动链接参与吧!

2022-11-24 14:04:03

数据仓库和数据库之间的那些事

数据仓库和数据库之间的那些事

事实上,数据仓库环境的核心,并提供存储在数据检索支持本地数据,相对于企业操纵型数据库管理来说其突出的特点是对海量信息数据的支持和快速的检索相关技术。 数据抽取工具 这些数据来自于过去的各种存储的,必要的改造,整合,然后存储到数据仓库中。对各种不同数据存

2022-11-22 10:58:23

原生分布式数据库的技术支持和发展趋势

原生分布式数据库的技术支持和发展趋势

为了支持未来的IT微服务架构,引入分布式事务数据库需要从传统技术的兼容性,以及新技术前瞻性两个维度评估,ACID的支持和SQL完整性的支持是评估一种新型的分布式数据库是否能提供传统的数据库技术兼容的两个关键指标。

2020-04-17 21:15:18

严选云产品

安科瑞电能服务充电桩 安科瑞电能服务充电桩,采用ABS+pc材质,具备良好的抗氧化及绝缘特性,外壳具备更好的散热性能,轻便、坚固、耐用,整桩防护等级最高可达IP65,方便客户在各种充电环境下使用,面向广大公建、商业、园区、住宅的停车配套,构筑完善的交流充电方案。
商兆科技可信电子签名平台 商兆科技可信电子签名平台,支持创建模板批量生成电子文档,对电子文档从创建到签署完成进行全流程管理。基于电子营业执照的防伪、防篡改、防抵赖特性,可以认证企业主体身份真实性。对电子签名平台上产生的所有行为数据可同步在区块链、三方公证处存证,便于未来举证并提供相应司法服务。
腾讯乐享企业社区解决方案 腾讯乐享企业社区解决方案,高效便捷的企业内宣和交流社区。文档+图文推送,企业信息快速传递一线员工,富媒体员工企业文化社区,便捷又效果好。企业内刊,电子化发送提高效率,节约成本。大型活动自定义主页,信息发布和活动个性化管理。
万里牛 全渠道SaaS ERP 电商ERP首选万里牛-专业的SaaS化电子商务ERP/WMS/CRM/POS系统,提供仓储管理、超市收银系统、数字化中台、智慧零售等服务,主要针对电商、外贸、实体门店等业务群体,帮助企业快速布局新零售,提升订单处理效率,实现数据化业务管理,为企业降本增效。
思迈特软件 企业报表平台 Smartbi Insight面向经典的商业智能场景,帮助技术人员快速部署和开发BI系统包括中国式报表、多维度分析和可视化仪表盘等。
YMatrix车联网超融合数据库 时序数据十倍左右压缩比、范式型数据几十倍:多种编码压缩算法,针对数据类型优化,包括 delta-delta、gorilla、RLE、lz4、zstd 等多种压缩级别,达到压缩比和压缩速度的平衡;支持列式编码压缩、行式压缩、块压缩。

甄选10000+数字化产品 为您免费使用

申请试用