容器云在使用分布式存储时,HDFS、CEPH、GFS、GPFS、

来源: 云巴巴 2020-03-09 17:18:29

容器云的存储方式分别是,HDFSCEPHGFSGPFSSwift等,在使用分布存储时哪种存储方式更好?

现在,公司正在进行容器云技术选型,计划使用商业产品,已经与华为,RANCHER,阿里等产品提供商接触。现在想知道如何匹配相应的分布式存储,HDFSCEPHGFSGPFSSWIFT等分布式存储,哪种比较好?主要场景是容器存储应用日志,配置文件,非结构化数据文件等...

建议考虑一个统一的日志存储处理中心,可以使用ES如备份,配置上通常的量不是问题。可以考虑配置中心统一管理,没有额外的存储,非结构化数据通常是大量的文件。可以采用传统nas或分布式对象存储,当然资金充裕可以采购好的存储。存储性能很重要,根据业务重要程度选择不同的存储。

容器存储的持久化,对于有状态信息数据的容器使用不同场景方面来说也是至关重要。因此,在技术选型的时候,需要明确储的具体需求,存储按照相关数据来分类。可以主要分为块存储,对象存储,文件存储,我们传统的环境中。使用最多的还是存储和文件存储,随着IT的更新换代,现在人们对于对象存储(非结构化处理数据)的需求问题日益旺盛。对象存储在对我国一些Key-Value型数据的存储能力有着一种天然的优势,再加上其分布式,副本/纠删码等可以提高匹配传统存储的特性。日益增长成为温数据/数据安全存储的不二之选, HDFS/CEPH/GFS/GPFS/Swift这类分布式存储,按照存储的类型来区分,HDFS/GPFS/GFS属于文件存储。CEPH属于统一存储--即块/对象/文件统一体,Swift属于对象存储-目前属于OpenStack下面的一个子项目。

        

 

1. HDFS Hadoop分布式文件系统(HDFS)设计为适合在普通硬件(商品硬件)上运行的分布式文件系统,它与现有的分布式文件系统有很多共同点。 但同时,它与其他分布式文件系统的区别也很明显, HDFS是一种高度容错的系统,适用于廉价机器的部署。HDFS可以提供高吞吐量数据访问,非常适合大规模数据集上的应用, 通过HDFS放宽一些POSIX约束,达到流读文件系统数据的目的。

HDFS有着高容错(fault-tolerant)的特点,设计了低廉的(low-cost)的硬件。它提供了一个高吞吐量(high throughput)来访问应用程序的数据对于具有的大数据集(large data set)的应用, HDFS放宽(relaxPOSIX要求(requirements)可以实现的数据访问(streaming access)的文件系统中的数据。

  1. GFS   GFS是一个可扩展的分布式文件管理系统,用于一些大型的、分布式的,对大量研究数据信息进行调查访问的应用。它运行于廉价的普通硬件上,并提供容错功能。它可以给大量的用户发展提供企业总体设计性能要求较高的服务。3.GPFS   GPFSGeneral Parallel File System ,GPFS) 是 IBM 公司第一个共享文件系统,起源于IBMSP系统上的虚拟共享磁盘技术(V SD), 作为本技术的核心,GPFS是一个磁盘文件系统。它保证了资源组内的所有节点都可以并行访问整个文件系统,对于本文件系统的服务操作,可以使用本文件系统在多个节点上同时安全地实现。GPFS 允许客户共享文件,而这些文件可能分布在不同节点的不同硬盘上,它提供了许多标准的 UNIX 文件系统接口。允许应用不需修改或者重新编辑就可以在其上运行。
  2. 3.GPFS   GPFSGeneral Parallel File System ,GPFS) 是 IBM 公司第一个共享文件系统,起源于IBMSP系统上的虚拟共享磁盘技术(V SD), 作为本技术的核心,GPFS是一个磁盘文件系统。它保证了资源组内的所有节点都可以并行访问整个文件系统,对于本文件系统的服务操作,可以使用本文件系统在多个节点上同时安全地实现。GPFS 允许客户共享文件,而这些文件可能分布在不同节点的不同硬盘上,它提供了许多标准的 UNIX 文件系统接口。允许应用不需修改或者重新编辑就可以在其上运行。 

    4.CEPH Ceph的是一种可靠,自动重均衡,自动恢复的分布式存储系统,根据现场可分为Ceph的分成三个块。即,对象存储,块存储设备和文件系统的服务,在虚拟化的领域中,通常用Ceph的存储装置。例如OpenStack项目里,Ceph的块设备存储可以对接OpenStackcinder后端存储,Glance的镜像存储和虚拟机的数据存储。比较直观的是Ceph集群可以提供一个raw格式的块存储来作为虚拟机实例的硬盘。

    Ceph相比其它存储的优势点在于它不单单是存储,同时还充分利用了存储节点上的计算能力。在存储每一个数据时,都会选择通过分析计算得出该数据存储的位置,尽量将数据分布均衡,同时也是由于Ceph的良好环境设计。采用了CRUSH算法,使得它不存在传统的单点故障的问题。且随着规模的扩大生产性能并不会受到严重影响。

    5..Swift   Swift 最初是由 Rackspace开发的一种高度可用的分布式对象存储服务,并于 2010 年贡献给 OpenStack 开源社区作为其最初的核心子项目之一。为其Nova子项目提供虚拟机镜像存储服务, Swift 在更便宜的标准硬件存储基础设施上,无需使用RAID(磁盘冗余阵列)。通过在软件层面引入一致性散列技术和数据冗余性,牺牲一定程度的数据一致性,支持多租户模式。容器和对象读写操作,适合解决互联网应用场景中的非结构化数据存储问题。

    读完以后是否知道容器云哪种存储方式更好呢?

更多产品了解

欢迎扫码加入云巴巴企业数字化交流服务群

产品交流、问题咨询、专业测评

都在这里!

 

评论列表

为你推荐

使用Docker容器前你的看看这些注意事项

使用Docker容器前你的看看这些注意事项

容器技术在过去十年中无疑是最引人注目的一个,因为有了它,我们思考的设计,开发和运维软件的方式有一个非常有利的影响。 但是,像所有的开发工具,为了充分利用这些工具,我们需要注意的一些问题,在使用中,Docker容器为好。这里有一些地方,你需要关注:

2020-03-09 17:17:15

云原生时代,如何“玩转”容器安全?

云原生时代,如何“玩转”容器安全?

基于安全能力原生化、零信任等安全设计原则,腾讯云容器安全服务TCSS提供容器资产管理、镜像安全、运行时入侵检测等安全服务,保障容器从镜像生成、存储到运行时的全生命周期,帮助企业构建容器安全防护体系。

2022-03-31 19:51:02

这可能是把Docker容器的概念讲的最清楚的一篇文章

这可能是把Docker容器的概念讲的最清楚的一篇文章

容器由 Docker 从 Docker 格式的容器镜像创建,通过 Linux 内 核的若干功能相互隔离。其中包括:namespace:内核可将对所有进程可见的系统资源放在一个命名 空间中。在一个命名空间中,只有属于该命名空间的进程才能看 到这些资源。

2020-03-06 13:29:26

Docker容器云,带你体验不一样的云计算时代

Docker容器云,带你体验不一样的云计算时代

我们为什么使用虚拟机(云主机), 为什么使用物理机? 这一系列的问题并没有一个统一的标准答案,因为以上几类技术栈都有自身最适用的场景。

2020-03-06 17:41:53

从云计算到容器到容器云

从云计算到容器到容器云

说起 “容器” ,大家的第一反应肯定是日常生活中使用的锅碗瓢盆,或者装运货物的箱子盒子,用来盛放各种各样的物品。但如今的容器已经不再只是物理上的容器了。那么我们今天说的 “容器” 究竟是什么呢?

2020-03-05 17:46:42

云巴巴精英销售团队圆满完成线上阿里云容器、中间件基因测序赋能培训

云巴巴精英销售团队圆满完成线上阿里云容器、中间件基因测序赋能培训

2020年12月10日,云巴巴严选云精英销售团队使用阿里钉钉参加线上《阿里云容器、中间件基因测序赋能》大会,并圆满完成会议。 会上,阿里云原生团队讲师,对AGS处理全基因组测序,WGS_AGS无服务器化,API加速_基因计算服务AGS的用户指南做了讲解,

2022-11-23 10:47:55

严选云产品

ZEGO即构在线KTV解决方案 ZEGO即构在线KTV解决方案,SDK 提供完善的版权音乐相关能力,包括歌曲获取、下载、播放等,客户可直接调用SDK相关接口实现获取版权音乐歌曲、伴奏、歌词,播放版权音乐等功能。
快麦ERP全域电商解决方案 快麦ERP全域电商解决方案,订单流、货物流、资金流、人员流,全流程打通,助力企业降本增效,全渠道铺货、全渠道下单、全渠道采购,实现订单统一管理,店铺经营更高效。提供货品采购最优预测模型,以最少的进货量满足当前订单需求。
道一云医院行业综合解决方案 道一云医院行业综合解决方案,设备维修问题的解决速度,由原来传统方式的7~15天处理完成,缩短至最快1小时内解决。PC/PAD/手机多端数据同步,医务人员移动学习无障碍 ,后台实时采集和分析直播数据,及时掌握各时段收看情况,了解直播效果 。
卷数 访问相同的简便性Nutanix提供了虚拟化工作负载和物理工作负载的文件存储。Nutanix Volumes在物理和虚拟之间架起了桥梁,将基础架构整合为一个统一的平台。
ASEG增强型安全邮件网关 ASEG以高性能邮件转发功能为基础,通过MTA的部署方式对企业入站,出站,内部的邮件进行全方位的安全防护。
壹合原码Ai技术智慧文物监管平台 壹合原码Ai技术智慧文物监管平台,联相应AI技能的设备会根据配置的AI技能运行时间进行实时监测,当发生违规行为,文物异常、环境异常等事件时,会产生相应的风险告警。告警会生成预警事件图片及事件视频用于回看。对每一个预警事件进行全流程的处理跟踪,以及预警的全生命周期管理。

推荐视频

甄选10000+数字化产品 为您免费使用

申请试用