立即咨询

电话咨询

微信咨询

立即试用
商务合作

容器云在使用分布式存储时,HDFS、CEPH、GFS、GPFS、

2020-03-09

容器云的存储方式分别是,HDFSCEPHGFSGPFSSwift等,在使用分布存储时哪种存储方式更好?

现在,公司正在进行容器云技术选型,计划使用商业产品,已经与华为,RANCHER,阿里等产品提供商接触。现在想知道如何匹配相应的分布式存储,HDFSCEPHGFSGPFSSWIFT等分布式存储,哪种比较好?主要场景是容器存储应用日志,配置文件,非结构化数据文件等...

建议考虑一个统一的日志存储处理中心,可以使用ES如备份,配置上通常的量不是问题。可以考虑配置中心统一管理,没有额外的存储,非结构化数据通常是大量的文件。可以采用传统nas或分布式对象存储,当然资金充裕可以采购好的存储。存储性能很重要,根据业务重要程度选择不同的存储。

容器存储的持久化,对于有状态信息数据的容器使用不同场景方面来说也是至关重要。因此,在技术选型的时候,需要明确储的具体需求,存储按照相关数据来分类。可以主要分为块存储,对象存储,文件存储,我们传统的环境中。使用最多的还是存储和文件存储,随着IT的更新换代,现在人们对于对象存储(非结构化处理数据)的需求问题日益旺盛。对象存储在对我国一些Key-Value型数据的存储能力有着一种天然的优势,再加上其分布式,副本/纠删码等可以提高匹配传统存储的特性。日益增长成为温数据/冷数据安全存储的不二之选, HDFS/CEPH/GFS/GPFS/Swift这类分布式存储,按照存储的类型来区分,HDFS/GPFS/GFS属于文件存储。CEPH属于统一存储--即块/对象/文件统一体,Swift属于对象存储-目前属于OpenStack下面的一个子项目。

        

 

1. HDFS Hadoop分布式文件系统(HDFS)设计为适合在普通硬件(商品硬件)上运行的分布式文件系统,它与现有的分布式文件系统有很多共同点。 但同时,它与其他分布式文件系统的区别也很明显, HDFS是一种高度容错的系统,适用于廉价机器的部署。HDFS可以提供高吞吐量数据访问,非常适合大规模数据集上的应用, 通过HDFS放宽一些POSIX约束,达到流读文件系统数据的目的。

HDFS有着高容错(fault-tolerant)的特点,设计了低廉的(low-cost)的硬件。它提供了一个高吞吐量(high throughput)来访问应用程序的数据对于具有的大数据集(large data set)的应用, HDFS放宽(relaxPOSIX要求(requirements)可以实现的数据访问(streaming access)的文件系统中的数据。

  1. GFS   GFS是一个可扩展的分布式文件管理系统,用于一些大型的、分布式的,对大量研究数据信息进行调查访问的应用。它运行于廉价的普通硬件上,并提供容错功能。它可以给大量的用户发展提供企业总体设计性能要求较高的服务。3.GPFS   GPFSGeneral Parallel File System ,GPFS) 是 IBM 公司第一个共享文件系统,起源于IBMSP系统上的虚拟共享磁盘技术(V SD), 作为本技术的核心,GPFS是一个磁盘文件系统。它保证了资源组内的所有节点都可以并行访问整个文件系统,对于本文件系统的服务操作,可以使用本文件系统在多个节点上同时安全地实现。GPFS 允许客户共享文件,而这些文件可能分布在不同节点的不同硬盘上,它提供了许多标准的 UNIX 文件系统接口。允许应用不需修改或者重新编辑就可以在其上运行。
  2. 3.GPFS   GPFSGeneral Parallel File System ,GPFS) 是 IBM 公司第一个共享文件系统,起源于IBMSP系统上的虚拟共享磁盘技术(V SD), 作为本技术的核心,GPFS是一个磁盘文件系统。它保证了资源组内的所有节点都可以并行访问整个文件系统,对于本文件系统的服务操作,可以使用本文件系统在多个节点上同时安全地实现。GPFS 允许客户共享文件,而这些文件可能分布在不同节点的不同硬盘上,它提供了许多标准的 UNIX 文件系统接口。允许应用不需修改或者重新编辑就可以在其上运行。 

    4.CEPH Ceph的是一种可靠,自动重均衡,自动恢复的分布式存储系统,根据现场可分为Ceph的分成三个块。即,对象存储,块存储设备和文件系统的服务,在虚拟化的领域中,通常用Ceph的存储装置。例如OpenStack项目里,Ceph的块设备存储可以对接OpenStackcinder后端存储,Glance的镜像存储和虚拟机的数据存储。比较直观的是Ceph集群可以提供一个raw格式的块存储来作为虚拟机实例的硬盘。

    Ceph相比其它存储的优势点在于它不单单是存储,同时还充分利用了存储节点上的计算能力。在存储每一个数据时,都会选择通过分析计算得出该数据存储的位置,尽量将数据分布均衡,同时也是由于Ceph的良好环境设计。采用了CRUSH算法,使得它不存在传统的单点故障的问题。且随着规模的扩大生产性能并不会受到严重影响。

    5..Swift   Swift 最初是由 Rackspace开发的一种高度可用的分布式对象存储服务,并于 2010 年贡献给 OpenStack 开源社区作为其最初的核心子项目之一。为其Nova子项目提供虚拟机镜像存储服务, Swift 在更便宜的标准硬件存储基础设施上,无需使用RAID(磁盘冗余阵列)。通过在软件层面引入一致性散列技术和数据冗余性,牺牲一定程度的数据一致性,支持多租户模式。容器和对象读写操作,适合解决互联网应用场景中的非结构化数据存储问题。

    读完以后是否知道容器云哪种存储方式更好呢?

更多产品了解

欢迎扫码加入云巴巴企业数字化交流服务群

产品交流、问题咨询、专业测评

都在这里!

 

热门数字化产品

腾讯云智能内容生成平台腾讯云智能内容生成平台可以提供辅助内容创作、创新的AI服务, 主要包括内容理解、内容处理、内容生成。从而降低内容创作者的创作、创新门槛, 提升创作、创新效率。
百度智能云曦灵智能数字人平台百度智能云曦灵-智能数字人平台,致力于打造智能的服务型&演艺型数字人,面向金融、媒体,运营商、MCN,互娱等行业,提供全新客户体验及服务。该平台可进一步降低数字人应用门槛,实现人机可视化语音交互服务和内容生产服务,有效提升用户体验、降低人力成本,提升服务质量和效率。
青椒云AIGC云桌面平台青椒云AIGC云桌面平台是一种基于云计算技术的虚拟桌面服务。通过在云端提供可扩展的桌面环境,允许用户通过网络从任意地点访问专属桌面界面。青椒云AIGC平台支持高性能计算和图形处理,适合设计、视频编辑等专业应用场景。此外,它还具备数据安全、远程协作、灵活定制等特点,能够满足不同行业和企业的个性化需求。通过青椒云AIGC,企业可以实现IT资源的集中管理和成本优化,同时提升员工的工作效率和协作灵活性。
Tita OKRs-E企业目标管理平台拥抱人员管理新时代,人与组织融为一体,管理的内核是激活人心,实现企业的可持续发展。⼀个完整的⽬标管理框架,包含⽬标制定、⽬标达成检验,以及达成关键结果的具体执⾏计划。
阿里云云服务器ECS云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。 专业的售前技术支持,协助您选择最合适配置方案
为你推荐
直播间在线人数卡在500上不去?天志互联抽盒系统从互动率破局

抖音算法推流核心指标是互动率而非GMV。天志互联直播抽盒系统从订单秒级上屏、一键拆盒、氛围引爆三个维度拉高互动率,驱动算法推流的正循环。

2026-06-26
品牌联名越做越亏?天志互联用游戏化体验共创重新定义IP营销

从"换皮联名"到"游戏化体验共创"——拆解彩棠敦煌联名案例的壁画修复小游戏设计逻辑、奶茶品牌联名翻车教训和中小品牌三条低成本高ROI的IP联名路径。

2026-06-26
一个人也能搭游戏化运营体系?低代码时代品牌运营的乐高式搭建指南

低代码时代品牌游戏化运营体系的"乐高式"搭建指南——从选模板、搭积分闭环、数据迭代到多活动并行管理和团队交接的全流程实操方法。

2026-06-26
私域社群打开率跌破3%以后:一个快消品牌的游戏化自救实验

一个快消品牌用游戏化方法三个月救活240个死群的完整复盘——从签到排行榜、互动任务、习惯养成到赛季制防疲劳的六周运营节奏拆解。

2026-06-26
品牌私域裂变怎么设计才不被骂?游戏化社交裂变的三个底线原则

游戏化社交裂变的三个底线原则深度拆解——让转发不像广告、让奖品有炫耀价值、给用户不转发的自由,加3%超级用户识别策略和三个常见翻车点避坑指南。

2026-06-26
查看更多