Bonree BRFS

Bonree BRFS是一个分布式文件系统,支持海量文件(大文件及小文件快照、图片、语音等)存储,它具有高可用、高性能、易扩展等特性。Bonree BRFS对存储的文件格式没有限制和要求,任何格式的文件都会以byte字节流的方式进行存储。此系统功能不仅包含了现有其他开源产品具备的权限控制、数据增删读、多副本备份、数据检验等基础功能,同时我们还设计了独特且高效的副本自动迁移和平衡策略、多应用数据隔离且独立配置、自定义文件名、系统资源管理插件、集群状态可视化监控与报警等功能。

一般来说,一个Bonree BRFS系统包含如下三个部分:

FS_Server.jar
在集群每个节点上运行的核心服务模块。在模块运行时会启动若干ReginNode(管理节点)和DataNode(数据节点)进程来提供服务。其中ReginNode进程主要职责是管理存储域元信息、管理数据节点、把用户数据分配到不同的数据节点上进行处理;DataNode进程主要职责是用户数据文件的写入和读取、副本自动平衡恢复、执行定时任务(副本数校验、CRC校验、数据删除、数据归并)执行等。
server.properties.example
用于后台服务运行时所有的关键控制参数的默认值配置,如果想变更参数值,可以复制一个名为server.properties的文件,并把需要修改的属性和值添加到此文件中即可,程序运行时server.properties文件中的配置的参数值会覆盖server.properties.example文件中参数的默认值。
同时,用户如需调用Bonree BRFS服务,则需要在工程中引入FS_Client.jar,并在代码中调用相关的接口对Bonree BRFS系统进行操作; Bonree BRFS分布式文件系统接收的数据形式可以是快照、图片或者任何以byte数组方式进行存储的数据文件。
FS_ResouceManager.jar
系统资源管理模块,用于实时收集和监控集群各节点资源负载情况,以支持系统可根据节点负载情况分配资源,解决各节点资源利用和负载不均衡问题。Bonree BRFS系统内部默认提供了一组资源管理的策略,主要包含CPU、内存、I/O、磁盘容量等负载指标。目前此模块采用可热插拔的设计方式,但如果用户有特殊需求,可自定义此插件,自行实现集群资源的分配和管理。
Bonree BRFS高性能
集群规模

由2台物理机器组成集群,数据保存一副本

单台配置

CPU4核、内存16G、磁盘STAT盘 4T 7.2K

网络

千兆网卡

压测结果指标

QPS、CPU、MEMORY、IO

目标文件

随机生成1KB数据文件

压测方式

分别使用 1个/2个/3个 JMeter客户端对Bonree BRFS进行压测,每个JMeter客户端开启50个并发线程; 分别使用 1个/2个/8个 JMeter客户端对Bonree BRFS进行压测,每个JMeter客户端开启50个并发线程;

写入性能

1个JMeter: qps:7541; cpu:59%; 内存:21%; IO:53%; 吞吐量:9MB; 2个JMeter: qps:12216; cpu:66%; 内存:26%; IO:53%; 吞吐量:15MB; 3个JMeter: qps:15767; cpu:72%; 内存:33%; IO:53%; 吞吐量:19MB。

读取性能

1个JMeter: qps:13295; cpu:21%; 内存:19%; IO:3% 吞吐量:7MB; 2个JMeter: qps:40729; cpu:61%; 内存:19%; IO:5% 吞吐量:20MB; 8个JMeter: qps:96000; cpu:80%; 内存:25%; IO:5% 吞吐量:50MB。

系统架构
 
Bonree BRFS由RegionNode和DataNode组成
● RegionNode主要负责数据的接收写入、查询及副本管理,当客户端将数据写入RegionNode后,它会进行将数据进行节点分配,然后发送给DataNode进行数据写入。当用户查询数据时,它会根据文件ID去找对应的DataNode查询文件返回给用户。当机器故障时,它会生成副本迁移任务放在zookkeeper上,DataNode会根据任务执行数据迁移。
● DataNode主要负责数据存储及查询,当它接收到数据后,会将数据存储在本地文件。当RegionNode发送文件查询请求时,他会查询对应的文件数据返回给RegionNode。
产品价值
01

文件存储采用写时合并机制,帮助客户解决环境IO瓶颈的问题

02

文件副本自动平衡恢复,帮助客户解决数据的安全性的问题

03

硬件资源负载管理,帮助客户解决集群资源使用热点的问题

04

引入应用分区的概念,帮助客户解决不同业务数据个性化处理的问题

05

集群横向扩容,帮助客户解决集群扩容不方便的问题

产品推荐 查看更多>>
    卷数

    访问相同的简便性Nutanix提供了虚拟化工作负载和物理工作负载的文件存储。Nutanix Volumes在物理和虚拟之间架起了桥梁,将基础架构整合为一个统一的平台。

    性价比高

    使用便捷

    XEBS企业级应用所需的分布式块存储

    XSKY星辰天合提供的SDS软件-XEBS分布式块存储,企业级应用所需的分布式块存储,支持多种虚拟化,数据库,容器平台的多路径SAN连接。与AIX、Linux、Windows下的应用或VMware、Citrix等企业级虚拟化技术充分认证对接。

    功能完备

    安全可靠

    可扩展

    华为云对象存储服务 OBS

    稳定、安全、高效、易用的云存储服务,具备标准Restful API接口,可存储任意数量和形式的非结构化数据

    高效稳定

    安全可靠