立即咨询

电话咨询

微信咨询

立即试用
商务合作

火山引擎大数据研发治理套件DataLeap

火山引擎大数据研发治理套件DataLeap,一站式数据研发治理套件,搭配EMR/ByteHouse/LAS等存储计算引擎,快速完成数据集成、开发、运维、治理、资产、安全等全套中台及湖仓一体平台建设,提升数据研发效率、降低管理成本。
立即咨询
icon市场趋势icon

随着企业业务规模越来越大,应用场景不断融合,因此业务数据形态越发复杂,数据量不断增加,对数据管控和数据资产价值提升需求越来越高、业务对数据分析时效性增强,希望将企业数据资源转化为数据资产,再利用数据资产为业务创造价值,实现数字化转型。

当前挑战

业务数据孤立
各业务团队独立,数据孤岛现象普遍存在,数据难以互通。
数据重复存储
数据不集中,系统之间重复存储,
重复计算和资源浪费
数据质量差
数据质量参差不齐,延迟、口径等问题导致业务使用数据有风险。
资产管理难
各类数据和接口缺少统一管理,难以真正发挥数据价值,用户数据保护,数据安全管控要求严格,出现问题难追溯。

 

iconDataLeap产品定位icon

大数据研发治理套件
一站式数据研发治理套件,搭配EMR/ByteHouse/LAS 等存储计算引擎,快速完成数据集成、开发、运维、治理、资产、安全等全套中台及湖仓一体平台建设,提升数据研发效率、降低管理成本。

 
核心产品能力
一站式研发管理:数据集成、DataOps开发测试、发布、运维监控。
分布式数据治理:保障稳定、提升质量、资源成本节约、降本提效。
数据资产体系:数据发现&检索、知识图谱、指标服务、API数据消费。
数据安全保障:权限管控、分类分级、风险授权审计、加密脱敏。

 

iconDataLeap产品架构icon

数据研发全链路管理
整合全域数据,支持30+多源异构数据集成,灵活对接各类业务系统。敏捷开发CI/CD,覆盖需求、开发、测试、发布、运维等研发全链路管理。
数据全生命周期治理
结合基线监控、治理门户、规划诊断、SLA治理等能力,提供事前预警、事中处理、事后复盘及推荐优化的全生命周期的数据治理能力
标准数据规范
统一数据标准及数据查询出口,沉淀数仓建设规范的最佳实践,提升数据开发效率,保证数据质量,快速精准为业务赋能。
保障数据安全
更细粒度的行、列权限控制,权限审计及安全风控、表及字段级别的血缘管理,结合行为监控等功能,构成真正意义上的数据安全屏障。

 

iconDataLeap核心能力icon

兼容Hadoop开源生态,支持EMR、ByteHous8.LAS. Serverless Fink.CDH等多种计算引擎,覆盖数据集成、开发、运维,治理及资产管理全链路。

数据集成
· 离线、实时数据同步平台
· 事件采集&管理解决方案
· 30+多源异构数据源集成
· 批流一体架构
· 实时数据湖更新。
指标体系
· 指标标准口径统一定义
· 数据模型绑定管理
· 数据应用分发最佳实践
· 指标规范与复用,全局认知
· 完善的研发治理体验
研发运维
· 批流一体平台、Notebook、shell、python
· DataOps敏捷研发流程
· 灵活的自定义任务调度规划
· 丰富的数据智慧运维
· 兼容主流开源存储计算引擎。
安全合规
· 数据分类分级自动识别
· 权限行为级别安全管控
· 行、列级别细粒度安全管控
· 数据安全加密脱敏
· 风险主动审计防控治理。
数据治理
· 全链路数据治理
· 数据治理门户监管
· 多维度数据健康分评估
· 主动规划式治理、治理经验复用
· 质量监控及安全风控保障。
数据地图
· 丰富的元数据资产快速接入
· 海量数据检索、数据专题识别
· 端到端链路的血缘追踪
· 自动化数据资产与呈现
· 数据资产标签管理识别。

 

 

iconDataLeap产品优势icon

一站式数据中台套件,帮助用户快速完成数据集成、开发、运维、治理、资产、安全等全套数据中台建设,提升数据研发效率、降低管理成本。搭配EMR/ByteHouse/ServerlessFlink / LAS等大数据存储计算引擎,加速企业数据中台及湖仓一体平台建设,为企业数字化转型提供数据支撑。

核心优势

兼容开源框架
多云擎多Hadoop / EMR / ByteHouse / ServerlessFlink / LAS / CDH底座快速适配,减少企业服务搭建和数据迁移成本,在当前环境中快速完成部署操作。
数据全生命周期开发规范
全链路研发运维赋能,支持开发规范自动检查,批流任务实时监控预警,显著提高开发质量和效率降低运维管理成本。
统一数据资产管理
全链路资产管理能力,实现多种类型资产的快速接入与展示,构建企业级可视化知识图谱,基于自身实践沉淀的知识经验,量化资产价值。
全域数据治理保障
围绕分布式自治数据全生命周期管理理念,协助业务治理过程线上化、规则化配置诊断优化,支持行列级别的数据安全管控及风险审计,满足企业更加丰富的场景需求。
iconDataLeap应用场景与产品价值icon

以数据驱动和数据消费为目标,提供数据资产全生命周期管理能力。持续降本增效,为分析决策提供支撑。

核心应用场景
IDC/多云整体搬站,离线\实时数仓、数据湖一体化分析平台构建,一站式全链路研发运维提升
降本增效,释放人力成本
大数据存储计算成本优化
节约资源管理成本
数据质量管控提升
数据公信力保障
数据指标体系管理、模型规范统一、标准化共享服务,企业级大数据安全合规监管与风控。
产品客户价值
功能完善
一站式数据开发治理平台;全链路做数据全周期体验。
生态优势
与火山引擎DataSail / EMR / ByteHouse / LAS / ServerlessFlink深度集成,配合火山独有数据BP咨询提供专业的服务
低成本搬站
提供搬站工具及原厂贴身服务,最大限度帮助企业减少迁移上云成本
使用门槛低
使用体验更贴近开源
高性价比
提供灵活的付费方式及不同规格的软件版本,满足不同维度不同场景客户的使用。

 

icon应用场景1:IDC上云/他云搬站icon

场景价值
针对企业IDC服务器规格陈旧、硬件运维成本高、资源无法弹性伸缩等痛点。

结合火山引擎云上存算分离架构,提供配套迁移工具和方案,大幅降低资源及人力运维成本,在生产链路提升分析决策能力。

 
业务价值
稳定可靠:
结合半托管/全托管形态免除硬件运维成本。

平滑迁移:
提供配套迁移方案,上云耗时短,原业务改造成本低。

弹性伸缩:
稳定的软件栈技术存算分离架构,降低资源成本。
 
 
使用产品
EMR、 LAS、 DataSail

 

 

icon应用场景2:分布式数据治理icon

场景价值
帮助企业实现各业务单元内的数据治理闭环,通过灵活的分布式数据治理,解决问题发现难、逐点治理散、效果不直观等痛点。

适配更多业务特性和发展阶段要求,提供一站式数据治理解决方案。

 
业务价值
治理结双路径
合规划式+响应式治理双路径,线上规则化覆盖各治理流程。
 
治理全规则
丰富治理规则能力,提供治理全景及规划诊断,资源优化服务。
 
治理重提效
通过有序的治理方案和进度追踪,逐层推进并展示治理收益效果。
 
使用产品
EMR、LAS

 

 

icon应用场景3:实时数仓icon

场景价值
面向泛互/金融/汽车等行业线,打通批流一体数据链路采集和加工,构建实时的决策科学链路,在流量下降时投流、顾客商品智能推荐、提供在线化业务实时预警效率,秒级的数据响应和极致的实时分析体验。

业务价值
运维成本降低
通过DataLeap构建实时数据分析系统,专注于业务发展需求。

数据更新优化
秒级响应,提升极速变更可观测能力,为业务赋能。

查询性能提升

实时OLAP数据分析场景,满足更高效查询分析体验。
使用产品: EMR、DataSail

场景架构拓扑图

 

 

icon应用场景4:数据湖构建icon

场景价值
帮助企业构建智能大数据湖仓分析服务、通过DataLeap提升数据研发运维效率,降低数据管理成本,建立完善数据资产体系,满足海量化数据消费需求,驱动智能化业务应用发展。。
业务价值
多源异构集成:解决海量数据孤岛问题,实现高速稳定的批/流式数据入仓湖

研发治理闭环:基于DataOps和分布式治理理念,安全高效、低成本快速构建。

数据资产门户:数据消费推动更丰富的数据资产融合统一,为决策分析提供支撑
使用产品:
EMR、 LAS、 DataSail。

场景架构拓扑图

 

 

icon客户案例 - 某广告投放平台头部企业icon

所属行业:泛互  |  核心应用场景:实时分析系统。

客户简介

作为一个广告投放平台,客户面向10+行业服务1000+客户,单月单月投放消耗超过60亿。目前支持巨量引擎、巨量千川等媒体的多账号聚合及程序化广告的批量投放。客户原使用国内某主流云厂商【云数据仓库】产品搭建数仓系统,支撑广告计划、素材、创意等场景的数据管理和分析。

业务痛点
1、实时数据不一致,无法校验,CDC排查链路复杂;
2、数据链路稳定性差,实际任务虽在正常执行但发生提交异常,导致业务侧感知延迟告警,缺乏及时有效的监控治理规范;
3、成本高,当前数仓系统的实时性,不满足广告计划维度数据的实时可变需求;
4、数据运维难度大,数据研发显示未同步异常状态,数据感知跨团队协作问题。

解决方案

1、通过独立的DataLeap调度平台,直接替换主流云商场的云产品调度能力弱问题,原Azkaban调度切换到DataLeap,形成对DataSail实时任务调度集中管理
2、通过飞书告警联动,DataLeap实现实时报警监控告警触达,来实现对实时任务运行状态的监控。配置自定义报警规则,实时任务报警监控功能
3、Dataleap支持对EMR Doris做ETL任务开发。原Azkaban调度迁移至Dataleap
4、使用EMR Doris替换原云数仓作为OLAP引擎,实现海量数据的秒级报表分析
5、Doris onES新架构结合Datasail实现秒级数据时延,提升客户广告计划变更可观测能力,如广告计划变更后的点击率变化。

-使用到的产品:
大数据研发治理套件 DataLeap + EMR-Doris + 全域数据集成 DataSail + 火山Kafka + ES+TOS

实施效果

弹性资源优化  50%+ 
运维成本降低  80%+
数据查询   秒级

 

 

icon客户案例 - 某泛互教育行业头部企业icon

所属行业:互联网  | 核心应用场景:IDC线下上云。

客户简介
作为国内在线教育/音视频内容的头部企业,客户旗下有课程、高研院、听书、电子书、直播等多个业务线,APP内容业态覆盖PCG、UGC等多种方向,随着业务的快速发展,在精细化运营、数据治理等方向遇到了不少挑战。

 

业务痛点
本地数据中心CDH服务器规格陈旧且维保到期,社区开源免费版本停止更新;
IDC集群无法以弹性伸缩的方式合理使用资源;
大数据平台迁移上云要求耗时短,原有业务改造成本低;
运维管理成本(资源+人力)期望进一步降低。

解决方案
1、DataLeap产品数据治理功能丰富,本地数据中心可以平滑上云;
2、支持客户生产环境离线链路在未来升级为准实时链路,进一步提升实时分析决策能力;
3、LAS的性能、兼容性,接近或优于第三方主流云服务工作量占比不足10%,迁移耗时全面领先友商;
4、火山引擎大数据团队配备了10+全套的自动化迁移工具,预计人工操作。

 

 

icon客户案例 - 某国内领先的线上教育机构icon

所属行业:泛互 | 核心应用场景:实时分析系统
客户简介

某K12在线教育客户。作为国内领先的教育数字化服务专业机构,客户专注于研发高质量的数字教育资源和系列产品应用。近10年成立以来,已发展为国内知名的“互联网+” 教育综合性解决方案提供商。

业务痛点
1、资源成本使用较高、模型混乱,数据缺乏统一口径;
2、数据依赖关系混乱,数据可用性低,维护成本高,缺乏有效的数据质量监测的手段,数据易用性低,脏数据占比高。
3、缺少流程管理,数据变动影响前端应用,波动较大,缺少体系化的埋点方案,埋点方案缺乏监控和管理。
4、埋点数据质量不高,存在重复埋点,埋点缺乏版本管理,历史埋点难追溯

解决方案
1、客户将基于线下IDC自建的开源大数据平台全面迁移至火山引擎开源大数据平台E-MapReduce,通过EMR半托管形态免除客户硬件运维成本,弹性伸缩架构升级

2、通过将客户端上报切到火山云,DataSail提供客户端数据上报方案,提供改造版SLS iOS 和SLS Android SDK,辅助客户快速替换成新SDK 双发开关,通过数据双跑校验,确保切换期的双跑验证采用,对业务侧影响最低,降低迁移成本。

3、DataLeap将数据统一口径,解决数据依赖关系混乱,数据可用性低,维护成本高等问题,通过有效的数据质量监测的手段,解决数据易用性低,脏数据占比高等问题极大提升数据质量,在丰富数据资产体系同时促进了数据消费活跃度。
-使用到的产品:
EMR + DataLeap + DataSail + Serverless Flink + TOS + PG+Mongo

 

产品推荐

金蝶KIS云旗舰版移动应用解决方案
金蝶KIS云旗舰版移动应用解决方案,支持超多种单据类型,支持时间、单据类型,单据状态,销售订单支持分享、复制订单、查看订单状态、催单。总部审核盘点差异后,门店/仓库不允许重新盘点。支持4种出库类型:分销调拨、库存转换、试用、报废。
免费试用
查看详情
珞安科技火力发电行业解决方案
珞安科技火力发电行业解决方案,提高电厂生产控制大区的NCS、SIS系统信息安全防护能力。促进项目成果在电力系统中的推广应用。形成电力行业安全等级的NCS、SIS系统安全防护典型示范。促进国家等级保护对电力工业控制系统网络安全合规落地。
免费试用
查看详情
腾讯交通态势感知与研判分析平台
腾讯交通态势感知与研判分析平台,通过分析历史数据来构建道路、路段、路口的特征工程;通过对数据本身的洞察,构建出新的特征工程、迭代出新模型与新算法,更好帮客户发现问题、解决问题;捕捉市场动向,抽象客户需求、提炼具有腾讯独特优势的大数据能力,适时推出新能力、新引擎。
免费试用
查看详情
3ds Max 2020.3 Update中的解决方案
3ds Max 2020.3 Update专注于提高效率、耐用性和精度。此版本基于最新的2020切角更新构建,直接在可编辑多边形对象中引入了增强功能。
免费试用
查看详情