数据仓库分层(数据仓库分层是固定的吗)

本篇文章给大家谈谈数据仓库分层,以及数据仓库分层是固定的吗对应的知识点,希望对各位有所帮助,不要忘了收藏本站喔。

本文目录一览:

数据仓库分层架构深度讲解

         分层的主要原因是在管理数据的时候,能对数据有一个更加清晰的掌控,详细来讲,主要有下面几个原因返带弯:

清晰数据结构:

         每一个数据分层都有它的作用域,这样我们在使用表的时候能更方便地定位和理解。

方便数据血缘追踪:

          简单来说,我们最终给业务呈现的是一个能直接使用业务表,但是它的来源有很多,如果有一张来源表出问题了,我们希望能够快速准确地定位到问题,并清楚它的危害范围。

减少重复开发:

          规范数据分层,开发一些通用的中间层数据,能够减少极大的重复计算。

把复杂问题简单化:

         将一个复杂的任务分解成多个步骤来完成,每一层只处理单一的步骤 ,比较简单和容易理解。而且便于维护数据的准确性,当数据出现问题之后,可以不用修复所有的数据,只需要从有问题的步骤开始修复。

屏蔽原始数据的异常:

         屏蔽业务的影响,不必改一次业务就需要重新接入数据

         数据分层每个企业根据自己的业务需求可以分成不同的层次,但是最基础的分层思想,理论上 数据分为三个层 , 数据运营层 、 数据仓库层 和 数据服务层 。基于这个基础分层之上添加新的层次,来满足不同的业务需求。

数据运营层(ODS)

         Operate data store(操作数据-存储),是最接近数据源中数据的一层,数据源中的数据,经过抽取、洗净、传输,也就说传说中的ETL之后,装入ODS层 。本层的数据,总体上大多是按照源头业务系统的分类方式而分类的。例如:MySQL里面的一张表可以通过sqoop之间抽取到ODS层ODS层数据的来源方式:

数据仓库层(DW)

         Data warehouse(数据仓库) 。在这里, 从ODS层中获得的数据按照主题建立各种数据模型 。例如 以研究人的旅游消费为主题的数据集中 ,便可以结合航空公司的登机出行信息,以及银联系统的刷卡记录,进行结合分析,产生数据集。在这里,我们需要了解四个概念:维(dimension)、事实(Fact)、指标(Index)和粒度( Granularity)。

数据服务层/应用层(ADS):         

Application Data Service(应用数据服务)。该层主要是提供数据产品和数据分析使用 的数据,一般会存放在ES、MySQL等系统中供线上系统使用,也可能会存在Hive或者Druid中供数据分析和数据挖掘使用。例如:我们经常说的报表数据,或者说那种大宽表,一般就放在这里。

ODS 数据准备层

功能:         

         ODS层漏闷是数据仓库准备区,为DWD层提供基础原始数据,可减少对业务系统的影响

建模方式及原则:     

        从业务系统增量抽取 、保留时间由业务需求决定、 可分表进行周期存储、数据不做清洗转换与业务系统数据模型保持一致 、按主题逻辑划分

DWD 数据明细层

功能:       

       为DW层提供来源明细数据,提供业务系统细节数行仿据的长期沉淀 ,为未来分析类需求的扩展提供历史数据支撑

建模方式及原则:       

        数据模型 与ODS层一致,不做清洗转换处理 、为支持数据重跑 可额外增加数据 业务日期字段、可按年月日进行分表、用增量ODS层数据和前一天DWD相关表进行merge处理

DW(B/S) 数据汇总层

功能:         

       为DW、ST层提供细粒度数据,细化成DWB和DWS;       

        DWB是根据DWD明细数据进行转换 ,如维度转代理键、身份证清洗、会员注册来源清晰、字段合并、空值处理、脏数据处理、IP清晰转换、账号余额清洗、资金来源清洗等;      

         DWS是根据DWB层数据按各个维度ID进行高粒度汇总聚合 ,如按交易来源,交易类型进行汇合

建模方式及原则:

         聚合、汇总增加派生事实;

         关联其它主题的事实表,DW层可能会跨主题域;

         DWB保持低粒度汇总加工数据,DWS保持高粒度汇总数据;

         数据模型可能采用反范式设计,合并信息等。

Data Market (数据集市)层

功能:        

        可以是一些宽表,是根据DW层数据按照各种维度或多种维度组合把需要查询的一些事实字段进行汇总统计并作为单独的列进行存储 ;         

        满足一些特定查询、数据挖掘应用        

         应用集市数据存储

建模方式及原则:         

      尽量减少数据访问时计算 (优化检索)        

      维度建模,星型模型;         

      分表存储

ST 数据应用层(ADS层)

功能:        

        ST层面向用户应用和分析需求 ,包括前端报表、分析图表、KPI、仪表盘、OLAP、专题等分析, 面向最终结果用户          

     适合做OLAP、报表模型,如ROLAP,MOLAP

         根据DW层经过聚合汇总统计后的粗粒度事实表

建模方式及原则:         

         本篇文章主要讲解数仓项目中为什么分层,比如 我们在完成一个需要的需求的时候也许只需要一个复杂的SQL语句就可以完成。但一个复杂的SQL语句方便后面维护吗?当出现了问题方便追踪吗? 这时候就体现出分层的好处。顺便给大家分享阿里的数仓模型是什么样的。信自己,努力和汗水总会能得到回报的。我是大数据老哥,我们下期见~~~

数据化过程中数据如何实现分层_集

把数据仓库分为下面三个层,即:数据运营层、数据仓库层和数据产品层。

1.“面向主题的”,数据运营层,也叫ODS层,是最接近数据源中数樱逗据的一层,数据源中的数据,经过抽取、洗净、传输,也就说传说中的ETL之后,装入本层。本层的数据脊启卖,总体上大多是按照源头业务系统的分类方式而分类的。

2.数据仓库层(DW),是数据仓库的主体,在旁竖这里,从ODS层中获得的数据按照主题建立各种数据模型。例如以研究人的旅游消费为主题的数据集中,便可以结合航空公司的登机出行信息,以及银联系统的刷卡记录,进行结合分析,产生数据集。

3.数据产品层(APP),这一层是提供为数据产品使用的结果数据,主要是提供给数据产品和数据分析使用的数据,一般会存放在es、mysql等系统中供线上系统使用,也可能会存在Hive或者Druid中供数据分析和数据挖掘使用。

[img]

数据仓库系统有哪三个工具层

【数据仓库系统的三个工具层】数据仓库系统通常采用3层的体系结构,底层为数据仓库服务器,中间层为OLAP服务器,顶层为前端工具。具体如下:

1、数据源和数据的存储与管理部分可以统称为数据仓库服务器。

(1)数据源:是数据仓库系统的基础,是整个系统的数据源泉。通常包括企业内部信息和外部信息。内部信息包括存放于RDBMS中的各种业务处理数据和各类文档数据。外部中罩信息包括各类法律法规、市场信息和竞争对手的信息,等等。

(2)数据的存储与管理:是整个数据仓库系统的核心。数据仓库的真正关键是数据的存储和管理。数据仓库的组织管理方式决定了它有别于传统数据库,同时也决定了其对外部数据的表现形式。要决定采用什么产品和技术来建立数据仓库的核心,则需要从数据仓库的技术特点着手分析。针对现有各业务系统的数据,进行抽取、清理,并有效集成,按照主题进行组织。数态孝据仓库按照数据的覆盖范围可以分为企业级数据仓库和部门级数据仓库(通常称为数据集市)。

2、OLAP服务器:对分析需要的数据进行有效集成,按多维模型予以组织,以便进行多角度、多层次的分析,并发现趋势。其具体实现可以分为:ROLAP、MOLAP和HOLAP。ROLAP基本数据和聚合数据均存放在RDBMS之中;MOLAP基本数据和聚合数据均存放于多维数据库中;HOLAP基本数据存放于RDBMS之中,聚合数据存放于多维数据库中。

3、前端工具:主要包括各种报表工具、查询工具、数据分析工具、数据挖掘工具,以及各种基于数据仓库或数据集市的应用开发工具。其中数据分析工帆培稿具主要针对OLAP服务器,报表工具、数据挖掘工具主要针对数据仓库。

什么是数据仓库,数据仓库如何分层

数据仓库分层的原因

1通过数据预处理提高效率,因为预处理,所以会存在冗余数据

2如果不分层而业务系统的业务规则发生变化,就会影响整个数据清洗过程,工作量巨大

3通过分层管理来实现分步完成工作,这样每一层的处理逻辑就简单了

标准的数据仓库分层:ods(临时存储层),pdw(数据仓库层),mid(数据集市层),app(应用层)

ods:历史存储层,它和源系统数据是同构的,而且这一层数据粒度是最细的,这层的表分为两种,一种是存储当前需要加载的数据,一种是用于存储处理完后的数据。

pdw:数据仓库层,它的数据是干净的数据,是一致的准确的,也就是清洗后的数据,它的数据一般都遵循数据库第三范式,数据粒度和ods的粒度相同,它会保存bi系统中所有肆物历史数据

mid:数据集市层,它是面向主题组织数据的,通常是星状和雪花状数据,从数据粒度将,它是轻度汇总级别的数据,已经不存在明细的数据了,从广度来说,它包含了所有业务数量。从分析角度讲,大概就是近几年

app:应用层,数据粒度高度汇总,倒不一定涵盖所有业务数据,只是mid层数据的一个子集。

数据仓库的目的是构建面向分析的集成化数据环境,为企业提供决策支持。数据仓库的context也可以理解为:数据源,数据仓库,数据应用

数据仓库可以理解为中间集成化数裂好液据管理的一个平台

etl(抽取extra,转化transfer,装载load)是数据仓库的流水线,也可以认为是数据仓库的血液。

数据仓库的存储并不需要存储所有原始数据,因为比如你存储冗长的文本数据完全没必要,但需要存储细节数据,因为需求袜瞎是多变的,而且数据仓库是导入数据必须经过整理和转换使它面向主题,因为前台数据库的数据是基于oltp操作组织优化的,这些可能不适合做分析,面向主题的组织形式才有利于分析。

多维数据模型就是说可以多维度交叉查询和细分,应用一般都是基于联机分析处理(online analytical process OLAP),面向特定需求群体的数据集市会基于多位数据模型构建

而报表展示就是将聚合数据和多维分析数据展示到报表,提供简单和直观的数据。

元数据,也叫解释性数据,或者数据字典,会记录数据仓库中模型的定义,各层级之间的映射关系,监控数据仓库的数据状态和etl的任务运行状态。一般通过元数据资料库来统一存储和管理元数据。

关于数据仓库分层和数据仓库分层是固定的吗的介绍到此就结束了,不知道你从中找到你需要的信息了吗 ?如果你还想了解更多这方面的信息,记得收藏关注本站。

相关阅读

  • 数据仓库dwd(数据仓库dwd层设计)

    数据仓库dwd(数据仓库dwd层设计)

    标题:数据仓库dwd简介:数据仓库(Data Warehouse)是一种用于存储和管理企业数据的系统,旨在支持商业决策。数据仓库是大型集中式数据库,用于将各种来源的数据整合到一起,以帮助企业分析和获取更深层次的洞察。在数据仓库中,数据经过清...

    2024.04.25 02:00:37作者:intanet.cnTags:数据仓库dwd
  • sqlupdate(SQL UPDATE语句)

    sqlupdate(SQL UPDATE语句)

    简介:在IT技术领域中,SQL语言是非常重要的一种数据操作语言。其中,SQL的UPDATE语句是用来更新数据库表中的数据的。在这篇文章中,我们将详细说明SQL的UPDATE语句的用法和注意事项。多级标题:一、什么是UPDATE语句二、UPD...

    2024.04.24 18:00:43作者:intanet.cnTags:sqlupdate
  • oracle启动(oracle启动步骤)

    oracle启动(oracle启动步骤)

    简介:Oracle是一个功能强大的数据库管理系统,能够处理大量的数据,并且支持高度可扩展性和稳定性。在使用Oracle数据库时,启动Oracle是非常重要的操作,只有在Oracle启动之后,才能正常访问数据库。多级标题:一、启动Oracle...

    2024.04.24 15:22:40作者:intanet.cnTags:oracle启动
  • oracle查看所有表(oracle查看所有表的sql语句)

    oracle查看所有表(oracle查看所有表的sql语句)

    在IT技术领域中,Oracle数据库是一种非常流行的关系型数据库管理系统。在使用Oracle数据库时,有时候需要查看所有的表的信息,以便进行数据分析、优化或管理。本文将介绍如何在Oracle数据库中查看所有表的方法。### 第一部分:登录O...

    2024.04.24 05:01:17作者:intanet.cnTags:oracle查看所有表
  • 关于oraclejde的信息

    关于oraclejde的信息

    简介:Oracle JD Edwards EnterpriseOne是一款集成的企业资源计划(ERP)软件,旨在提高组织的效率和灵活性。它基于先进的技术平台,包括云计算和移动应用,能够满足各种行业的需求。多级标题:1. 什么是Oracle...

    2024.04.24 02:03:17作者:intanet.cnTags:oraclejde
  • sql添加(sql添加多条记录)

    sql添加(sql添加多条记录)

    简介:在IT技术领域中,SQL是一种常用的数据库查询语言,用于对数据库进行增、删、查、改等操作。本文将详细介绍SQL中的添加操作,包括添加数据到数据库表和添加新的列到表格中。一、添加数据到数据库表当需要向数据库表中添加新的数据时,可以使用I...

    2024.04.23 19:11:52作者:intanet.cnTags:sql添加
  • redis使用(redis使用手册)

    redis使用(redis使用手册)

    简介:Redis是一款开源的高性能键值存储数据库,具有快速、稳定和可靠的特点。它被广泛应用于缓存、消息队列、会话管理等场景中,并且可以支持多种数据结构类型,如字符串、哈希表、列表等。本文将介绍如何使用Redis,并详细说明其常用功能和操作。...

    2024.04.23 18:55:28作者:intanet.cnTags:redis使用
  • 包含pdboracle的词条

    包含pdboracle的词条

    简介:PDBOracle是一种用于数据存储和管理的数据库系统,在IT技术领域有着广泛的应用。本文将介绍PDBOracle的概念、优势以及如何使用它来提高数据存储和管理的效率。一级标题:什么是PDBOracle?PDBOracle是一种用于数...

    2024.04.23 17:03:11作者:intanet.cnTags:pdboracle