EtL是将业务系统的数据经过抽取?
Extract?清洗转换?
transform?
之后加载?
Load?到数据仓库的过程Y目的是将企业中的分散零乱
标准不统一的数据整合到一起Y为企业的决策提供分析依据
EtL是指从原系统中抽取数据Y并根据实际商务需求对数据进行转换Y然
后把转换结果加载到目标数据存储结构中源和目标通常都是数据库和文
件Y也可以是消息队列等。
数据抽取
可以采用周期性的pull机制或者事件驱动的push机制
pull机制支持数据整合Y通常以批处理的方式工作
push机制通常采用在线方式工作Y可以把数据变化传播到目标数据存储
结构。
数据转换
包括数据重构和整合数据内容清洗或集成
数据加载
对整个目标数据存储结构进行刷新Y或者只是对目标数据存储进行增量更
新。
早期的EtL解决方案通常以固定的周期运行批处理工作Y从平面文件和
关系数据库中捕捉数据Y并把这些数据整合到数据仓库中最近这几年Y
商业EtL工具供应商已经对产品做了很大的改进Y对产品功能进行了扩
展Y具体如下x
1额外的数据源
2额外的目标
3改进的数据转换功能
4更好的管理
5更好的性能
6改进的可用性
7增强的安全性
8支持基于数据联邦的数据集成方法
数据抽取模块的功能x
1确定数据源Y即从哪些源系统进行数据抽取。
2定义数据接口Y对每个源文件及系统的每个字段进行详细说明。
3确定数据抽取的方式x是主动抽取还是由源系统推送Y是增量抽取。
还是全量抽取Y是每日抽取还是每月抽取。
数据清洗与切换
数据清洗与转换x
数据清洗主要是对不完整数据错误数据重复数据进行处理
数据转换包括如下操作
请勿开启浏览器阅读模式,否则将导致章节内容缺失及无法阅读下一章。
相邻推荐:无所谓,她全能我摆烂 始终无人再似她 顾总的恋恋不忘 赌徒,老千往事 上战场后,咸鱼太子妃亮出热武器 惊世狂妃:小废物她是全能大佬 伊藤佐里探案 [文野同人] 横滨禁止拆迁 只想亏钱的我,带动文明进步 穿书后,我成了女主们的大姐头 直播许愿:一种不顾人死活的灵验 长生,重生熊妖,苟到天荒地老! 最后我和师弟好上了 贺平安 [综漫] 身为直男却成了乙女游戏主角 我是全宗门的白月光 让你送快递,你竟去镇压天道 岁千秋 [柯南同人] 酒厂教父教你做人 灵明使