大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。
Jetbrains全系列IDE稳定放心使用
拉链表的优势我就不说了,具体请参考百度百科:
拉链表-百度百科
推荐一个比较详细的参考文章:
拉链表示例
主要总结一下实现过程:
分析:拉链表就是用来存储变化的数据的,每一份数据都有对应的有效期,我们需要进行的操作就是将变动的数据进行新增,同时将变动对应的前一条数据的有效期进行变更。
说明:一般都是今天处理昨天的数据,本文所说的当天为所处理的数据的产生的当天。
在这之前需要熟悉一下需要用到的表:
表1:订单表(记录原始的数据)
表2:增量数据表(记录每日变更的数据)
表3:历史拉链表(我们要得到的就是这张表)
表4:临时历史拉链表(临时表,处理好之后将数据覆盖到历史拉链表中)
总结过程:
初始化:
-1、从订单表中完整获取第一批数据,因为没有历史数据,可以直接初始化到增量数据表中
-2、将增量数据表中的数据直接放入历史拉链表中,有效期为 当前 -> 永久。
增量:
1、将当天变动的数据集A放到增量数据表中(使用createdate & modifydate 进行筛选)
2、将历史拉链表跟数据集A进行左连接,关联上的数据说明已经出现变动,将这部分数据的截止时间进行更新,最为数据集H,这部分相当于历史数据了
3、将增量数据表中的数据添加有效期,有效期为 当前 -> 永久,作为数据集T,这部分相当于当天变动的数据。
4、将数据集H 和 数据集T 进行合并,放入临时历史拉链表
5、最后将临时历史拉链表覆盖历史拉链表
以上就是一个增量的过程,需要注意的是如果一份数据当天多次,我能想到有两种解决方案:
方案1:在取增量数据的时候取最新的一次,这种方案比较广泛吧。
方案2:需要在第三步整理数据集T的时候进行处理,也就是筛选出并不是最新数据的集合,将这部分数据的有效期进行填充,不过我觉得这种方法对于输出快照不太友好。
发布者:全栈程序员-用户IM,转载请注明出处:https://javaforall.cn/184028.html原文链接:https://javaforall.cn
【正版授权,激活自己账号】: Jetbrains全家桶Ide使用,1年售后保障,每天仅需1毛
【官方授权 正版激活】: 官方授权 正版激活 支持Jetbrains家族下所有IDE 使用个人JB账号...