如何实现Qlikview的增量数据加载
2024-10-11 10:09:39
笔者备注: 刚刚接错Qlikview,上网搜集的资料,如何处理增量数据。 1 寻找增量时间戳
(1)各种数据库:表的创建时间字段和修改时间字段或者最后的修改时间字段;
(2)sql server:可以用找自增字段或者时间戳;
(3)Oracle:找序列字段也是自增的;
(4)如果找不到以上字段,可以分析实际业务数据:比如各种编号是不是不重复自增的;
上个月的数据不会改变,变化只是本月的,那么本月数据就是增量数据;
(1)对有增量变更记录数据表的,拆分一下(insert,update和delete),很简单直接就可以同步处理数据了;
(2)对有增量数据的:
A:Lookup组件delete可以实现insert和update,delete只能采用outer join方法;
B:outer join和NULL关键字方法可以实现insert,update和delete,但是当数据量较大时消耗性能。
C:SCD缓慢变化维度组件可以很容易实现insert和update,delete只能采用outer join方法;
二:ETL无增量数据:如果实在找不到增量数据,只能先全部删除然后全部抽取。
最新文章
- django ORM
- sql查询语句
- 固定导航(Sticky nav)
- MyBatis Generator自动生成的配置及使用
- Jin Ge Jin Qu hao
- 【转】使用junit进行单元测试(初级篇)
- 汇总文件数据 VBA
- 浅谈C#随机数发生器
- KMP算法 KMP模式匹配 一(串)
- linux安装安卓开发工具android studio
- WEB前端资源集(一)
- c# 接口实用
- Velocity(2)——常用语法
- python学习之re (?P...)通过关键字获取组以及( P=name)
- Unable to connect to Redis; nested exception is io.lettuce.core.RedisConnectionException: Unable to connect to ;XX.XX.XX.XX:6379] with root cause
- 关于WebService
- 2、初探 ZooKeeper 技术内幕
- python 爬虫newspaper3k 新闻爬去方法 利用第三方库
- CSS 美化复选框 - 无图片方式
- ITelephony.aidl