kettle实例--数据转换-多数据源合并

1.使用Kettle工具，创建一个转换company_merge，并添加CSV文件输入控件、表输入控件、字段选择控件、排序合并控件、增加序列控件、表输出控件以及Hop跳连接线，具体如图所示。

2.配置CSV文件输入控件

双击“CSV文件输入”控件，进入“CSV文件输入”配置界面，具体如图所示。

单击【浏览】按钮，选择要抽取的CSV文件company_a.csv；单击【获取字段】按钮，Kettle自动检索CSV文件获取字段名称，并对文件中字段的类型、格式、长度、精度等属性进行解析。

单击【浏览】按钮，查看文件company_a.csv的数据是否抽取到CSV文件输入流中，具体效果如图所示。

3.配置字段选择控件

双击“字段选择”控件，进入“选择/改名值”界面具体效果如图所示。

在“选择和修改”选项卡的“字段”处手动添加CSV文件输入控件输出的所有数据字段，也可以单击【获取选择的字段】按钮，Kettle工具自动检索并添加CSV文件输入控件输出的所有数据字段。

选择“元数据”选项卡，切换到“元数据”选项卡界面。添加需要改变元数据的字段，将“字段选择”流中的字段进行一致性处理，即单击【获取改变的字段】按钮，获取要改变的字段，并在“Binary to Normal”一列的下拉框中，选择为“是”，使得CSV文件company_a.csv中数据的字段类型与数据表company_b中数据的字段类型一致。

4.配置表输入控件

双击“表输入”控件，进入“表输入”界面。

连接数据库，在图中的SQL框中编写查询数据表company_b的SQL语句，然后单击【预览】按钮，查看数据表company_b的数据是否成功从MySQL数据库中抽取到表输入流中，具体如图所示。

5.配置合并排序控件

双击“排序合并”控件，进入“排序合并”配置界面，并在字段框中，指定按字段id进行升序排序。

6.配置增加序列控件

双击“增加序列”控件，进入“增加序列”配置界面，在“值的名称”处，指定要增加列的列名，这里使用默认的名称，即valuename，其它配置项不作任何改变；单击【确定】按钮，完成“增加序列”控件的配置。

7.双击“字段选择2”控件，进入“选择/改名值”界面。在“选择和修改”处选择和修改要输出的字段，具体如图所示。

8.配置表输出控件

双击“表输出”控件，进入“表输出”控件的配置界面。

连接数据库，单击目标表右侧的【浏览】按钮，指定输出目标表，即数据表company（该表需提前创建，这里不作演示）；勾选“指定数据库字段”复选框，用于将数据表company的字段与“字段选择2”控件输出流中的字段进行匹配，如图所示。

单击“数据库字段”选项卡；再单击【输入字段映射】按钮，弹出“映射匹配”对话框；依次选中“源字段”选项框的字段和“目标字段”选项框对应的字段，再单击【Add】按钮，将一对映射字段添加至“映射”选项框中。单击【确定】按钮，完成“源字段”与“目标字段”的映射匹配。“表输出”界面最终的配置如图所示。

9.运行转换

单击转换工作区顶部的运行按钮，运行创建的转换company_merge，实现将A公司和B公司的手机日销售数据合并到一个数据源（即数据表company）中，具体如图所示。

kettle实例--数据转换-多数据源合并相关推荐

kettle实例-高级转换-数据合并
(1)建立[多路数据合并连接]转换工程.加入Excel输入控件,排序记录,记录集连接,计算器以及字段选择 (2)设置[多路数据合并连接]参数. 双击Excel输入控键,将英语成绩导入并添加如图点击工 ...
php拆分excel,PHP_PHPExcel合并与拆分单元格的方法，本文实例讲述了PHPExcel合并与 - phpStudy...
PHPExcel合并与拆分单元格的方法本文实例讲述了PHPExcel合并与拆分单元格的方法.分享给大家供大家参考,具体如下: $objPHPExcel; $filepath="c:\tem ...
pandas——数据移位、数据转换、数据合并、数据导出和日期数据的处理，时间序列等
pandas统计分析(下) 本文主要介绍使用pandas进行数据移位.数据转换.数据合并.数据导出和日期数据的处理,时间序列等. 数据移位数据移位就是在分析数据时,需要移动到上一条,在pandas中 ...
Three.js BIM模型轻量化 FPS渲染速率优化多实例渲染[Instance]+顶点合并[Merge]
BIM模型不经过处理,直接加载到Three.js 创建的场景中,很大可能会很使fps帧率下降,原因在于模型的个数太多,有的模型是多材质的话还需要在Three.js中绘制两次,这样会导致drawcall ...
php 合并重复数据合并,PHP_php合并数组中相同元素的方法，本文实例讲述了php合并数组中 - phpStudy...
php合并数组中相同元素的方法本文实例讲述了php合并数组中相同元素的方法.分享给大家供大家参考.具体如下: 关于重复数组的删除我们都介绍过N种方法了,今天这个例子有点不同就是删除数组中相同的元素 ...
kettle案例——数据转换（多数据源合并）
1.数据准备假设,某公司旗下有两个子公司,分别为A公司和B公司,且这两个子公司均在销售手机,其中A公司的手机日销售情况存储在CSV文件中,即文件company_a.csv:B公司的手机日销售情况存储 ...
kettle实例（获取企业微信打卡数据并将数据入库）
ETL.kettle初学者实例(获取企业微信打卡数据并将数据入库) Kettle简介实例流程简介从数据库中取出人员信息处理人员信息获取人员打卡信息将打卡信息入库总结 Kettle简介 Ke ...
6.1Kettle多数据源合并
目录一.数据准备二.建立转换添加控件三.配置控件 1."CSV文件输入"控件配置 2."字段选择"控件配置 3."表输入"控件配置 4 ...
AngularJS $q 和 $q.all 单个数据源和多个数据源合并（promise的说明）
这篇文章讲的不错, angular $q 和 promise!! -------------------------------------------------------------- 通过调 ...

kettle实例--数据转换-多数据源合并

kettle实例--数据转换-多数据源合并相关推荐

最新文章

热门文章