首页 > 其他 > 详细

GoldData将采集数据融合到两张关联关系表

时间:2019-03-15 23:54:29      阅读:322      评论:0      收藏:0      [点我收藏+]
概述

在上一期中,我们抓取了新闻数据,现在我们要通过GoldData融合到两张数据库表news_site和news表当中去。如下图所示:

技术分享图片

技术分享图片

技术分享图片

我们很容易看到这两张表存在关联,那是怎样将数据写入关联呢,我们将接上一期在此一一介绍。

定义融合映射

数据集news ==> 表news_site

在“融合管理”中,选择数据集"news",选择数据库表news_site点击“添加”按扭,然后再点击“编辑映射”。如下图所示:

技术分享图片

关联数据方式选择“关联字段”,关联表字段"name",关联数据集JS为“dataset.source”,然后选择“保存”即可。

news_site表有两个字段:一个是id字段,由于是自增长字段,所以不用关联;另一个是name字段,选择映谢方式为“数据集字段”,而内容是来自于数据集news的source字段。

手动作业

我们回到“融合管理”页面,点击“融合作业”,然后点击“手动作业”,打开“手动作业”子页面,如下图所示:

技术分享图片

在这里我们可以看到融合是没问题的。点击“提交且下一条”,则会将合并结果写入到数据库表当中。如下图所示:

技术分享图片

然后回到“融合作业”子页面,点击“开始融合”,将会开始自动融合。如下图所示:

技术分享图片

系统就将会将数据集的数据按照指定的规则进行一个个的融合了。

数据集news ==> 表news

在“融合管理”中,选择数据集"news",选择数据库表news点击“添加”按扭,然后再点击“编辑映射”。如下图所示:

技术分享图片

关联数据方式选择“不关联,数据追加”,这将意味着数据集里的新数据将会追加到表news新记录里,但当然老数据不会追加为news新记录里,也就是多次反复融合也不会在表news里产生重复数据。

对于字段映射,说明如下:

字段 说明
id 自增长,不用映射
title 直接映射为数据集字段title
pub_date 使用JS 将数据集字段pubdate内容添加:00即可
site_id 映射表news_site,通过数据集字段source查找得到id
content 直接映射为数据集字段content
date_created 用JS创建该值即可

手动作业

我们回到“融合管理”页面,点击“融合作业”,然后点击“手动作业”,打开“手动作业”子页面,如下图所示:

技术分享图片

确认正确无误,点击“提交且下一条”,数据将会写入数据库中。如下图所示:

技术分享图片

然后回到“融合作业”子页面,点击“开始融合”,将会开始自动融合。

结语

通过GoldData后,我们很容易将数据及数据之间关系融合到关系数据库表中。接下来我们还介绍自关联数据的融合。

GoldData将采集数据融合到两张关联关系表

原文:https://blog.51cto.com/14240373/2363494

(0)
(0)
   
举报
评论 一句话评论(0
关于我们 - 联系我们 - 留言反馈 - 联系我们:wmxa8@hotmail.com
© 2014 bubuko.com 版权所有
打开技术之扣,分享程序人生!