首页 > 经济 > 正文

【环球聚看点】大数据NiFi(十六):处理器Connection连接

来源:腾讯云 发布日期:2023-02-11 20:09:54 分享到:

处理器Connection连接

一、查看队列中的FlowFile

单独启动“GenerateFlowFile”处理器后,可以观察到对应的Connection连接队列中有数据,在Connection连接上右键“List Queue”可以查看队列中的FlowFile信息:

二、查看FlowFile自定义属性值

队列中的FlowFile属性中还可以查看自定义的属性信息,例如:在“GenerateFlowFile”处理器中设置自定义属性“mykey”,对应的value值设置为“myvalue”:


【资料图】

单独启动“GenerateFlowFile”生产部分数据,查看队列中的FlowFile属性如下:

三、​​​​​​​Connection 配置

针对Connectiond连接,可以通过“Configure”配置更多信息:

弹出页面点击“SETTINGS”:

“FlowFile expiration”数据过期:

设置FlowFile expiration 时间可以删除队列中无法及时处理的数据,默认设置为0,数据永远不会过期,当设置了一个过期时间,在Connect连接上可以看到一个小时钟图标。

“Back Press”背压:

NiFi提供了两种背压配置机制,背压机制允许在队列中存在多少数据,当达到这个数据后,源头处理器就不再调度产生数据,防止数据溢出。"Back pressure object threshold"指定队列中的数据达到多少条数触发背压机制。"Back pressure data size threshold"指定队列中数据达到多大时触发背压机制。设置背压机制后,在Connection连接上会显示进度条。

“load balance strategies”负载均衡:

负载均衡策略可选项如下:

Do not load balance:不在集群中均衡数据,默认值。Partition by attribute:根据用户指定的属性值决定数据发往哪个节点,相同属性值的数据会发往同一个节点。如果数据发往的节点断开连接,数据不会发送到其他节点,当节点再次连接到集群时,会自动发送。Round robin:轮询方式分发数据,当一个节点断开时,会自动轮询发送到其他节点。Single node:所有数据发送到单节点,不可配置哪个节点。当节点与集群断开后,数据不会发送到其他节点,直到该节点再次可用。

设置好负载均衡后可以看到图标:

“Load Balance Compression”负载均衡数据压缩:

当配置好负载均衡策略后,可以设置节点间数据传递是否压缩,可选项如下:

Do not compress:不压缩。Compress attributes only:只压缩属性。Compress attributes and content: 压缩属性和内容。

"Select Prioritization"优先级:

可以指定如何对队列中的数据进行优先级排序以便处理优先级高的数据。可以从"Available prioritizers" 拖动到"Selected prioritizers"标签下使用优先级。可以选择多个优先级,数据会依次按照选择的优先级排序,优先级可选如下:

FirstInFirstOutPrioritizer:给定两个FlowFiles,首先处理首先到达连接的FlowFiles。NewestFlowFileFirstPrioritizer:给定两个FlowFiles,将首先处理数据流中最新的FlowFiles。OldestFlowFileFirstPrioritizer:给定两个FlowFiles,将首先处理数据流中最旧的FlowFiles。这是在没有选择优先级的情况下使用的默认方案。PriorityAttributePrioritizer:给定两个FlowFiles,将提取名为priority的属性。将首先处理具有最低优先级值的那个。建议设置数值,如果是字符串会按照ascii码排序。

四、​​​​​​​​​​​​​​查看Connections信息

在主菜单“Summary”中的“Connection”中可以查看连接的信息:

五、​​​​​​​​​​​​​​设置弯曲连接

可以双击Connection连接线来增加弯曲点,对弯曲点再次双击将删除当前弯曲点。

关键词: 编程算法 负载均衡 负载均衡缓存 文件存储

x 广告

【环球聚看点】大数据NiFi(十六):处理器Connection连接

单独启动“GenerateFlowFile”处理器后,可以观察到对应的Connection连接队列中有数据,在Connection连接上右键“ListQueu

当前热议!美国制裁,中国救援,叙利亚感叹危难时刻见人心!

美国制裁,中国救援,叙利亚感叹危难时刻见人心!,美国,中国,援助,叙利亚,穆罕默德

环球微速讯:锚定赛道持续领航 佳兆业获评“2021中国城市更新品牌价值企业”

7月15日,由中国房地产报主办的“中国房地产品牌高质量发展大会暨2021年中国房地产品牌盛典”在北京举行。得益于高质量增长的经营发展态势和持

天天实时:讲真,买了这么多年大衣,今天才知道有“三个标准”,难怪总穿错

今天我们接着来聊一聊关于大衣的话题吧,作为秋冬衣橱中主要的构成部分,真是讨论多少遍多不会觉得厌烦。以前猫姐总是带领着大家探索大衣的穿

世界快看点丨曝灰熊曾愿付出所有首轮签换取杜兰特

曝灰熊曾愿付出所有首轮签换取杜兰特,杰克逊,美国篮球,凯文杜兰特,孟菲斯灰熊队,多伦多猛龙队,凯文-杜兰特,凯文·杜兰特,国际篮球赛事,奥林匹

每日速递:苛征_关于苛征的简介

1、苛征,读音为kēzhēng,汉语词语,意思是横征暴敛。本文关于苛征的简介就讲解完毕,希望对大家有所帮助。

环球新消息丨扬州信宝行汽车销售服务有限公司

1、扬州信宝行汽车销售服务有限公司于2010年03月04日成立。2、法定代表人陈奕文,公司经营范围包括:机动车辆保险

当前快讯:现在开什么样的网店好?卖什么最好?

网购逐渐成为了大家购物的主流方式,因为在网上购物非常的方便,价格便宜的同时选择性还非常的丰富哦,所以很多的人现在也想去开个网店创业了

x 广告

Copyright   2015-2022 纵横海洋网版权所有  备案号:浙ICP备2022016517号-12   联系邮箱:51 46 76 11 3 @qq.com