ICode9

精准搜索请尝试: 精确搜索
首页 > 其他分享> 文章详细

flink-watermark 是什么?

2021-12-08 23:00:07  阅读:171  来源: 互联网

标签:窗口 StreamElement Watermark 什么 flink watermark 关闭 分布式


1: watermark 是流里的一个特殊的元素,这个不是我说的,看源码的注释:

public final class Watermark extends StreamElement {

然后我们看看StreamElement的注释里:
An element in a data stream. Can be a record or a Watermark.

2:watermark 是要配合我们的窗口来使用的,且我们要使用的时间语义这个时候是事件时间,watermark 通过决定何时关闭窗口来做到我们对乱序数据的处理。它其实就是窗口的边界,一旦它和窗口的关闭的时间一样的时候,窗口就要关闭了,后来的数据就不再属于这个窗口,窗口是左开右闭的。

3:watermark是只增不减的,因为我们的事件时间按道理来说是只会随着时间的流逝逐步的递增,所以和event time 强关联的watermark必然也是逐步递增的。

4:如何处理分布式下的watermark,一说到分布式简单的问题就会变得复杂。

5:如何设定合理的watermark其实狠考验人,常见的处理方式一般可以满足多数不是狠复杂的需求。

标签:窗口,StreamElement,Watermark,什么,flink,watermark,关闭,分布式
来源: https://blog.csdn.net/weixin_36630761/article/details/121802786

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享;
2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关;
3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关;
4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除;
5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

专注分享技术,共同学习,共同进步。侵权联系[81616952@qq.com]

Copyright (C)ICode9.com, All Rights Reserved.

ICode9版权所有