美文网首页
Flink(1)简介

Flink(1)简介

作者: hk_faith | 来源:发表于2021-02-28 17:40 被阅读0次

简介

官网,Flink 是分布式大数据处理引擎,可对有限水流或无限数据流做有状态或无状态对计算,能够部署在各种集群环境,对各种规模是数据进行快速的计算

flink的一些概念

  • Streams: 流,分有限数据流和无限水流。
  • State: 状态,是计算过程中的数据信息
  • Time: 分为Event time , Ingestion time , Processing time
  • API: 通常分为三层,由上而下分为 SQL/Table API ,DataStream API ,ProcessFunction。

flink 架构

  • flink 具备统一的框架处理有界和无界两种数据流的能力。
  • 部署灵活。底层支持多种资源调度器,包括 Yarn , Kubernetes 等,Flink 自身带的Standalone 的调度器,在部署上也十分灵活。
  • 极高的可伸缩性,可伸缩性对于分布式系统十分重要
  • 极致的流式处理性能。

数据处理架构演变

1.传统数据架构


传统数据架构.png

2.分析处理架构


分析数据处理.png
3.有状态流处理
有状态流处理.png

4.lambda架构


lambda架构.png
5.flink
flink.png

参考:尚硅谷Flink 教程
https://ververica.cn/developers/flink-basic-tutorial-1-basic-concept/

相关文章

  • Flink的API操作

    1、Flink简介 官网[https://flink.apache.org/zh/] Apache Flink® ...

  • Flink(1)简介

    简介 官网[https://flink.apache.org/zh/],Flink 是分布式大数据处理引擎,可对有...

  • FLINK实战-使用CEP进行网站状态监控报警和报警恢复

    flink CEP 简介 flink CEP(Complex event processing),是在Flink之...

  • Flink 1.11 与 Hive 批流一体数仓实践

    简介:Flink 从 1.9.0 开始提供与 Hive 集成的功能,随着几个版本的迭代,在最新的 Flink 1....

  • flink简介

    Flink简介 其结构图如下: Flink架构 Flink的分布式执行主要分成两个重要进程:master和work...

  • Flink简介

    Flink是一个分布式处理引擎,对无界数据流和有界数据流进行计算。 流数据(双十一)传统数据架构是基于有限数据集的...

  • Flink简介

    1.初识Flink Flink起源于Stratosphere项目,Stratosphere是在2010~2014年...

  • Flink简介

    Flink是什么? flink Apache的一个顶级开源项目,同时它是一个 可以处理有界和无界数据流 的...

  • Flink简介

    一、Flink概述Apache Flink是一个框架和分布式处理引擎,用于对无界和有界数据流进行有状态计算。Fli...

  • Flink简介

    第一章 初识Flink 大数据开发总体架构 数据传输层:常用的数据传输工具有Flume、Sqoop、Kafka。F...

网友评论

      本文标题:Flink(1)简介

      本文链接:https://www.haomeiwen.com/subject/sdggfltx.html