flink安装部署+集成doris

本文为博客 VIP 文章,开通 VIP 后可阅读全文

开通 VIP

yarn模式安装

步骤1:下载

为了运行Flink,只需提前安装好 Java 11。你可以通过以下命令来检查 Java 是否已经安装正确。

java -version

官网下载flink,并解压

Downloads | Apache Flink

$ tar -xzf flink-1.17.1-bin-scala_2.12.tgz
$ cd flink-1.17.1-bin-scala_2.12

步骤2:配置

修改配置文件 

$ vim /data/soft/flink/conf/flink-conf.yaml
################################################################################
#  Licensed to the Apache Software Foundation (ASF) under one
#  or more contributor license agreements.  See the NOTICE file
#  distributed with this work for additional information
#  regarding copyright ownership.  The ASF licenses this file
#  to you under the Apache License, Version 2.0 (the
#  "License"); you may not use this file except in compliance
#  with the License.  You may obtain a copy of the License at
#
#      http://www.apache.org/licenses/LICENSE-2.0
#
#  Unless required by applicable law or agreed to in writing, software
#  distributed under the License is distributed on an "AS IS" BASIS,
#  WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
#  See the License for the specific language governing permissions and
# limitations under the License.
################################################################################


#==============================================================================
# Common
#==============================================================================

# The external address of the host on which the JobManager runs and can be
# reached by the TaskManagers and any clients which want to connect. This setting
# is only used in Standalone mode and may be overwritten on the JobManager side
# by specifying the --host <hostname> parameter of the bin/jobmanager.sh executable.
# In high availability mode, if you use the bin/start-cluster.sh script and setup
# the conf/masters file, this will be taken care of automatically. Yarn
# automatically configure the host name based on the hostname of the node where the
# JobManager runs.

# JobManager内部通信ip地址
jobmanager.rpc.address: data-analysis-003

# The RPC port where the JobManager is reachable.

# JobManager通信端口
jobmanager.rpc.port: 6123

# The host interface the JobManager will bind to. By default, this is localhost, and will prevent
# the JobManager from communicating outside the machine/container it is running on.
# On YARN this setting will be ignored if it is set to 'localhost', defaulting to 0.0.0.0.
# On Kubernetes this setting will be ignored, defaulting to 0.0.0.0.
#
# To enable this, set the bind-host address to one that has access to an outside facing network
# interface, such as 0.0.0.0.

# JobManager外部通信绑定ip
jobmanager.bind-host: 0.0.0.0


# The total process memory size for the JobManager.
#
# Note this accounts for all memory usage within the JobManager process,
Doris 专栏 更新啦(20240330) 2022 年 6 月,Apache Doris 成功从 Apache 孵化器毕业,正式成为 Apache 顶级项目(Top-Level Project,TLP)Apache Doris 如今在中国乃至全球范围内都拥有着广泛的用户群体,截止目前, Apache Doris 已经在全球超过 2000 家企业的生产环境中得到应用,在中国市值或估值排行前 50 的互联网公司中,有超过 80% 长期使用 Apache Doris,包括百度、美团、小米、京东、字节跳动、腾讯、网易、快手、微博、贝壳等。 阅读详情

相关推荐

从零搭建实时湖仓:Flink、Paimon、Hadoop与StarRocks(Doris)单机部署实战

本文详细介绍了在Mac上从零搭建实时湖仓技术栈的完整流程,涵盖Flink、Paimon、Hadoop与StarRocks(Doris)的单机部署实战。通过环境准备、组件配置、集成联调等步骤,帮助开发者快速构建实时数据处理管道,并提供了常见问题的解决方案和性能优化技巧。

weixin_42567046的博客 101

Doris实战——结合Flink构建极速易用的实时数仓

Doris实战——结合Flink构建极速易用的实时数仓

爱吃辣条的博客 8164

FLink-CDC部署(S1:Doris部署

这里使用flink-cdc 3.0.1+flink 1.8.1+doris 2.1.0+mysql来实现,从mysql同步到dorisflink不要使用1.9.X,因为1.8.x的配置和1.9.x的配置不一样,导致flink-cdc无法兼容。

wengad的博客 1077

Doris进阶篇—Flink+Doris 实时数仓

简单来说,Aggregate模型就是预聚合模型,类似于Molap,通过提前定义key列及value列的聚合方式,在数据导入的时候已经将key列相同的数据按照value列的聚合方式聚合在一起,即最终表里key相同的数据只保留一条,value按照相应的规则计算。线上配置的监控1分钟执行一次,如果遇到任务暂停,会自动恢复导入任务,但是导致任务失败的脏数据会跳过,此时需要人工排查失败原因,修复后重新触发该条数据的导入。虽然同样无法利用预聚合的特性,但是不受聚合模型的约束,可以发挥列存模型的优势。

4万+

基于Flink+Doris构建高性能高扩展的全端实时数据仓库教程

课程总体架构请观看89讲。数据仓库是一个面向主题的、集成的、随时间变化的、但信息本身相对稳定的数据集合,用于对管理决策过程的支持。数据仓库的应用有:1.数据分析、数据挖掘、人工智能、机器学习、风险控制、无人驾驶。2.数据化运营、精准运营。3.广告精准、智能投放等等。数据仓库是伴随着企业信息化发展起来的,在企业信息化的过程中,随着信息化工具的升级和新工具的应用,数据量变的越来越大,数据格式越来越多,决策要求越来越苛刻,数据仓库技术也在不停的发展。数据仓库有两个环节:数据仓库的构建与数据仓库的应用。随着IT技术走向互联网、移动化,数据源变得越来越丰富,在原来业  务数据库的基础上出现了非结构化数据,比如网站log,IoT设备数据,APP埋点数据等,这些数据量比以往结构化的数据大了几个量级,对ETL过程、存储都提出了更高的要求。互联网的在线特性也将业务需求推向了实时化 ,随时根据当前客户行为而调整策略变得越来越常见,比如大促过程中库存管理,运营管理等(即既有中远期策略型,也有短期操作型)。同时公司业务互联网化之后导致同时服务的客户剧增,有些情况人工难以完全处理,这就需要机器 自动决策 。比如欺诈检测和用户审核。总结来看,对数据仓库的需求可以抽象成两方面: 实时产生结果、处理和保存大量异构数据。本课程基于真实热门的互联网电商业务场景为案例讲解,结合分层理论和实战对数仓设计进行详尽的讲解,基于Flink+DorisDB实现真正的实时数仓,数据来及分析,实时报表应用。具体数仓报表应用指标包括:实时大屏分析、流量分析、订单分析、商品分析、商家分析等,数据涵盖全端(PC、移动、小程序)应用,与互联网企业大数据技术同步,让大家能够学到大数据企业级实时数据仓库的实战经验。本课程包含的技术: 开发工具为:IDEA、WebStorm Flink 1.11.3Hadoop 2.7.5Hive 2.2.0ZookeeperKafka 2.1.0、Spring boot 2.0.8.RELEASESpring Cloud Finchley.SR2Flume 、Hbase 2.2.6DorisDB 0.13.9、RedisVUE+jQuery+Ajax+NodeJS+ElementUI+Echarts+Datav等课程亮点: 1.与企业接轨、真实工业界产品2.DorisDB高性能分布式数据库3.大数据热门技术Flink最新版4.真正的实时数仓以及分层设计5.海量数据大屏实时报表6.数据分析涵盖全端(PC、移动、小程序)应用7.主流微服务后端系统8.数据库实时同步解决方案9.涵盖主流前端技术VUE+jQuery+Ajax+NodeJS+ElementUI+Echarts+Datav10.集成SpringCloud实现统一整合方案11.互联网大数据企业热门技术栈12.支持海量数据的实时数仓报表分析13.支持全端实时实时数仓报表分析14.全程代码实操,提供全部代码和资料 15.提供答疑和提供企业技术方案咨询企业一线架构师讲授,代码在老师的指导下企业可以复用,提供企业解决方案。  版权归作者所有,盗版将进行法律维权。 

基于Flink+Doris构建亿级全端电商实时数据分析平台

上层应用业务对实时数据的需求,主要包含两部分内容:1、 整体数据的实时分析。2、 AB实验效果的实时监控。这几部分数据需求,都需要进行的下钻分析支持,我们希望能够建立统一的实时OLAP数据仓库,并提供一套安全、可靠的、灵活的实时数据服务。目前每日新增的曝光日志达到几亿条记录,再细拆到AB实验更细维度时,数据量则多达上百亿记录,多维数据组合下的聚合查询要求秒级响应时间,这样的数据量也给团队带来了不小的挑战。OLAP层的技术选型,需要满足以下几点:1:数据延迟在分钟级,查询响应时间在秒级2:标准SQL交互引擎,降低使用成本3:支持join操作,方便维度增加属性信息4:流量数据可以近似去重,但订单行要精准去重5:高吞吐,每分钟数据量在千W级记录,每天数百亿条新增记录6:前端业务较多,查询并发度不能太低通过对比开源的几款实时OLAP引擎,可以发现Doris和ClickHouse能够满足上面的需求,但是ClickHouse的并发度太低是个潜在的风险,而且ClickHouse的数据导入没有事务支持,无法实现exactly once语义,对标准SQL的支持也是有限的。所以针对以上需求Doris完全能解决我们的问题,DorisDB是一个性能非常高的分布式、面向交互式查询的分布式数据库,非常的强大,随着互联网发展,数据量会越来越大,实时查询需求也会要求越来越高,DorisDB人才需求也会越来越大,越早掌握DorisDB,以后就会有更大的机遇。本课程基于真实热门的互联网电商业务场景为案例讲解,具体分析指标包含:AB版本分析,下砖分析,营销分析,订单分析,终端分析等,能承载海量数据的实时分析,数据分析涵盖全端(PC、移动、小程序)应用。整个课程,会带大家实践一个完整系统,大家可以根据自己的公司业务修改,既可以用到项目中去,价值是非常高的。本课程包含的技术:开发工具为:IDEA、WebStormFlink1.9.0DorisDBHadoop2.7.5Hbase2.2.6Kafka2.1.0Hive2.2.0HDFS、MapReduceFlume、ZookeeperBinlog、Canal、MySQLSpringBoot2.0.8.RELEASESpringCloud Finchley.SR2Vue.js、Nodejs、Highcharts、ElementUILinux Shell编程等课程亮点:1.与企业接轨、真实工业界产品2.DorisDB高性能分布式数据库3.大数据热门技术Flink4.支持ABtest版本实时监控分析5.支持下砖分析6.数据分析涵盖全端(PC、移动、小程序)应用7.主流微服务后端系统8.天级别与小时级别多时间方位分析9.数据库实时同步解决方案10.涵盖主流前端技术VUE+jQuery+Ajax+NodeJS+ElementUI11.集成SpringCloud实现统一整合方案12.互联网大数据企业热门技术栈13.支持海量数据的实时分析14.支持全端实时数据分析15.全程代码实操,提供全部代码和资料16.提供答疑和提供企业技术方案咨询企业一线架构师讲授,代码在老师的指导下企业可以复用,提供企业解决方案。  版权归作者所有,盗版将进行法律维权。 

dinky+flink+doris实时架构全流程demo

flink+dinky+doris实现实时数仓

qq_41060328的博客 4498

flink+kafka+doris+springboot集成例子

1、springboot基于netty编写接收程序。

青春不流名 4150

Flink电商实时数仓项目部署上线

dws层已经把轻度聚合的结果保存到了Doris中,后续只要从Doris读取数据再做简单聚合即可。一个易于使用的流处理应用开发框架和一站式流处理操作平台和管理流应用。它提供了Flink和Spark编写流的脚手架。

qq_44273739的博客 710

TIS 数据同步案例教程:MySQL同步Doris案例介绍

TIS 实现了多数据源端到端的数据同步,使用批量和实时增量的方式。TIS经过多年精心打造,专注用户侧使用体验,在操作界面化、流程化上下了不少功夫。TIS有别于传统大数据ETL工具,它借鉴了DataOps、DataPipeline理念,对大数据ETL各个执行流程建模,将传统的ETL工具执行以黑屏化工具包的方式(json+命令行执行)升级到了白屏化2.0的产品化方式(系统借助底层的MetaData自动生成脚本,用户只需轻点鼠标,借助系统给出的提示快速录入配置),从而大大提高了工作效率。

学亮编程手记 1140

如何快速搭建一站式数据中台?LarkMidTable 零基础入门指南

LarkMidTable 是一款功能强大的一站式开源数据中台,能够帮助企业快速实现数据基础建设、数据治理、数据开发、监控告警、数据服务及可视化,高效赋能数据前台并提供稳定的数据服务。本文将带你从安装到配置,轻松上手这款数据中台利器! ## ???? 核心功能与技术架构 ### 1. 一站式数据中台解决方案 LarkMidTable 整合了数据处理全流程所需的核心能力,包括: - **数据集成**...

gitblog_00440的博客 527

Flink CDC同步mysql数据到doris

Flink CDC 是一个基于流的数据集成工具,旨在为用户提供一套功能更加全面的编程接口(API)。该工具使得用户能够以 YAML 配置文件的形式,优雅地定义其 ETL(Extract, Transform, Load)流程,并协助用户自动化生成定制化的 Flink 算子并且提交 Flink 作业。

qq_36070104的博客 1935

Flink Streaming ELT 同步 MySQL 到 DorisFlink CDC 3.2.1)及docker-compose部署doris

这篇教程将展示如何基于 Flink CDC 快速构建 MySQL 到 Doris 的 Streaming ELT 作业,包含整库同步、表结构变更同步和分库分表同步的功能。本教程的演示都将在 Flink CDC CLI 中进行,无需一行 Java/Scala 代码,也无需安装 IDE。

学亮编程手记 1537

Flink+Paimon+Hadoop+StarRocks(Doris)单机环境安装部署

本文主要介绍如何在单机本地安装部署Flink、Paimon、StarRocks(Doris)的相关大数据/数据湖环境,并结合简单测试用例介绍入门用法(方便玩转流式数据湖)。

Leonardo_KY的博客 4184

Flink CDC 将 MySQL 实时同步到 Doris

本文演示如何在本地机器上通过 Flink CDC CLI 构建一个 Streaming ELT 作业,将 MySQL 的全量 + 增量数据同步到 Doris,并覆盖三个关键能力:整库同步、Schema 演进、分表并表(路由合并)。全流程不需要写 Java/Scala 代码与 IDE,仅用标准 SQL(对源端造数)与 YAML 配置(对 CDC 管道)。

hello.reader 3002

Doris+Flink搭建数据平台

Doris\flink\shell\python\canal\sql

qq_42422698的博客 3477

基于Flink CDC Pipeline 3.1.0 实现Mysql实时同步到Doris

系列教程采用本地模式安装,本系列开发环境为Windows + WSL。检查Java环境Flink需要依赖java环境,部署Flink前需要检查本地是否已经具备Java环境(没有Java环境的请自行查阅资料完成)。选择最新版本的Flink,点击进入下载界面。使用命令完成下载。使用命令完成解压。使用命令进入到项目根目录下。Flink 附带了一个 bash 脚本,可以用于启动本地集群。在Flink项目根目录下,使用命令启动本地集群。,出现如上图界面,则代表我们完成了Flink环境的部署。使用命令。

学亮编程手记 1508

Flink Standalone 集群上运行 Flink CDC从下载到跑起一个 MySQL→Doris 同步任务

本文介绍了如何在Flink Standalone模式下快速搭建CDC数据同步环境,实现MySQL到Doris的实时数据同步。主要内容包括:1)Flink Standalone集群的安装部署;2)Flink CDC独立包的配置方法;3)通过YAML文件定义MySQL到Doris的同步流水线;4)任务提交和监控方法。文章还提供了生产环境实践建议,如server-id管理、权限配置、时区设置等,帮助用户快速构建稳定可靠的CDC数据同步系统。

hello.reader 1352
上一篇: Dinky集成Flink碰到的问题
拉格朗日徒弟柯西
博客等级 码龄8年 0粉丝 · 6原创
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值