Plink是一个基于Flink的流处理平台,旨在基于 [Apache Flink]封装构建上层平台。

提供常见的作业管理功能。如作业的创建,删除,编辑,更新,保存,启动,停止,重启,管理,多作业模板配置等。

Flink SQL 编辑提交功能。如 SQL 的在线开发,智能提示,格式化,语法校验,保存,采样,运行,测试,集成 Kafka 等。

由于项目刚刚启动,未来还有很长的路要走,让我们拭目以待。

在 Windows 上部署 Plink

Plink 进行独立单机部署,可以在 Windows 上进行部署,以下是部署的操作详情。

环境需求

操作系统

Windows

编译环境

Java 1.8 +

Maven 3.3 + (编译代码)

运行环境

Apache Flink 1.9 + (Standalone 模式)

MySQL 5.7 +

Java 1.8 +

安装 Java

版本: java 1.8+

JAVA_HOME 配置

安装详情: 略 。。。

安装 Maven

版本: maven 3.3 +

MAVEN_HOME 配置

安装详情: 略 。。。

安装 Mysql

版本: mysql 5.7+

安装建议: 建议 Docker 安装,命令如下:

docker run -p 3306:3306 --name plink-mysql -e MYSQL_ROOT_PASSWORD=123456 -d mysql:5.7

初始化脚本

进入 docker mysql 中,执行如下的 sql 语句,创建库和表。

https://github.com/hairless/plink/blob/master/plink-web/src/main/resources/META-INF/sql/mysql/plink_init.sql

远程授权

-- CREATE USER 'root'@'%' IDENTIFIED BY '1234567';

GRANT ALL PRIVILEGES ON *.* TO 'root'@'%';

FLUSH PRIVILEGES;

安装 Apache Flink

版本: flink-1.9.3-bin-scala_2.11(建议: 这里建议使用 1.9.x 版本,因为 1.10+ 版本在 windows 系统上不能开箱即用)

解压到合适的目录,假设该目录为 FLINK_HOME

环境变量配置 FLINK_HOME(必须,Plink 会用到该环境变量)

Flink 配置: 无需更改

启动: 执行 bin 目录下的脚本

start-cluster.bat

安装 Plink

项目编译

编译

git clone https://github.com/hairless/plink.git

cd plink

mvn clean package -Dmaven.test.skip=true

成功后在 plink/plink-dist/target/ 下会有一个 plink-${version}-bin.tar.gz 文件,如: plink-0.1-bin.tar.gz

解压

找到上面的 plink-${version}-bin.tar.gz 文件,找一个合适的目录,假设该目录为 PLINK_HOME 鼠标右键解压,然后切换到 PLINK_HOME 目录。

配置

进入 config 文件夹,可以编辑 application.yml, application-local.yml 等配置文件

配置 mysql 编辑 application-local.yml,配置 spring.datasource.xxx 等属性。如: 默认的 mysql url 地址为 jdbc:mysql://localhost:3306/plink?useUnicode=true&characterEncoding=utf-8

启动

打开 cmd 命令提示符,切换到 PLINK_HOME 目录

bin/run.bat start

关闭

打开 cmd 命令提示符,切换到 PLINK_HOME 目录

bin/run.bat stop

使用 Docker 部署 Plink

可以使用 Docker 进行部署 Plink,以下是部署的操作详情。

由于网路原因,当前镜像只上传到了阿里云。

环境

Java 1.8

Apache Flink 1.10.0

MySQL 5.7.28

plink:master

镜像大小: 1.46G

概述

当前为了快速获得测试效果,将 JDK,Flink,MySQL,Plink 全部打入到一个镜像了 - - 、

拉取镜像

docker pull registry.cn-hangzhou.aliyuncs.com/hairless/plink:master

启动镜像

docker run -ti -p 8666:8666 -p 8081:8081 --name plink -d registry.cn-hangzhou.aliyuncs.com/hairless/plink:master

本地 FLINK_HOME 覆盖 Docker 镜像中的 Flink,需在 docker 启动时加入参数 : -v FLINK_HOME:/opt/flink

访问

运行 Word Count 作业示例

在 Plink 上提交 Flink 自带的 flink-1.9.1\examples\streaming\WordCount.jar,然运行。

作业列表

新建作业

作业管理 -> 作业列表 -> 右侧按钮 -> 新建 -> 输入(作业名称/类型/描述) -> 新建。如下所示:

编辑作业

注意: 由于独立部署和容器化部署的 Flink 版本可能不一样,最好使用对应的 WordCount Jar 版本。

作业列表编辑或新建作业之后会自动跳转到编辑作业的页面。填写参数,上传 Jar,保存即可。如下所示:

作业详情

作业信息

确认自己作业的基础信息,作业配置,运行参数等。

2.作业实例

每一次作业运行时,都会产生一个作业实例。

启动作业

在作业详情页的右侧功能按钮点击启动,即可启动作业,同时页面会自动刷新(当前刷新频率为 1s)

待启动

启动中

运行中

运行成功

实例列表

实例列表可以看所有的作业实例运行历史信息。

更多Flink,Kafka等相关技术博文,科技资讯,欢迎关注实时流式计算 公众号后台回复 “电子书” 下载300页Flink实战电子书

plink源码_Plink v0.1.0 发布——基于Flink的流处理平台相关推荐

  1. plink源码_plink: 等位型计数(allele count)

    对genotype的等位型进行计数,需要用到以下参数: --freq Allele frequencies --countsModifies --freq to report actual allel ...

  2. plink源码_plink参数说明

    Plink: command-line connection utility Release 0.67 Usage: plink [options] [user@]host [command] (&q ...

  3. plink源码_plink源码_plink参数说明

    Plink: command-line connection utility Release 0.67 Usage: plink [options] [user@]host [command] (&q ...

  4. 一次令人吐血的ubuntu源码安装gcc-5.4.0经历

    ubuntu20.04源码安装gcc-5.4.0 虽然cilkplus已经被弃用了,但是因为代码里用到了cilkplus,所以还是要安装gcc-5.4.0,因为make一直不通过,整个过程费了好大功夫 ...

  5. motan源码分析一:服务发布及注册

    motan是新浪微博开源的服务治理框架,具体介绍请看:http://tech.sina.com.cn/i/2016-05-10/doc-ifxryhhh1869879.shtml. 本系列的文章将分析 ...

  6. php 7.0 编译安装mysql_源码编译安装php7.0.5

    源码编译安装php7.0.5 源码包下载地址 安装epel扩展yum源 [root@xuegod63 ~]# yum clean all [root@xuegod63 ~]# yum list 注:R ...

  7. ubuntu16.04源码安装opencv3.4.0

    ubuntu16.04源码安装opencv3.4.0 opencv下载地址:https://opencv.org/releases/page/3/ 1.下载安装包 2.安装依赖 sudo apt-ge ...

  8. 一款社区论坛小程序源码(修复登录图片发布上传问题)

    简介: 这是一款社区论坛小程序源码(修复登录图片发布上传问题) 内涵强大的功能 支持多种多样的发帖模式 比如发图文,发语音,发涂鸦,发视频等 另外也可以设置为只能会员才可以发 另外还拥有礼物功能,可以 ...

  9. 微趣能Weiqn(微信源码下载)V1.5.0.2beta官方版

    名称:微趣能Weiqn(微信源码下载)V1.5.0.2beta官方版 版本:1.5.0.2 软件大小:9.25 MB 软件语言:简体中文 软件授权:免费版 应用平台:Win8/Win7/WinXP 微 ...

最新文章

  1. 谈谈@@IDENTITY 和 SCOPE_IDENTITY()的区别
  2. python【蓝桥杯vip练习题库】ALGO-91 Anagrams问题
  3. assembly x86(nasm)画三角形等图形的实现(升级版)
  4. windows下使用docker(一)—— 安装
  5. 【Linux网络编程】原始套接字实例:MAC 地址扫描器
  6. java中Date与DateFormat的格式输出
  7. matlab 0到正无穷求和,1/k!k从0到无穷求和是多少
  8. 踩坑日记(一):半夜打DBA电话解决数据库连接超时自动回滚问题
  9. java中的map是什么_Java中Map的使用
  10. 华硕笔记本电脑突然失去WIFI功能
  11. 小米进军欧洲智能手机市场:一面是狂欢,一面是考验
  12. STM8L IAP升级过程记录
  13. Win10账户锁定的解除方法
  14. 禁止服务器windows的自动更新,Windows Server2016等服务器禁止自动更新及更新后自动重启的方法...
  15. 概念模型与关系模型和关系规范化
  16. 【合泰HT32火焰传感器报警】
  17. 网卡加到linux网桥,[Linux] ubuntu 14 通过网桥将无线网络桥接给有线网卡
  18. 多目标优化问题的研究概述(Matlab代码实现)
  19. AUTOCAD——中心线绘制、CAD默认线宽是多少?可以修改吗?
  20. FreeRTOS简介

热门文章

  1. C++中的const用法
  2. 【Android】技巧之像素换算
  3. 自媒体能赚钱吗,保持平常心啦
  4. 微信群发消息小工具 v1.0-可定时发送
  5. 基于MOS的防反接电路
  6. PHP 使用 QueryList + Redis 批量下载壁纸
  7. Spring Boot 定时任务 Scheduled(1. fixedDelay 2. fixedRate 3. initialDelay 4. cron Scheduled)
  8. 【SpringCloud(微服务)】SpringCloud基础
  9. web3类的介绍 | PHP实现ETH 1
  10. 双十一的一些技术思考