DolphinScheduler 2.0.7安装与使用及升级到3.0.1升级过程

集群化安装部署

集群规划

服务器安装的组件

ds01 Master, Worker, API

ds02 Master, Worker, Alert

ds03 Master, Worker

前置条件准备

需要软件

1，JDK（我们用的是1.8.0 安装过程不赘述）

2，数据库：MySQL（我们用的是MySQL 5.7.30-log 安装过程不赘述）

3，zookeeper（我们用的是3.5.5 安装过程不赘述）

4，下载DolphinScheduler 二进制包

下载地址： https://dolphinscheduler.apache.org/zh-cn/download/2.0.7

名称：apache-dolphinscheduler-2.0.7-bin.tar.gz

下载上传至服务器

可以用下面的命令得出下载文件的校验码与上方下载地址中的校验码进行比对校验

# sha512sum apache-dolphinscheduler-2.0.7-bin.tar.gz

解压缩DolphinScheduler 二进制包

#mkdir -p /自己的路径/dolphinscheduler2.0.7-bin

# tar zxvf /压缩包所在对应路径 /apache-dolphinscheduler-2.0.7-bin.tar.gz -C /自己的路径 /dolphinscheduler2.0.7-bin

Java环境

在集群所有节点修改/etc/profile配置文件，添加JDK环境变量

# vi /etc/profile

在配置文件末尾添加JAVA环境变量（若已经配置，可忽略）

JAVA_HOME=/apprun/jdk

JRE_HOME=$JAVA_HOME/jre

CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

PATH=$JAVA_HOME/bin:$JRE_HOME/bin:$PATH

立即生效

# source /etc/profile

创建DS用户

在自己的系统中创建一个【任意名字】的用户，用来部署DS创建部署用户，并且一定要配置 sudo 免密。

（注：因为任务执行服务是以 sudo -u {linux-user} 切换不同 linux 用户的方式来实现多租户运行作业，所以部署用户需要有 sudo 权限，而且是免密的。如果发现 /etc/sudoers 文件中有 "Defaults requirett" 这行，也请注释掉）

以创建 dolphinscheduler 用户为例

1，创建用户需使用 root 登录（注：接下来几步操作都需要用root用户操作）

$ useradd dolphinscheduler

2，添加密码

$ echo "dolphinscheduler" | passwd --stdin dolphinscheduler

3，配置 sudo 免密

$ sed -i '$adolphinscheduler ALL=(ALL) NOPASSWD: NOPASSWD: ALL' /etc/sudoers

$ sed -i 's/Defaults requirett/#Defaults requirett/g' /etc/sudoers

4，修改目录权限，使得部署用户对二进制包解压后的

apache-dolphinscheduler-*-bin 目录有操作权限

$ chown -R dolphinscheduler:dolphinscheduler apache-dolphinscheduler-*-bin

配置机器SSH免密登陆

修改集群hosts文件的过程不赘述

# su - dolphinscheduler

生成公钥和私钥：

$ ssh-keygen -t rsa

然后敲（三个回车），就会生成两个文件id_rsa（私钥）、id_rsa.pub（公钥）

将dolphinscheduler用户/home/dolphinscheduler/.ssh目录下的公钥文件内容添加到authorized_keys文件中，并修改文件权限为600

$ cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

$ chmod 600 ~/.ssh/authorized_keys

$ ll ~/.ssh/authorized_keys

将公钥拷贝到要免密登录的目标机器上(三台机器)

$ ssh-copy-id ds01

$ ssh-copy-id ds02

$ ssh-copy-id ds03

修改相关配置

根据你的机器环境修改配置文件。

修改 install_config.conf 文件

配置文件install_config.conf在DS2.0.7解压后的包目录/conf/config中。

注：如果resourcestorageType为HDFS 并且是高可用模式，则需要将core-site.xml和HDFS-site.xml放在conf目录下。

文件 install_config.conf 描述了:

哪些机器将被安装 DolphinScheduler 以及每台机器对应安装哪些服务。

想要安装的目标路径

用来完成安装工作的用户是谁

注册中心zookeeper的相关配置

元数据存储到的数据库

服务端相关配置，比如缓存，时区，前端端口号设置等

以及各种任务类型

如果您不使用某些任务类型，您可以忽略任务外部依赖项，但您必须根据您的环境更改 JAVA_HOME、注册中心和数据库相关配置。

需要配置master、worker、API server，所在服务器的IP均为机器IP或者localhost

# 如果是配置hostname的话，需要保证机器间可以通过hostname相互链接

# 如下所示，

部署 DolphinScheduler 机器的 hostname 为 ds01,ds02,ds03

其中 ds01,ds02,ds03 安装 master 服务，

ds01,ds02,ds03安装 worker 服务，alert server安装在ds02中，api server 安装在ds01中

ips="ds01,ds02,ds03"

masters="ds01,ds02,ds03"

workers="ds01:default,ds02:default,ds03:default"

alertServer="ds02"

apiServers="ds01"

# ssh端口号默认为22，如果ssh端口号不是22 那么修改为ssh对应的端口号就好

sshPort="22"

# DolphinScheduler安装路径，如果不存在会创建

installPath="目标安装位置/dolphinscheduler"

# 部署用户，填写在 **配置用户免密及权限** 中创建的用户

deployUser="dolphinscheduler"

# 用于存储上面配置的所有机器的本地数据的目录。确保用户deployUser具有读写该目录的权限

dataBasedirPath=“/tmp/dolphinscheduler”

# ---------------------------------------------------------

# DolphinScheduler ENV

# ---------------------------------------------------------

# JAVA_HOME 的路径，是在 **前置条件准备** 安装的JDK中 JAVA_HOME 所在的位置（注：可用$ echo $JAVA_HOME 来看一下是否已经配置并且生效）

javaHome="/your/java/home/here"

# 前端ui接入端口号也就是http://localhost:12345/dolphinscheduler中的这个可以自己修改但注意不要与本机其他端口重复

apiServerPort="12345"

# ---------------------------------------------------------

# Database

# ---------------------------------------------------------

# 数据库的类型，用户名，密码，IP，端口，元数据库db。

# 其中 DATABASE_TYPE 目前支持 mysql, postgresql, H2

# 请确保配置的值使用双引号引用，否则配置可能不生效

DATABASE_TYPE="mysql"

SPRING_DATASOURCE_URL="jdbc:mysql://ds1:3306/库名?useUnicode=true&characterEncoding=UTF-8"

#数据库用户名和密码

SPRING_DATASOURCE_USERNAME="？？？"

SPRING_DATASOURCE_PASSWORD="？？？"

# ---------------------------------------------------------

# Registry Server

# ---------------------------------------------------------

# 注册中心地址，zookeeper服务的地址

registryServers="localhost:2181"

# 存在zookeeper服务的服务器的ip及端口号

registryServers="ds01:2181,ds02:2181,ds03:2181"

# zookeeper注册名称空间

registryNamespace="dolphinschedulerxinbin207"

# ---------------------------------------------------------

# Worker Task Server

# ---------------------------------------------------------

#资源存储类型:HDFS、S3、NONE

resourceStorageType="HDFS"

#资源存储在HDFS/S3路径上，资源文件将存储在这个HDFS路径上，请确保该目录在HDFS上存在并且有读写权限

resourceUploadPath="/user/tmp/dolphinscheduler"

#如果resourcestorageType为HDFS 并且是高可用模式，

则需要将core-site xml和HDFS -site.xml放在conf目录下。

defaultFS="hdfs://nameservice1:8020"

# 如果yarn设置了高可用请设置HA ip，如果不是则该值为默认即可

yarnHaIps="172.21.18.242,172.21.18.217"

# 有权限在HDFs/S3- root路径下创建目录的用户

hdfsRootUser="hdfs"

修改 dolphinscheduler_env.sh 文件

配置文件dolphinscheduler_env.sh在DS2.0.7解压后的包目录/conf/env中。

该文件描述各环境变量，按需修改

export CDH_HOME=/home/apprun/install/CDH

export HADOOP_HOME=$CDH_HOME/lib/hadoop

export HADOOP_CONF_DIR=/etc/alternatives/hadoop-conf

export SQOOP_HOME=$CDH_HOME/lib/sqoop

export SPARK_HOME1=/opt/soft/spark1

export SPARK_HOME2=/opt/soft/spark2

export PYTHON_HOME=/opt/soft/python

export JAVA_HOME=/apprun/jdk

export HIVE_HOME=/opt/soft/hive

export FLINK_HOME=/opt/soft/flink

export DATAX_HOME=/opt/soft/datax

export PATH=$HADOOP_HOME/bin:$SPARK_HOME1/bin:$SPARK_HOME2/bin:$PYTHON_HOME/bin:$JAVA_HOME/bin:$HIVE_HOME/bin:$FLINK_HOME/bin:$DATAX_HOME/bin:$PATH

初始化DolphinScheduler数据库

1，移动jar包

DolphinScheduler 元数据存储在关系型数据库中，目前支持 PostgreSQL 和 MySQL，

如果使用 MySQL 则需要手动下载mysql 的jar包，这里我们用的是mysql-connector-java-6.0.6-bin.jar

下载后将其移动到 DS2.0.7解压后的包 lib目录下。

$ cp /你的路径/mysql-connector-java.jar /你的路径/apache-dolphinscheduler-2.0.7-bin/lib

创建MySQL的dolphinscheduler用户

$ mysql -uroot -p

注：这个创建的库要与install_config.conf配置文件中的mysql配置中的库名一样

mysql> CREATE DATABASE dolphinscheduler DEFAULT CHARACTER SET utf8 DEFAULT COLLATE utf8_general_ci;

# 修改 {user} 和 {password} 为你希望的用户名和密码

mysql> GRANT ALL PRIVILEGES ON dolphinscheduler.* TO '{user}'@'%' IDENTIFIED BY '{password}';

mysql> GRANT ALL PRIVILEGES ON dolphinscheduler.* TO '{user}'@'localhost' IDENTIFIED BY '{password}';

mysql> flush privileges;

通过安装包中给的 Shell 脚本来初始化数据库

$cd /你的路径/apache-dolphinscheduler-2.0.7-bin/bin

$sh script/create-dolphinscheduler.sh

所需软硬件环境备齐

DS用户创建完成

所需机器互相ssh免密打通

配置文件修改完毕

元数据库初始化完成

接下来就可以执行安装脚本了

执行安装脚本

执行前先替换一些脚本中的内容，具体如下：

1,把脚本中的sudo去掉

需要替换的脚本如下：

install.sh

script/scp_hosts.sh

2,然后执行安装脚本

$ sh /你的路径/apache-dolphinscheduler-2.0.7-bin/install.sh

执行的时候可以采用 sh install.sh >> tmp.log 把执行过程信息写到日志文件，便于查看

启动

启动zookeeper

2，启动 DolphinScheduler

$ cd /~/apache-dolphinscheduler-2.0.7-bin/bin/

$ sh install.sh

浏览器访问地址 http://api所在的服务器ip:自己设置的端口号/dolphinscheduler/ui/login 即可登录系统UI。

例： http://localhost:12345/dolphinscheduler

默认的用户名和密码是 admin/dolphinscheduler123

DolphinScheduler 2.0.7升级至3.0.1

以三台机器为例，集群化升级部署

环境及所需软件

沿用之前的即可:

Mysql(5.7.30)

Zookeeper(3.5.5)

Java环境 jdk(1.8.0)

Hadoop (3.0.0)

Hdfs

Hive(2.1.1)

1,下载DolphinScheduler 二进制包

下载地址： https://dolphinscheduler.apache.org/zh-cn/download/3.0.1

名称：apache-dolphinscheduler-3.0.1-bin.tar.gz

2,下载上传至服务器

可以用下面的命令得出下载文件的校验码与上方下载地址中的校验码进行比对校验

# sha512sum apache-dolphinscheduler-3.0.1-bin.tar.gz

3,解压缩DolphinScheduler 二进制包

#mkdir -p /自己的路径/dolphinscheduler3.0.1-bin

# tar zxvf /压缩包所在对应路径 /apache-dolphinscheduler-3.0.1-bin.tar.gz -C /自己的路径 /dolphinscheduler3.0.1-bin

建议先进行操作

复制mysql jar包到解压目录每个服务的libs/目录下

复制hdfs-site.xml、core-site.xml文件到解压目录每个服务的conf/目录下

修改相关配置文件

共需修改4个文件，分别是：

1,/~/bin/env/install_env.sh

2,/~/bin/env/dolphinscheduler_env.sh

3,每个服务的conf目录下。

/~/Api、worker、master、alert、tools/conf/common.properties

4,/~/api-server/conf/application.yaml

如果resource.storage.type=HDFS且高可用已启用，务必复制core-site.xml 和 hdfs-site.xml 放置到 ./conf/目录下

修改 install_env.sh 文件

对应2.0.7包目录的/conf/config/install_config.conf文件

按照对应项平移过来即可

文件 install_env.sh 描述了哪些机器将被安装 DolphinScheduler 以及每台机器对应安装哪些服务。

# ---------------------------------------------------------

# INSTALL MACHINE

# ---------------------------------------------------------

# 由于主服务器、工作服务器和API服务器部署在单个节点上，服务器的IP是机器IP或localhost

# 集群所有服务器ip

ips="ds01,ds02,ds03"

# ssh端口号

sshPort="22"

# 启用master服务的服务器ip

masters="ds01,ds02,ds03"

# 启用worker服务的服务器ip

workers="ds01:default,ds02:default,ds03:default"

# 启用alertServer服务的服务器ip

alertServer="ds02"

# 启用apiServers服务的服务器ip

apiServers="ds01"

# DolphinScheduler安装路径，

如果不存在，将自动创建installPath=~/ DolphinScheduler（最好改成对应版本的名称方便后期管理）例：

installPath=~/dolphinscheduler301

# **配置机器SSH无密码登录**（沿用上方2.0.7所创建的用户）

deployUser="dolphinscheduler"

修改 dolphinscheduler_env.sh 文件

对应2.0.7包目录的/conf/config/install_config.conf

与2.0.7包目录的/conf/env/dolphinscheduler_env.sh

的这两个文件

按照对应关系平移过来

引用官方的说明：

dolphinscheduler_env.sh 描述了下列配置：

数据库配置
一些任务类型外部依赖路径或库文件，如 JAVA_HOME 和 SPARK_HOME都是在这里定义的
注册中心zookeeper
服务端相关配置，比如缓存，时区设置等

如果您不使用某些任务类型，您可以忽略任务外部依赖项，但您必须根据您的环境更改 JAVA_HOME、注册中心和数据库相关配置。

本地dolphinscheduler_env.sh脚本配置项修改如下

$ cd /~/dolphinscheduler/apache-dolphinscheduler-3.0.1-bin/bin/env

$ vim dolphinscheduler_env.sh

（在2.0.7的install_config.conf中有对应）

# jdk所在目录

export JAVA_HOME=${JAVA_HOME:-/opt/soft/java}

# 数据库相关

export DATABASE=${DATABASE:-mysql}

export SPRING_PROFILES_ACTIVE=${DATABASE}

export SPRING_DATASOURCE_URL="jdbc:mysql://172.21.18.68:3306/数据库名?characterEncoding=UTF-8&allowMultiQueries=true"

export SPRING_DATASOURCE_USERNAME={user}

export SPRING_DATASOURCE_PASSWORD={password}

# 服务器相关

export SPRING_CACHE_TYPE=${SPRING_CACHE_TYPE:-none}

export SPRING_JACKSON_TIME_ZONE=${SPRING_JACKSON_TIME_ZONE:-UTC}

(查阅资料说不改成GMT+8会产生任务定时、依赖等的时间错误，我都是修改了的)

export MASTER_FETCH_COMMAND_NUM=${MASTER_FETCH_COMMAND_NUM:-10}

#Zookeeper 相关

export REGISTRY_TYPE=”zookeeper”

export REGISTRY_ZOOKEEPER_CONNECT_STRING="ds01:2181,ds02:2181,ds03:2181"

# 环境相关

export HADOOP_HOME=${HADOOP_HOME:-/opt/soft/hadoop}

export HADOOP_CONF_DIR=${HADOOP_CONF_DIR:-/opt/soft/hadoop/etc/hadoop}

export SPARK_HOME1=${SPARK_HOME1:-/opt/soft/spark1}

export SPARK_HOME2=${SPARK_HOME2:-/opt/soft/spark2}

export PYTHON_HOME=${PYTHON_HOME:-/opt/soft/python}

export HIVE_HOME=${HIVE_HOME:-/opt/soft/hive}

export FLINK_HOME=${FLINK_HOME:-/opt/soft/flink}

export DATAX_HOME=${DATAX_HOME:-/opt/soft/datax}

export PATH=$HADOOP_HOME/bin:$SPARK_HOME1/bin:$SPARK_HOME2/bin:$PYTHON_HOME/bin:$JAVA_HOME/bin:$HIVE_HOME/bin:$FLINK_HOME/bin:$DATAX_HOME/bin:$PATH

修改 common.properties 文件

路径在安装目录./api-server/conf/下 common.properties

因为3.0系使用微服务架构，每个组件都有单独的目录

所以在common.properties修改完毕后需要复制到各个服务的目录的conf目录下：

api-server/conf/

alert-server/conf/

master-server/conf/

Tools/conf/

worker-server/conf/

#用户数据本地目录路径，请确保该目录存在并具有读写权限（经测试该值不能带双引号，带双引号，在执行任务时，会创建不了临时目录从而导致任务执行失败）

data.basedir.path=/data/install/dsxinbin301/tmp/dolphinscheduler

#资源存储类型:HDFS、S3、NONE

resource.storage.type=HDFS

#资源存储在HDFS/S3路径上，资源文件将存储在这个基本路径上，自我配置，

请确保该目录在HDFS上存在并且具有读写权限。注：升级调度时，该值必须与上个版本的一致，且不能带双引号，带双引号，在会导致DS不能识别HDFS上的资源

resource.storage.upload.base.path=/user/tmp/dolphinscheduler

#如果resource.storage.type=HDFS，下面的用户必须有权限在HDFS根路径下创建目录

resource.hdfs.root.user=hdfs

#如果resource.storage.type=HDFS且namenode HA已启用，需要复制core-site.xml 和 hdfs-site.xml 放置到 ./conf/目录下 (注：HDFS找不到资源是需要设置配置文件hdfs://高可用别名:8020 高可用别名在core-site.xml文件中)

resource.hdfs.fs.defaultFS=hdfs://nameservice1:8020

# yarn服务的端口号

resource.manager.httpaddress.port=8088

# 如果resource.manager 高可用已启用，请设置为高可用服务器的ip;如果不是，则该值为空

yarn.resourcemanager.ha.rm.ids="172.21.18.242,172.21.18.217"

在api-server下修改完成后拷贝到别的服务的conf目录下

cp /~/apache-dolphinscheduler-3.0.1-bin/api-server/conf/common.properties /~/apache-dolphinscheduler-3.0.1-bin/alert-server/conf/

cp /~/apache-dolphinscheduler-3.0.1-bin/api-server/conf/common.properties /~/apache-dolphinscheduler-3.0.1-bin/master-server/conf/

cp /~/apache-dolphinscheduler-3.0.1-bin/api-server/conf/common.properties /~/apache-dolphinscheduler-3.0.1-bin/tools/conf/

cp /~/apache-dolphinscheduler-3.0.1-bin/api-server/conf/common.properties /~/apache-dolphinscheduler-3.0.1-bin/worker-server/conf/

修改 api服务端口号

前端页面的端口号修改在api-server/conf/application.yaml中

port: 12345

按需修改成对应值即可

升级DolphinScheduler数据库

停止现有服务

进入2.0.7的安装位置目录

通过 ./bin/stop-all.sh 来停止服务

2，备份数据

2.0.7版本的服务停止后，原有的安装目录保持不动即可

备份存在MySQL中的2.0版本的元数据

可以采用以下命令将元数据保存到本地

$ mysqldump -h ip -u root -p password 数据库名 > /~/ds207.db

这样如果元数据升级发生错误，可以通过以下方式恢复到库中

1,删除升级失败的元数据库

Mysql>drop database <数据库名>;

2,重建同名的元数据库【注：数据库名一定要与之前的一致】

Mysql>CREATE DATABASE <数据库名> DEFAULT CHARACTER SET utf8mb4 DEFAULT COLLATE utf8mb4_general_ci;

3,导入之前的数据

命令行方式：

$ mysql -h ip -u root -p password 数据库名 < /~/ds207.db

soure方式：

Mysql>use 数据库名

Mysql>source /~/ds207.db

数据库升级

1,将mysql-connector的jar包(6.0.6)移动到 DolphinScheduler3.0.1 的每个模块的 libs 目录下

其中包括

api-server/libs

alert-server/libs

master-server/libs

worker-server/libs

tools/libs

【本地mysql-connector的jar包版本是6.0.6，可用】

$cp /jar所在路径/mysql-connector-java-6.0.6-bin.jar /解压后3.0.1包所在的路径/apache-dolphinscheduler-3.0.1-bin/api-server/libs/

$cp /jar所在路径/mysql-connector-java-6.0.6-bin.jar /解压后3.0.1包所在的路径/apache-dolphinscheduler-3.0.1-bin/alert-server/libs

$cp /jar所在路径/mysql-connector-java-6.0.6-bin.jar /解压后3.0.1包所在的路径/apache-dolphinscheduler-3.0.1-bin/master-server/libs

$cp /jar所在路径/mysql-connector-java-6.0.6-bin.jar /解压后3.0.1包所在的路径/apache-dolphinscheduler-3.0.1-bin/worker-server/libs

$cp /jar所在路径/mysql-connector-java-6.0.6-bin.jar /解压后3.0.1包所在的路径/apache-dolphinscheduler-3.0.1-bin/tools/libs

升级方法1：使用官方脚本（为本次升级方法）

使用官方给出的数据库升级脚本，按照官方的方法升级。

在上方配置文件都修改完毕后，执行安装目录下/tools/bin/upgrade-schema.sh脚本

进行数据库升级

执行安装脚本

执行前先替换一些脚本中的内容，具体如下：

1.把脚本中的sudo去掉

需要替换的脚本如下：

./bin/install.sh

./bin/scp-hosts.sh

然后执行安装脚本

$sh /~/apache-dolphinscheduler-3.0.1-bin/bin/install.sh

执行的时候可以采用 sh install.sh >> tmp.log 把执行过程信息写到日志文件，便于查看

2.安装成功后，一般所有的服务都会已经启动，检查各服务器上的对应服务是否成功启动，过段时间再用 $ jps 命令查看一下是否有服务掉线，如果有，检查是否上方配置中zookeeper相关配置有问题

注意：如果相关配置有问题所有修改、添加文件等操作都需要在原始解压的目录下进行

修改后先停止服务然后进入原始解压的目录下

$ ./bin/install

重新执行安装派发任务这样才能保证DS集群中所有服务器被统一修改

启动

1，启动zookeeper

2，启动 DolphinScheduler

$ cd /配置文件中设置的安装目录/bin/

$ sh start-all.sh

浏览器访问地址 http://ds01:12345/dolphinscheduler/ui/login 即可登录系统UI。

默认的用户名和密码是 admin/dolphinscheduler123

服务启停

一键停止集群所有服务

sh ./bin/stop_all.sh

一键开启集群所有服务

sh ./bin/start_all.sh

启停Master

sh ./bin/dolphinscheduler-daemon.sh start master-server

sh ./bin/dolphinscheduler-daemon.sh stop master-server

启停Worker

sh ./bin/dolphinscheduler-daemon.sh start worker-server

sh ./bin/dolphinscheduler-daemon.sh stop worker-server

启停Api

sh ./bin/dolphinscheduler-daemon.sh start api-server

sh ./bin/dolphinscheduler-daemon.sh stop api-server

启停Logger

sh ./bin/dolphinscheduler-daemon.sh start logger-server

sh ./bin/dolphinscheduler-daemon.sh stop logger-server

启停Alert

sh ./bin/dolphinscheduler-daemon.sh start alert-server

sh ./bin/dolphinscheduler-daemon.sh stop alert-server

问题

1，目录权限问题：

发现安装后的目录每台服务器的安装目录/worker-server/conf/ 目录及目录下的所有文件都存在权限不足的问题

解决方法：

$ su apprun

$ cd /data/install/dsxinbin301/worker-server/

$ chmod 755 conf/

$ cd conf/

$ chmod 644 *

在使用apprun用户给足权限后即恢复正常

深究发现是3.0.1版本官方安装worker脚本中有问题