Azkaban介绍和安装,及简单使用

1.什么是Azkaban

Azkaban 是由 Linkedin 公司推出的一个批量工作流任务调度器，主要用于在一个工作流内以一个特定的顺序运行一组工作和流程，它的配置是通过简单的 key:value 对的方式，通过配置中的dependencies 来设置依赖关系。Azkaban 使用job 配置文件建立任务之间的依赖关系，并提供一个易于使用的 web 用户界面维护和跟踪你的工作流。

2.为什么使用Azkaban

兼容任何版本的 hadoop
易于使用的 Web 用户界面
简单的工作流的上传
方便设置任务之间的关系
调度工作流
模块化和可插拔的插件机制
认证/授权(权限的工作)
能够杀死并重新启动工作流
有关失败和成功的电子邮件提醒

3.ooize 和azkaban 特性对比

特性	Oozie	Azkaban
工作流描述语言	XML	text file with key/value pairs
是否要web 容器	Yes	Yes
进度跟踪	web page	web page
Hadoop job 调度支持	yes	yes
运行模式	daemon	daemon
事件通知	no	Yes
需要安装	Yes	Yes
支持的hadoop 版本	0.20+	currently unknown
重试支持	workflownode evel	yes
运行任意命令	yes	yes

4. Azkaban安装

1) 拷贝相关文件到linux文件夹下,如下

2)在/usr/local 下面创建Azkaban文件夹

[root@slave-4 local]# mkdir azkaban

3）解压 azkaban-web-server-2.5.0.tar.gz、 azkaban-executor-server-2.5.0.tar.gz、 azkaban-sql-script-2.5.0.tar.gz 到/usr/local/azkaban目录下

[root@slave-4 tmp]#  tar -zxvf azkaban-web-server-2.5.0.tar.gz -C /usr/local/azkaban/
[root@slave-4 tmp]#  tar -zxvf azkaban-executor-server-2.5.0.tar.gz -C /usr/local/azkaban/
[root@slave-4 tmp]#  tar -zxvf azkaban-sql-script-2.5.0.tar.gz -C /usr/local/azkaban/

4）对解压后的文件重新命名

[root@slave-4 azkaban]# mv azkaban-web-2.5.0/ server
[root@slave-4 azkaban]# mv azkaban-executor-2.5.0/ executor

5）azkaban 脚本导入

[root@slave-4 azkaban]$ mysql -uroot -p000000
mysql> create database azkaban;
mysql> use azkaban;
mysql> source /usr/local/azkaban/azkaban-2.5.0/create-all-sql-2.5.0.sql

6）生成密钥库

a. 生成 keystore 的密码及相应信息的密钥库（密钥库的密码至少必须 6 个字符，可以是纯数字或者字母或者数字和字母的组合等等密钥库的密码最好和<jetty> 的密钥相同，方便记忆）

[root@slave-4  azkaban]# keytool -keystore keystore -alias jetty -genkey -keyalg RSA

b.将keystore 拷贝到 azkaban web 服务器根目录中

[root@slave-4  azkaban]# mv keystore /usr/local/azkaban/server/

7) 配置文件(web)

a. 进入 azkaban web服务器安装conf目录，打开目录，打开 azkaban.properties文件

[root@slave-4  conf]# vim azkaban.properties

b. 按照如下配置修改 azkaban.properties文件

#Azkaban Personalization Settings
#服务器 UI名称,用于服务器上方显示的名字
azkaban.name=Test
#描述
azkaban.label=My Local Azkaban
#UI颜色
azkaban.color=#FF3601
azkaban.default.servlet.path=/index
#默认 web server存放 web文件的目录
web.resource.dir=/usr/local/azkaban/server/web/
#默认时区,已改为亚洲/上海 默认为美国
default.timezone.id=Asia/Shanghai #Azkaban UserManager class
user.manager.class=azkaban.user.XmlUserManager
#用户权限管理默认类（绝对路径）
user.manager.xml.file=/usr/local/azkaban/server/conf/azkaban-users.xml #Loader for projects
#global配置文件所在位置（绝对路径）
executor.global.properties=/usr/local/azkaban/executor/conf/global.properties
azkaban.project.dir=projects #数据库类型
database.type=mysql
#端口号
mysql.port=3306
#数据库连接 IP
mysql.host=cm
#数据库实例名
mysql.database=azkaban
#数据库用户名
mysql.user=root
#数据库密码
mysql.password=000000
#最大连接数
mysql.numconnections=100 # Velocity dev mode
velocity.dev.mode=false # Azkaban Jetty server properties.
# Jetty 服务器属性
#最大线程数
jetty.maxThreads=25
#Jetty SSL端口
jetty.ssl.port=8443
#Jetty端口
jetty.port=8081
#SSL文件名（绝对路径）
jetty.keystore=/usr/local/azkaban/server/keystore
#SSL文件密码
jetty.password=000000
#Jetty主密码与 keystore文件相同
jetty.keypassword=000000
#SSL文件名（绝对路径）
jetty.truststore=/usr/local/azkaban/server/keystore
#SSL文件密码
jetty.trustpassword=000000 # Azkaban Executor settings
executor.port=12321
# mail settings
mail.sender=
mail.host=
job.failure.email=
job.success.email= lockdown.create.projects=false cache.directory=cache

c.web 服务器用户配置

在azkaban web 服务器安装目录 conf 目录，按照如下配置修改azkaban-users.xml 文件，增加管理员用户。

[root@slave-4  conf] vim azkaban-users.xml
<azkaban-users>
<user username="azkaban" password="azkaban"  roles="admin" groups="azkaban" /> <user username="metrics" password="metrics" roles="metrics"/> <user username="admin" password="admin" roles="admin,metrics" /> <role name="admin" permissions="ADMIN" /> <role name="metrics" permissions="METRICS"/>
</azkaban-users>

8)执行服务器配置 (exec)

a.进入执行服务器安装目录 conf，打开azkaban.properties

[root@slave-4  conf]# vim azkaban.properties

b.按照如下配置修改 azkaban.properties 文件

#Azkaban
#时区
default.timezone.id=Asia/Shanghai # Azkaban JobTypes Plugins
#jobtype 插件所在位置
azkaban.jobtype.plugin.dir=plugins/jobtypes #Loader for projects
executor.global.properties=/usr/local/azkaban/executor/conf/global.properties
azkaban.project.dir=projects #数据库类型
database.type=mysql
#端口号
mysql.port=3306
#数据库连接 IP
mysql.host=cm
#数据库实例名
mysql.database=azkaban
#数据库用户名
mysql.user=root
#数据库密码
mysql.password=000000
#最大连接数
mysql.numconnections=100 # Azkaban Executor settings
#最大线程数
executor.maxThreads=50
#端口号(如修改,请与 web服务中一致)
executor.port=12321
#线程数
executor.flow.threads=30

9)启动

a.在executor 服务器目录下执行启动命令

[root@slave-4 executor]$ pwd
/usr/local/azkaban/executor
[root@slave-4 executor]$ bin/azkaban-executor-start.sh

b.在azkaban web 服务器目录下执行启动命令

[root@slave-4 server]$ pwd
/usr/local/azkaban/server
[root@slave-4 server]$ bin/azkaban-web-start.sh

注意：先执行executor，再执行web，避免Web Server 会因为找不到执行器启动失败。

启动完成后，在浏览器(建议使用谷歌浏览器)中输入https://服务器IP 地址:8443，即可访问azkaban 服务了。
在登录中输入刚才在 azkaban-users.xml 文件中新添加的户用名及密码，点击 login。

登陆界面

执行demo成功！