Docker-Compose搭建consul集群环境

一、Compose consul的概述

1.Compose是什么？

2.Docker Compose容器编排

3.Docker Compose配置常用字段

4.Docker Compose常用命令

二、Consul的概述

1.consul是什么

2.Consul容器服务更新与发现

三、部署Compose

1.准备条件

2.compose部署

3.编写dockerfile文件

4.编写docker-compose.yml

5.浏览器访问

四、Consul部署

1.准备条件

2.部署consul服务

3.容器服务自动加入consul集群

4.安装 consul-template

5.配置并启动 template

6.测试增加容器节点

一、Compose consul的概述

1.Compose是什么？

Docker Compose的前身是fig，他是一个定义及运行多个Docker容器的工具，使用Docker Compose不需要使用shell脚本来启动容器；Docker Compose非常适合组合多个容器进行开发的场景

2.Docker Compose容器编排

YAML是一种标记语言很直观的数据序列化格式

文件格式及编写注意事项：

不支持制表符tab键缩进,需要使用空格缩进

通常开头缩进2个空格

字符后缩进1个空格,如冒号、逗号、横杆

用#号注释

如果包含特殊字符用单引号弓|起来

布尔值必须用引号括起来

3.Docker Compose配置常用字段

字段	描述
build dockerfile context	指定Dockerfile文件名构建镜像.上下文路径
image	指定镜像
command	执行命令，覆盖默认命令
container name	指定容器名称，由于容器名称是唯一的，如果指定自定义名称，则无法scale
deploy	指定部署和运行服务相关配置，只能在Swarm模式使用
environment	添加环境变量
networks	加入网络
ports	暴露容器端口，与-p相同，但端口不能低于60
volumes	挂载宿主机路径或命令卷
restart	重启策略，默认no,always, no-failure,unless-stoped
hostname	容器主机名

4.Docker Compose常用命令

字段	描述
build	重新构建服务
ps	列出容器
up	创建和启动容器
exec	在容器里面执行命令
scale	指定一个服务容器启动数量
top	显示容器进程
logs	查看容器输出
down	删除容器、网络、数据卷和镜像
stop/start/restart	停止/启动/重启服务

二、Consul的概述

1.consul是什么

Consul是HashiCorp公司推出的开源工具，用于实现分布式系统的服务发现与配置

Consul的特性：

支持健康检查，允许存储键值对
基于Golong语言，可移植性强
支持ACL访问控制

2.Consul容器服务更新与发现

consul服务端：

consul template：通过变量定义模板；定义的内容就是upstream地址池，通过变量的形式，并在接收到指令的时候动态更新web_01中ng的配置文件

consul server：管理consul template

consul agent：获取服务发现的机制；UI界面也可以看到新更新的服务

compose：

consul registrator：监听；部署在server端上

过程：设置registrator监控，监听服务端口，有新的端口监控会注册到agent，交给server端，把后端真实的容器和ip写入template模板内，模板更新到nginx.conf内，再重载配置文件，从而对外识别新加的服务后端的节点：docker服务器

三、部署Compose

1.准备条件

主机	IP 地址	需要安装的软件
主节点	192.168.150.10	docker-ce、docker-compose

2.compose部署

[root@docker ~]# cd compose
[root@docker compose]# rz -E   #上传docker-compose相关软件包
rz waiting to receive.
[root@docker compose]# ls
docker-compose
[root@docker compose]# cp -p docker-compose /usr/local/bin/
[root@docker compose]# chmod +x /usr/local/bin/docker-compose

3.编写dockerfile文件

[root@docker compose]# mkdir nginx
[root@docker compose]# cd nginx
[root@docker nginx]# vim Dockerfile
FROM centos:7
ADD nginx-1.12.2.tar.gz /mnt
WORKDIR /mnt/nginx-1.12.2
RUN yum install -y gcc pcre pcre-devel devel zlib-devel make &> /dev/null && \yum clean all && \sed -i 's/CFLAGS="$CFLAGS -g"/#CFLAGS="$CFLAGS -g"/g' auto/cc/gcc && \./configure --prefix=/usr/local/nginx &> /dev/null && \make &> /dev/null && make install &> /dev/null &&\rm -rf /mnt/nginx-1.12.2
EXPOSE 80
VOLUME ["/usr/local/nginx/html"]
CMD ["/usr/local/nginx/sbin/nginx","-g","daemon off;"][root@docker compose]# mkdir wwwroot
[root@docker compose]# ls
nginx  docker-compose  wwwroot
[root@docker compose]# cd wwwroot
[root@docker wwwroot]# vim index.html
this is a test

4.编写docker-compose.yml

[root@docker docker]# vim docker-compose.yml
version: '3'
services:nginx:hostname: nginxbuild:context: ./nginxdockerfile: Dockerfileports:- 1216:80- 1217:443networks:- clustervolumes:- ./wwwroot:/usr/local/nginx/html
networks:cluster:[root@consul compose]# docker-compose -f docker-compose.yml up -d  #基于yml文件运行启动
[root@consul compose]# docker-compose ps                          #使用Compose容器编排Name                   Command               State                               Ports
------------------------------------------------------------------------------------------------------------------------
docker_nginx_1   /usr/local/nginx/sbin/ngin ...   Up      0.0.0.0:1217->443/tcp,:::1217->443/tcp,                       0.0.0.0:1216->80/tcp,:::1216->80/tcp

5.浏览器访问

四、Consul部署

1.准备条件

ip	服务器
192.168.150.10	Docker-ce、 Compose 3、Consul、 Consul-template
192.168.150.100	Docker-ce、registrator

2.部署consul服务

[root@consul ~]# mkdir consul
[root@consul consul]# rz -E     #上传consul_0.9.2_linux_amd64.zip相关软件包
rz waiting to receive.
[root@consul consul]# unzip consul_0.9.2_linux_amd64.zip  #解压软件包
[root@consul consul]# ls
consul  consul_0.9.2_linux_amd64.zip
[root@consul consul]# mv consul /usr/bin
[root@consul consul]# consul agent \
> -server \
> -bootstrap \
> -ui \
> -data-dir=/var/lib/consul-data \
> -bind=192.168.150.10 \
> -client=0.0.0.0 \
> -node=consul-server01 &> /var/log/consul.log &[root@consul consul]# consul members    #查看集群信息
Node             Address              Status  Type    Build  Protocol  DC
consul-server01  192.168.150.10:8301  alive   server  0.9.2  2         dc1

##通过httpd api 获取集群信息
curl 127.0.0.1:8500/v1/status/peers      //查看集群server成员
curl 127.0.0.1:8500/v1/status/leader     //集群 Raf leader
curl 127.0.0.1:8500/v1/catalog/services  //注册的所有服务
curl 127.0.0.1:8500/v1/catalog/nginx     //查看 nginx 服务信息

3.容器服务自动加入consul集群

安装 Gliderlabs/Registrator Gliderlabs/Registrator
可检查容器运行状态自动注册，还可注销 docker 容器的服务到服务配置中心。
目前支持 Consul、Etcd 和 SkyDNS2。

在 192.168.150.100节点，执行以下操作

[root@docker ~]# docker run -d \
--name=registrator \
--net=host \
-v /var/run/docker.sock:/tmp/docker.sock \
--restart=always \
gliderlabs/registrator:latest \
-ip=192.168.150.100 \
consul://192.168.150.10:8500

测试服务发现功能是否正常

docker run -itd -p:83:80 --name test-01 -h test01 nginx
docker run -itd -p:84:80 --name test-02 -h test02 nginx
docker run -itd -p:88:80 --name test-03 -h test03 httpd
docker run -itd -p:89:80 --name test-04 -h test04 httpd

4.安装 consul-template

Consul-Template 是一个守护进程，用于实时查询 Consul 集群信息，并更新文件系统上任意数量的指定模板，生成配置文件。更新完成以后，可以选择运行 shell 命令执行更新操作，重新加载 Nginx。Consul-Template 可以查询 Consul 中的服务目录、Key、Key-values
这种强大的抽象功能和查询语言模板可以使 Consul-Template 特别适合动态的创建配置文件。

准备 template nginx 模板文件

回到consul服务器上操作

[root@consul consul]# vim /root/consul/nginx.ctmpl
upstream http_backend {{{range service "nginx"}}server {{.Address}}:{{.Port}};          #此处引用的变量会指向后端的地址和端口（动态变化）{{end}}
}server {listen 83;                                  #ngixn的监听端口server_name localhost 192.168.150.10;            #反向代理的IP地址(前端展示的NG服务的IP)access_log /var/log/nginx/klj.cn-access.log;index index.html index.php;location / {proxy_set_header HOST $host;proxy_set_header X-Real-IP $remote_addr;     #后端真实IPproxy_set_header Client-IP $remote_addr;    proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;    #转发地址proxy_pass http://http_backend;}
}

编译安装nginx

yum install gcc pcre-devel zlib-devel -y
tar zxvf nginx-1.12.0.tar.gz  -C /opt
./configure --prefix=/usr/local/nginx
make && make install

配置 nginx

[root@consul ~]# vim /usr/local/nginx/conf/nginx.conf
...
http {include       mime.types;     #默认存在的include       vhost/*.conf;    #第18行下面添加虚拟主机目录default_type  application/octet-stream;[root@consul ~]# mkdir /usr/local/nginx/conf/vhost      #创建虚拟主机目录
[root@consul ~]# mkdir /var/log/nginx                  #创建日志文件目录
[root@consul ~]# ln -s /usr/local/nginx/sbin/nginx /usr/sbin
[root@consul ~]# nginx                                 #启动nginx

5.配置并启动 template

[root@consul ~]# cd consul
[root@consul consul]# rz -E    #上传consul-template相关软件包
[root@consul consul]# unzip consul-template_0.19.3_linux_amd64.zip  #解压
[root@consul consul]# ls
consul-template  consul-template_0.19.3_linux_amd64.zip ...
[root@consul consul]# mv consul-template /usr/bin/

关联nginx 虚拟目录中的子配置文件操作

[root@consul consul]# consul-template -consul-addr 192.168.150.10:8500 \
> -template "/root/consul/nginx.ctmpl:/usr/local/nginx/conf/vhost/kgc.conf:/usr/local/nginx/sbin/nginx -s reload" \
> --log-level=info注：次命令会一直处于监听状态，所以另开一个终端查看

[root@consul consul]# ls /usr/local/nginx/conf/vhost/
kgc.conf            [root@consul consul]# cat kgc.conf   #此时会生成一个kgc.conf的文件，里面是nginx信息
upstream http_backend {server 192.168.150.100:83;server 192.168.150.100:84;
...

6.测试增加容器节点

增加一个 nginx 容器节点，测试服务发现及配置更新功能
#在registrator服务端注册

[root@docker ~]# docker run -itd -p 85:80 --name test-05 -h test05 nginx
ff256f6ccd41588d9cacb7abf12578e3b009cac1c062bcc90372300eaa535e75

consul在iu界面已检测到

再看一个刚才生成的kgc.conf文件也是否检测的到

[root@consul vhost]# cat kgc.conf
upstream http_backend {server 192.168.150.100:83;server 192.168.150.100:84;server 192.168.150.100:85;
...