织梦安防网站源码,wordpress表excel插件,网络营销的推广工具,网站模版源代码ELK之zookeeper 一、Zookeeper是什么#xff1f;1、Zookeeper服务集群的条件2、Zookeeper工作机制3、Zookeeper数据结构4、Zookeper特点5、Zookeeper选举机制5.1 第一次启动选举机制5.2 非第一次启动选举机制5.3 总结 6、Zookeeper应用场景 二、Zookeeper集群部署1、环境部署1… ELK之zookeeper 一、Zookeeper是什么1、Zookeeper服务集群的条件2、Zookeeper工作机制3、Zookeeper数据结构4、Zookeper特点5、Zookeeper选举机制5.1 第一次启动选举机制5.2 非第一次启动选举机制5.3 总结 6、Zookeeper应用场景 二、Zookeeper集群部署1、环境部署1.1 环境架构1.2 关闭防火墙修改主机名 2、安装Zookeeper服务2.1 安装环境解压软件2.2 修改Zookeeper配置配置文件2.3 设置myid号以及启动脚本 一、Zookeeper是什么
ZooKeeper是一种分布式应用所涉及的高可用、高性能且一致性的开源协调服务它提供了一项基本服务分布式锁服务。分布式应用可以基于它实现更高级的服务实现诸如同步服务、配置维护和集群管理或者命名的服务。
1、Zookeeper服务集群的条件
Zookeeper服务自身组成集群2n1个奇数主机。在集群中允许n个主机宕机只要集群中有一半以上的机器可用zookeeper集群就可用
#比如
1、假如zookeeper为3台机器组成的集群那么就可以允许失效一台如果失效了2台就会导致zookeeper集群不可用。
2、所以在搭建zookeeper集群时主机数需要为奇数。
3、奇数的目的为了提高容错能允许多损失一台。2、Zookeeper工作机制
Zookeeper从设计模式角度来理解
是一个基于观察者模式设计的分布式服务管理框架它负责存储和管理大家都关心的数据然后接受观察者的注册一旦这些数据的状态发生变化Zookeeper就将负责通知已在Zookeeper上注册的那些观察者做出相应的反应。
也就是说Zookeeper文件系统通知机制。
文件系统 就是将存储的数据通过zookeeper的文件系统进行存储到各个节点上。通知机制 当某个节点出现故障zookeeper会将信息通知到客户端上。
总结每个节点服务器都会在zookeeper中进行注册登记client也获取当前在线服务器的列表也会在zookeeper上进行注册登记client在zookeeper集群上存储的数据。都会通过文件系统分布式存储到各个集群节点中当集群中某个节点出现故障zookeeper也会通知到client客户端。
3、Zookeeper数据结构
Zookeeper数据模型的结构与linux文件系统很类似整体上可以看作时一棵树每个节点乘坐一个Znode。
每个znode默认能存储1mb的数据每个znode都可以通过其路径唯一标识。
4、Zookeper特点 Zookeeper 一个领导者Leader多个跟随者Follower组成的集群 Zookeeper集群中只有半数以上节点存储Zookeeper集群就能正常服务所以Zookeeper适合安装奇数台服务器。 全局数据一致性 每个server保存一份相同的数据副本client无论连接到哪个server数据都是一致的。 更新请求顺序执行 来自同一个client的更新请求按其发送顺序依次执行即先进先出。 数据更新原子性 一次数据更新要么成功要么失败。 实时性 在一定范围内client能读到最新数据
总结zookeeper集群中有一个lleader和多个follower且zookeeper集群具有数据的一致性、原子性、实时性。且数据更新时按照发送顺序进行更新。
5、Zookeeper选举机制
5.1 第一次启动选举机制
1、服务器1启动发起一次选举。服务器1投自己一票。
此时服务器1的票数为1票不够半数以上5台节点半数2.5选举无法完成服务器1状态保持为LOOKING
2、服务器2启动再发起一次选举服务器1和2分别投自己1票并交换选票信息。
此时服务器1发现服务器2的myid比自己投票的服务器myid要大所以将票投给服务器2.此时服务器1有0票服务器2有2票不够半数选举无法完成服务器1和2都保持looking状态。
3、服务器3启动发起一次选举。
服务器1和2发现服务器3的myid最大就将选票信息投给服务器3.此时服务器1和2都有0票。服务器3有3票超过半数服务器3称为leader服务器1和2更换状态为following。
4、服务器4启动发起一次选举此时服务器123已不是looking状态不会更改选票信息。
此时服务器3为3票服务器4为1票此时服务器服从多数更改修选票信息为服务器3并更改状态为following。
5、服务器5启动情况和4一样状态为following。
5.2 非第一次启动选举机制
1、当zookeerper集群中一台服务器出现一下两种请款之一时就会开始进行leader选举。
服务器初始化启动第一次启动选举机制服务器运行期间无法和leader保持连接不知道leader是否已经产生了或者leader宕机
2、当一台机器进入leader选举流程时当前集群也可能处于一下两种状态。
①集群中本来就已经存储一个leader
对于已存在leader的情况机器试图去选举时被会告知当前服务器的leader信息对于该机器来说仅仅需要和leader机器建立连接并进行状态同步即可。
②集群中leader宕机了。
假设zookeeper由5台服务器组成SID分别为12345。ZXID分别为8887.并且此时SID为3的服务器时leader。某一时刻当3和5都出现故障时因此又重新开始选举。
#选举leader的规则
1、EPOCH大的直接胜出。
2、EPOCH相同事务ID(ZXID)大的胜出.
3、ZXID相同服务器ID大的胜出----------------名词解释-----------------------
#1、SID:
服务器ID用来标识一台Zookeeper集群中的机器每台机器不能重复和myid一致。#2、ZXID
事务IDZXID是一个事务ID用来标识一次服务器状态的变更在某一时刻集群中的每台机器的ZXID值不一定完全一致这和Zookeeper服务器对于客户端“更新请求”的处理逻辑速度有关。#2、Epoch
每个leader任期的代号没有leader时选举方式跟第一次启动方法相同每投完一次一票这个数据就会增加。5.3 总结 第一次启动选举机制 主要需要看启动顺序再看他的myid只要选举票数超过半数就会选举出一个leader。新加的机器都会指向这个leader 非第一次启动选举机制 假如存在leader新加入的机器会获取到leader的信息然后进行连接。假如没有leader会先比较Epoch任期数再比较ZXID事务ID再比较SID服务id。
6、Zookeeper应用场景
提供的服务包括统一命令服务统一配置管理统一集群管理服务节点动态上下线软负载均衡等
①统一命令服务
在分布式环境下经常需要对应用/服务进行统一命令便于识别例如IP容易记住而域名容易记住。
②统一配置管理 分布式环境下配置文件同步非常常见一般要求一个集群中所有节点的配置信息是一致的比如kafka集群对配置文件修改后希望能快速同步到各个节点上。 配置管理可交由Zookeeper实现可将配置信息写入Zookeeper上的zonde各个客户端服务器监听这个znode一旦znode中的数据被修改zookeeper将通知各个客户端服务器。
③统一集群管理
分布式环境中时实掌握每个节点的状态是必要的可根据节点时实状态制作出一些调整
zookeeper可以实现时实监控节点状态变化可将节点信息写入zookeeper上的Znode。监听这个Znode可以获取它的时实状态变化。
④服务动态上下线
客户端能时实洞察到服务器上下线的变化。是否宕机
⑤软负载均衡
在Zookeeper中记录每台服务器的访问数让访问数最少的服务器去处理最新的客户端请求。
二、Zookeeper集群部署
1、环境部署
1.1 环境架构
主机名ip地址安装软件系统版本node120.0.0.55apache-zookeeper-3.5.7-bin.tar.gzcentos7.5node220.0.0.56apache-zookeeper-3.5.7-bin.tar.gzcentos7.5node220.0.0.57apache-zookeeper-3.5.7-bin.tar.gzcentos7.5
1.2 关闭防火墙修改主机名
#三台主机都需要执行以node1演示systemctl stop firewalld
systemctl disable firewalld
setenforce 0hostnamectl set-hostname node{1,2,3}2、安装Zookeeper服务
因为三台主机都要安装这边只演示一台的安装方法以node1为例。
2.1 安装环境解压软件
yum install -y java-1.8.0-openjdk java-1.8.0-openjdk-devel
#这里yum安装JDK环境。方便。java -version#获取软件包
cd /opt
wget https://archive.apache.org/dist/zookeeper/zookeeper-3.5.7/apache-zookeeper-3.5.7-bin.tar.gz
#或者直接将软件包上传到/opt目录下。tar -zxvf apache-zookeeper-3.5.7-bin.tar.gz
mv apache-zookeeper-3.5.7-bin /usr/local/zookeeper-3.5.72.2 修改Zookeeper配置配置文件
cd /usr/local/zookeeper-3.5.7/conf
cp zoo_sample.cfg zoo.cfgvim zoo.cfg
tickTime2000
#通信心跳时间Zookeeper服务器与客户端心跳时间单位毫秒
initLimit10
#Leader和Follower初始连接时能容忍的最多心跳数( tickTime的数量)这里表示为10*2s
syncLimit5
#Leader和Follower之间同步通信的超时时间这里表示如果超过5*2sLeader认为Follwer死掉并从服务器列表中删除Follwer
dataDir/usr/local/zookeeper-3.5.7/data
#●修改指定保存Zookeeper中的数据的目录目录需要单独创建
dataLogDir/usr/local/zookeeper-3.5.7/1ogs
#●添加指定存放日志的目录目录需要单独创建
clientPort2181 #客户端连接端口#添加集群信息
server.120.0.0.55:3188:3288
server.220.0.0.56:3188:3288
server.320.0.0.57:3188:3288mkdir /usr/local/zookeeper-3.5.7/data
mkdir /usr/local/zookeeper-3.5.7/logs2.3 设置myid号以及启动脚本
到这里就不要设置同步了下面的操作做好一台机器一台机器的配置
echo 1 /usr/local/zookeeper-3.5.7/data/myid
# node1上配置echo 2 /usr/local/zookeeper-3.5.7/data/myid
#node2上配置echo 3 /usr/local/zookeeper-3.5.7/data/myid
#node3上配置#//配置启动脚本脚本在开启启动执行的目录中创建
vim /etc/init.d/zookeeper
#!/bin/bash
#chkconfig:2345 20 90
#description:Zookeeper Service Control Script
ZK_HOME/usr/local/zookeeper-3.5.7
case $1 in
start)echo ----------zookeeper启动----------$ZK_HOME/bin/zkServer.sh start
;;
stop)echo ---------- zookeeper停止-----------$ZK_HOME/bin/zkServer.sh stop
;;
restart)echo ---------- zookeeper 重启------------$ZK_HOME/bin/zkServer.sh restart
;;
status)echo ---------- zookeeper 状态------------$ZK_HOME/bin/zkServer.sh status
;;
*)echo Usage: $0 {start|stop|restart|status}
esacchmod x /etc/init.d/zookeeper
chkconfig --add zookeeperservice zookeeper startservice zookeeper status三台机器都需要执行脚本
启动node1机器20.0.0.55
启动node2机器20.0.0.56
启动node3机器20.0.0.57
