中间件--ZooKeeper

本文深入讲解ZooKeeper的定义、作用、应用场景、架构原理及集群使用。覆盖命令行操作、Java API使用、分布式锁实现及事件监听机制,适用于微服务管理和大数据领域的分布式协调。

ZooKeeper

1.定义

  • Zookeeper 是 Apache Hadoop 项目下的一个子项目,是一个树形目录服务
  • 中间件
  • 开源
  • 分布式

2.作用

  • 配置管理
  • 分布式锁
  • 集群管理

3.场景

  • dubbo,管理微服务
  • 大数据,管理kafka…

4.原理/架构

  • znode:节点可以保存数据(1M),节点分为四大类

    • PERSISTENT 持久化节点
    • EPHEMERAL 临时节点 :-e (客服端一断开之后,则节点自动删除)
    • PERSISTENT_SEQUENTIAL 持久化顺序节点 :-s (子节点会按照数字自增的方式创建)
    • EPHEMERAL_SEQUENTIAL 临时顺序节点 :-es

在这里插入图片描述

5.集群

  • 多台服务器提供相同的服务,这样的行为称为集群

6.使用

  • 命令行

    • 服务端
      • 启动 ZooKeeper 服务: ./zkServer.sh start
      • 查看 ZooKeeper 服务状态: ./zkServer.sh status
      • 停止 ZooKeeper 服务: ./zkServer.sh stop
      • 重启 ZooKeeper 服务: ./zkServer.sh restart
    • 客户端
      • zkCli -server IP:PORT
      • ls path ,path是从根开始的全路径
        • -s , 查看znode详情信息
      • create path value,不能创建多级目录
        • -e ,临时节点
        • -s , 顺序节点
        • -es,临时且顺序节点
      • delete path ,path是从根开始的全路径
      • deleteall path ,path是从根开始的全路径
      • get path,获取znode的节点值
      • set path value,设置znode的节点值
      • help
  • java API

    pom.xml

    <!--curator-->
    <dependency>
    	<groupId>org.apache.curator</groupId>
    	<artifactId>curator-framework</artifactId>
    	<version>4.0.0</version>
    </dependency>
    
    <dependency>
    	<groupId>org.apache.curator</groupId>
    	<artifactId>curator-recipes</artifactId>
    	<version>4.0.0</version>
    </dependency>
    
    • 连接客户端
    /*
         * @param connectString       连接字符串。zk server 地址和端口 			   
       	"192.168.149.135:2181,192.168.149.136:2181"
         * @param sessionTimeoutMs    会话超时时间 单位ms
         * @param connectionTimeoutMs 连接超时时间 单位ms
         * @param retryPolicy         重试策略
         */
    public void conTest(){
        ExponentialBackoffRetry retry = new ExponentialBackoffRetry(3000,10);
    
        CuratorFramework client = CuratorFrameworkFactory.builder()
                .connectString("192.168.15.134:2181")
                .sessionTimeoutMs(1000*60*60)
                .connectionTimeoutMs(1000*60*10)
                .retryPolicy(retry)
                .namespace("itheima")
                .build();
        client.start();
    }
    
    • 创建节点
    /**
     * 创建节点:create 持久 临时 顺序 数据
     * 1. 基本创建 :create().forPath("")
     * 2. 创建节点 带有数据:create().forPath("",data)
     * 3. 设置节点的类型:create().withMode().forPath("",data)
     * 4. 创建多级节点  /app1/p1 :create().creatingParentsIfNeeded().forPath("",data)
     */
    @Test
    public void testCreate() throws Exception {
    	//2. 创建节点 带有数据
    	//如果创建节点,没有指定数据,则默认将当前客户端的ip作为数据存储
    	String path = client.create().forPath("/app2", "hehe".getBytes());
    	System.out.println(path);
    }
    @Test
    public void testCreate2() throws Exception {
    	//1. 基本创建
    	//如果创建节点,没有指定数据,则默认将当前客户端的ip作为数据存储
    	String path = client.create().forPath("/app1");
    	System.out.println(path);
    
    }
    @Test
    public void testCreate3() throws Exception {
    	//3. 设置节点的类型
    	//默认类型:持久化
    	String path = client.create().withMode(CreateMode.EPHEMERAL).forPath("/app3");
    	System.out.println(path);
    }
    @Test
    public void testCreate4() throws Exception {
    	//4. 创建多级节点  /app1/p1
    	//creatingParentsIfNeeded():如果父节点不存在,则创建父节点
    	String path = client.create().creatingParentsIfNeeded().forPath("/app4/p1");
    	System.out.println(path);
    }
    
    • 查询节点
    /**
     * 查询节点:
     * 1. 查询数据:get: getData().forPath()
     * 2. 查询子节点: ls: getChildren().forPath()
     * 3. 查询节点状态信息:ls -s:getData().storingStatIn(状态对象).forPath()
     */
    @Test
    public void testGet1() throws Exception {
    	//1. 查询数据:get
    	byte[] data = client.getData().forPath("/app1");
    	System.out.println(new String(data));
    }
    @Test
    public void testGet2() throws Exception {
    	// 2. 查询子节点: ls
    	List<String> path = client.getChildren().forPath("/");
    	System.out.println(path);
    }
    @Test
    public void testGet3() throws Exception {
    	Stat status = new Stat();
    	System.out.println(status);
    	//3. 查询节点状态信息:ls -s
    	client.getData().storingStatIn(status).forPath("/app1");
    	System.out.println(status);
    }
    
    • 修改节点
    /**
     * 修改数据
     * 1. 基本修改数据:setData().forPath()
     * 2. 根据版本修改: setData().withVersion().forPath()
     * * version 是通过查询出来的。目的就是为了让其他客户端或者线程不干扰我。
     *
     * @throws Exception
     */
    @Test
    public void testSet() throws Exception {
    	client.setData().forPath("/app1", "itcast".getBytes());
    }
    @Test
    public void testSetForVersion() throws Exception {
    	Stat status = new Stat();
    	//3. 查询节点状态信息:ls -s
    	client.getData().storingStatIn(status).forPath("/app1");
    	int version = status.getVersion();//查询出来的 3
    	System.out.println(version);
    	client.setData().withVersion(version).forPath("/app1", "hehe".getBytes());
    }
    
    • 删除节点
    /**
     * 删除节点: delete deleteall
     * 1. 删除单个节点:delete().forPath("/app1");
     * 2. 删除带有子节点的节点:delete().deletingChildrenIfNeeded().forPath("/app1");
     * 3. 必须成功的删除:为了防止网络抖动。本质就是重试。  client.delete().guaranteed().forPath("/app2");
     * 4. 回调:inBackground
     * @throws Exception
     */
    @Test
    public void testDelete() throws Exception {
    	// 1. 删除单个节点
    	client.delete().forPath("/app1");
    }
    @Test
    public void testDelete2() throws Exception {
    	//2. 删除带有子节点的节点
    	client.delete().deletingChildrenIfNeeded().forPath("/app4");
    }
    @Test
    public void testDelete3() throws Exception {
    	//3. 必须成功的删除
    	client.delete().guaranteed().forPath("/app2");
    }
    @Test
    public void testDelete4() throws Exception {
    	//4. 回调
    	client.delete().guaranteed().inBackground(new BackgroundCallback(){
    		@Override
    		public void processResult(CuratorFramework client, CuratorEvent event) throws Exception {
    			System.out.println("我被删除了~");
    			System.out.println(event);
    		}
    	}).forPath("/app1");
    }
    

7.Watch事件监听

  • ZooKeeper 允许用户在指定节点上注册一些Watcher,并且在一些特定事件触发的时候 , ZooKeeper 服务端会将事件通知到感兴趣的客户端上去,该机制是 ZooKeeper 实现分布式协调服务的重要特性

  • 三种Watcher

    • NodeCache:只监听特定节点的修改、删除、创建事件
    • PathChildenCache:监听特定节点的子节点增加、修改、删除等事件(监听具体哪种事件可参考PathChildrenCacheEvent.Type枚举类)
    • TreeCache:监听所有节点的添加、删除、修改等事件(监听具体哪种事件可参考TreeCacheEvent.Type枚举类)
/**
 * 演示 NodeCache:给指定一个节点注册监听器
 */
@Test
public void testNodeCache() throws Exception {
	//1. 创建NodeCache对象
	final NodeCache nodeCache = new NodeCache(client,"/app1");
	//2. 注册监听
	nodeCache.getListenable().addListener(new NodeCacheListener() {
		@Override
		public void nodeChanged() throws Exception {
			System.out.println("节点变化了~");
			//获取修改节点后的数据
			byte[] data = nodeCache.getCurrentData().getData();
			System.out.println(new String(data));
		}
	});
	//3. 开启监听.如果设置为true,则开启监听是,加载缓冲数据
	nodeCache.start(true);
	while (true){}
}
/**
 * 演示 PathChildrenCache:监听某个节点的所有子节点们
 */
@Test
public void testPathChildrenCache() throws Exception {
	//1.创建监听对象
	PathChildrenCache pathChildrenCache = new PathChildrenCache(client,"/app2",true);
	//2. 绑定监听器
	pathChildrenCache.getListenable().addListener(new PathChildrenCacheListener() {
		@Override
		public void childEvent(CuratorFramework client, PathChildrenCacheEvent event) throws Exception {
			System.out.println("子节点变化了~");
			System.out.println(event);
			//监听子节点的数据变更,并且拿到变更后的数据
			//1.获取类型
			PathChildrenCacheEvent.Type type = event.getType();
			//2.判断类型是否是update
			if(type.equals(PathChildrenCacheEvent.Type.CHILD_UPDATED)){
				System.out.println("数据变了!!!");
				byte[] data = event.getData().getData();
				System.out.println(new String(data));
			}
		}
	});
	//3. 开启
	pathChildrenCache.start();
	while (true){}
}
/**
 * 演示 TreeCache:监听某个节点自己和它的所有子节点们
 */
@Test
public void testTreeCache() throws Exception {
	//1. 创建监听器
	TreeCache treeCache = new TreeCache(client,"/app2");
	//2. 注册监听
	treeCache.getListenable().addListener(new TreeCacheListener() {
		@Override
		public void childEvent(CuratorFramework client, TreeCacheEvent event) throws Exception {
			System.out.println("节点变化了");
			System.out.println(event);
		}
	});
	//3. 开启
	treeCache.start();
	while (true){}
}
  • 1、PathChildenCache能否监听跨级的子节点?
    • 不能
  • 2、TreeCache监听的是子树还是整个zk树?
    • 子树

8.分布式锁

  • 定义:协调跨机器(JVM)之间的数据同步

  • 原理(面试题):

    • 临时:是为了防止偶发宕机情况下,锁对象不能释放而造成的死锁现象
    • 顺序:是为对象提供了排队功能
  • 核心思想:当客户要获取锁,则创建节点,使用完锁,则删除该节点

    • 在客户端获取锁时,在指定节点下(这里举例为lock节点)创建临时顺序节点
    • 客户端获取lock节点下的所有子节点,比较自己创建的节点是否是序号最小的,如果是则获取锁
    • 如果客户端发现自己不是序号最小的,则去找到比自己小的那个相邻的节点,并对其绑定watch监听事件,监听的是删除事件
    • 如果监听到比自己晓得节点被删除了,此时还会再次判断自己是否是最小序号的节点,如果是,则获取锁
  • 在单击应用开发是我们利用synchronized或者Lock的方式来解决多线程的并发访问问题,这是是运行在同一个JVM下的.然而实际上我们的应用大多是分布式集群工作的,属于多JVM的工作环境,这就需要一种更加高级的锁,这就是分布式锁.

  • 模拟12306购票案例

    public class Ticket12306 implements Runnable{
        private int tickets = 10;//数据库的票数
        private InterProcessMutex lock ;
        public Ticket12306(){
            //重试策略
            RetryPolicy retryPolicy = new ExponentialBackoffRetry(3000, 10);
            //2.第二种方式
            //CuratorFrameworkFactory.builder();
            CuratorFramework client = CuratorFrameworkFactory.builder()
                    .connectString("192.168.149.135:2181")
                    .sessionTimeoutMs(60 * 1000)
                    .connectionTimeoutMs(15 * 1000)
                    .retryPolicy(retryPolicy)
                    .build();
            //开启连接
            client.start();
            lock = new InterProcessMutex(client,"/lock");
        }
        @Override
        public void run() {
            while(true){
                //获取锁
                try {
                    lock.acquire(3, TimeUnit.SECONDS);
                    if(tickets > 0){
                        System.out.println(Thread.currentThread()+":"+tickets);
                        Thread.sleep(100);
                        tickets--;
                    }
                } catch (Exception e) {
                    e.printStackTrace();
                }finally {
                    //释放锁
                    try {
                        lock.release();
                    } catch (Exception e) {
                        e.printStackTrace();
                    }
                }
            }
        }
    }
    
    public class LockTest {
        public static void main(String[] args) {
            Ticket12306 ticket12306 = new Ticket12306();
            //创建客户端
            Thread t1 = new Thread(ticket12306,"携程");
            Thread t2 = new Thread(ticket12306,"飞猪");
            t1.start();
            t2.start();
        }
    }
    
内容概要:本文详细阐述了工业母机技术领域中“高级结构设计工程师”这一岗位的全方位任职要求与职业发展路径,涵盖职位对标、目标企业、学历与证书要求、年龄范围、管理半径、晋升关键点、必备工作经验年限以及薪资待遇区间。重点突出该岗位对高端数控机床核心结构(如床身、主轴箱、导轨等)设计能力的要求,强调有限元分析、精度控制、热变形补偿、振动抑制等核心技术能力,并明确指出需具备项目主导经验、团队管理能力和跨部门协作经验。同时,根据不同企业类型和发展阶段,给出了清晰的年薪划分标准,体现了市场对该岗位的技术深度与综合能力的高度认可。; 适合人群:具备5年以上工业母机或高端机床结构设计经验,致力于向高级工程师、技术专家或管理岗位发展的结构设计从业者;或希望转型进入高端装备制造业的精密机械研发人员。; 使用场景及目标:①用于求职者精准定位职业发展方向,评估自身与高级岗位之间的能力差距;②辅助企业制定人才招聘标准与薪酬体系;③指导技术人员规划技能提升路径,聚焦核心技术积累与项目经验沉淀。; 阅读建议:建议结合个人职业发展阶段对照文中各项指标进行自我诊断,重点关注“晋升关键点”与“必备年限”部分,有针对性地补齐技术短板、积累主导项目经验,并注重专利成果与团队管理能力的培养,以全面提升竞争力。
源码下载地址: https://pan.quark.cn/s/a92ed831069e ### Jmeter工具对验证码的处理方法 #### 一、引言 随着互联网应用安全性的不断提升,验证码已成为网站登录流程中的关键环节。然而,对于性能测试工程师而言,如何高效利用JMeter工具处理登录过程中的验证码构成了一项挑战。本文将系统性地阐述在JMeter中配置和处理验证码的方法,旨在帮助读者熟练掌握这一技能。 #### 二、JMeter中处理验证码的方法与步骤 ##### 1. 创建线程组 在JMeter中构建一个线程组,该线程组将作为执行测试的起始点。在此线程组内,需要添加各类采样器、监听器及其他必要组件,以模拟用户的登录行为。 ##### 2. 新建获取验证码的HTTP请求 在已创建的线程组中,添加一个HTTP请求采样器来模拟用户获取验证码的操作。特别需要注意的是,若目标网站的验证码以图片形式呈现,必须配置正确的HTTP请求以获取该图片。 ##### 3. 配置后置处理器解析验证码 由于通过HTTP请求无法直接获取验证码的值,因此需要增设一个后置处理器实现这一功能。推荐采用BeanShell Post Processor,这是一种高度灵活的脚本编写方式,能够充分满足解析验证码的需求。具体的代码实现可参考以下链接:[http://blog.csdn.net/xreztento/article/details/48682923](http://blog.csdn.net/xreztento/article/details/48682923)。 在BeanShell Post Processor中,需编写一段代码来解析获取到的验证码图片,并将其保存至JMeter的用户自...
内容概要:本文聚焦于扩散模型在光伏场景生成中的应用,深入研究了去噪概率扩散模型(DDPM)的理论基础与Python代码实现。通过构建简化的DDPM模型,实现对光伏功率时序数据的高波动性场景生成,有效模拟新能源出力的不确定性。文章系统阐述了前向扩散过程与逆向去噪过程的数学原理、神经网络架构设计及训练策略,并提供完整的代码实践指导,适用于新能源电力系统规划、不确定性建模与风险评估等任务。同时,文档整合了生成对抗网络(GAN)、条件生成模型、联邦学习、优化算法等相关技术资源,形成支撑科研复现与创新的完整技术体系。; 适合人群:具备Python编程基础和机器学习基础知识,从事新能源、电力系统、人工智能等相关领域研究的研发人员及高校研究生。; 使用场景及目标:①掌握DDPM在光伏功率时序数据生成中的建模方法与实现流程;②深入理解扩散模型相较于传统GAN在生成质量、训练稳定性与时序建模方面的优势;③为电力系统不确定性分析、储能优化配置、调度决策等提供高质量、多样化的输入场景;④结合文档提供的其他代码资源,开展多模型对比研究与综合性科研项目复现与拓展。; 阅读建议:此资源以代码实现为核心,强调理论推导与工程实践的深度融合,建议读者在学习过程中同步运行并调试代码,细致理解每一模块的设计意图与数学依据,并积极参考文档中列出的相关研究方向进行延伸探索与创新应用。
代码转载自:https://pan.quark.cn/s/a4b39357ea24 KeymouseGo 简体中文 | English 功能:记录用户的鼠标键盘操作,通过触发按钮自动执行之前记录的操作,可设定执行的次数,可以理解为 的 。 用途:在进行某些操作简单、单调重复的工作时,使用本软件就可以很省力了。 自己只要做一遍,然后接下来就让电脑来做。 目录 安装 使用方法 + 基本操作 + 提示 + 脚本语法说明 关于作者 开源贡献者 安装 该软件通过 语言编写,已打包为可执行文件,未安装 的用户可直接下载 release 版本 ,直接点击 运行 源码打包可执行文件 打包完成后,可执行文件在项目路径的文件夹内。 使用方法 基本操作 桌面模式 1、点击 按钮,开始录制。 2、在计算机上进行任意操作,如点击鼠标、键盘输入,这部分的动作会被记录下来。 3、点击 按钮,结束录制。 4、点击 按钮,计算机会重复执行一遍第2步中所录制的动作。 命令行模式 直接运行指定脚本: 运行指定脚本3次: 提示 1、可设置脚本重复执行的次数,如果为 即为无限循环。 2、默认启动热键为 ,功能等同于 按钮;默认终止热键为 ,按下后将会停止正在运行的脚本。 3、录制时只记录鼠标点击动作和键盘动作,不记录鼠标移动轨迹。 4、每次录制结束后都会在 目前下生成一个新的脚本文件。 5、运行前可以在列表中选择一个需要执行的脚本。 6、 下的脚本文件内容可以修改,修改时可参考如下所述 。 7、热键设置中的指代鼠标中键,指代鼠标侧键 8、由于程序速度受限,当输入的鼠标速度大于一定值时脚本将无法以预期的输入速度执行 9、部分系统环境中,可能出现无法录制完整的鼠标事件的情况,请以管理员身份/root身份运行...
内容概要:本文围绕“考虑隐私保护的分布式联邦学习电力负荷预测研究”展开,提出了一种融合联邦学习框架与隐私保护机制的电力负荷预测方法,旨在解决传统集中式数据处理中潜在的用户隐私泄露问题。通过构建分布式模型训练体系,各参与方在本地完成模型训练,仅向中心服务器上传模型参数或梯度信息,实现“数据不动模型动”的协同建模模式,确保数据“可用不可见”。研究采用Python语言实现了完整的联邦学习流程,涵盖客户端本地训练、全局模型聚合、隐私保护策略(如差分隐私或同态加密)集成、通信机制设计及预测性能评估等核心模块,显著提升了电力负荷预测在隐私安全与模型精度之间的平衡能力。; 适合人群:具备Python编程基础和机器学习基础知识,从事电力系统、智能电网、能源大数据分析、数据隐私保护等相关领域研究的研究生、科研人员及工程技术人员。; 使用场景及目标:①应用于居民或工业级电力负荷预测任务,在保障用户用电数据隐私的前提下实现高精度预测;②为构建符合数据合规要求的智慧能源管理系统提供技术支撑;③推动联邦学习在能源互联网、跨企业数据协作等场景中的落地应用,促进多方协同建模与数据价值释放。; 阅读建议:建议读者结合文中提供的Python代码进行实践操作,重点关注联邦学习的通信轮次设置、本地训练迭代策略、模型聚合算法设计以及隐私噪声添加机制的实现细节,并可根据实际需求替换底层预测模型(如LSTM、XGBoost、Transformer等)以进一步优化预测性能。
内容概要:本文介绍了基于条件生成对抗网络(Conditional Generative Adversarial Networks, CGAN)的可再生能源日前场景生成方法的复现研究,旨在通过Python代码实现对风电、光伏等可再生能源出力的不确定性进行高效建模与多场景生成。该方法利用历史数据作为条件输入,训练生成器与判别器网络,从而生成符合实际统计特性的高精度出力场景集,有效支撑电力系统调度、规划与风险评估等应用。文中详细阐述了CGAN的网络结构设计、损失函数构建、训练流程优化及生成场景的质量评价指标,并提供了完整的代码实现与案例分析,验证了其在捕捉时空相关性与概率分布方面的优越性。; 适合人群:具备一定深度学习与电力系统基础知识,从事新能源预测、电力系统优化调度、场景生成等相关方向的科研人员及研究生。; 使用场景及目标:①用于可再生能源出力不确定性建模,生成满足日前调度需求的典型场景集;②支撑含高比例新能源的电力系统随机优化、鲁棒调度与风险评估研究;③为学术研究提供可复现的CGAN应用场景与代码参考。; 阅读建议:建议读者结合提供的Python代码逐模块学习,重点关注数据预处理、模型搭建与训练细节,通过调整超参数和输入数据进行实验对比,深入理解CGAN在电力系统场景生成中的实际应用价值。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值