5分钟搞懂Jenkins分布式架构
Jenkins通常以单节点模式工作，但其也可以通过代理的方式实现多节点架构，从而能够横向扩展Jenkins系统，支持大规模CICD流水线。原文: Jenkins Distributed Architecture
Jenkins是最著名的持续集成工具，是实现DevOps的必要组件之一。
本文我们将研究如何基于Jenkins的主从配置实现Jenkins分布式架构。
Jenkins单节点架构
参考下图了解Jenkins单节点架构。
Jenkins单节点架构
对于某些特定场景，单节点不足以满足需求:
- 如果所有执行程序都忙于处理构建任务，则作业(Job)必须等待。
- 当项目的数量或负载增加时，很可能会耗尽资源。
为了恢复并运行Jenkins基础设施，需要通过增加内存、CPU等来增强服务器，而这不具备可扩展性，必须根据需求维护和升级服务器。
在维护升级过程中，构建环境将被关闭，作业不得不停止，整个Jenkins基础设施将不可用。
这种单节点架构会造成系统经常处于idel状态，分配给Jenkins环境的资源在这种状态下也没法被充分利用。
单节点架构还会引入安全问题，因为Jenkins用户对所有资源和工作空间都拥有完全的权限。
由于所有这些原因，Jenkins支持分布式架构，其中构建项目的工作负载被委托给多个Jenkins代理。
Jenkins分布式架构
Jenkins代理是运行在远程服务器上并从主节点卸载工作的Java可执行文件。
Jenkins主节点(Master)的特点:
主节点负责:
- 调度构建作业。
- 将构建作业分发给代理实际执行。
- 监视从节点(Slave)，并根据需要停止其工作。
- 如果所有Jenkins代理都被占用，也可以直接执行作业。
Jenkins代理的特点:
Jenkins代理负责:
- 从主节点接收请求或工作，代理的工作就是按命令行事。
- 可以将工作配置为始终在特定代理上执行。
- 主节点将利用其资源来处理HTTP请求和管理构建环境，构建的实际执行将委托给代理。
通过这种配置，可以横向扩展Jenkins架构，其中Jenkins将安装在单个节点上。
参考下图理解Jenkins的多节点或分布式架构。
Jenkins分布式架构
接下来我们在AWS EC2上设置Jenkins代理，并将其与Jenkins主节点集成。
第一步:
在一台服务器上运行Jenkins主节点。
第二步:
- 为Jenkins代理创建EC2实例。
- 为了访问代理节点，Jenkins代理程序需要与主节点建立双向通信。
在Master和Agent之间建立连接有不同的方法:
SSH Connector
Inbound Connector
自定义脚本
- 因为Jenkins内置了SSH客户端实现，因此我们使用SSH连接器，Jenkins主节点可以使用授权密钥轻松的与代理建立连接。
- 在新的EC2实例上使用
ssh-keygen命令创建SSH密钥。
第三步:
- 如上所述，Jenkins代理是Java可执行文件，因此需要在服务器上安装JDK (Java Development Kit)。
# Install Java
sudo apt-get update
sudo apt-get install default-jdk -y
# Install Maven
sudo apt-get install maven -y
# Create User as Jenkins
sudo useradd -m jenkins
sudo -u jenkins mkdir /home/jenkins/.ssh
第四步:
- SSH到部署了Jenkins Master的EC2实例。
- 从Master添加SSH密钥到Jenkins Agent:
sudo cat ~/. SSH /id_rsa.pub。 - 拷贝上述命令的输出。
第五步:
- SSH到部署了Jenkins Agent的EC2实例。
- 在
.ssh文件夹下创建一个空文件，复制主节点的SSH密钥:sudo -u jenkins vi /home/jenkins/.ssh/authorized_keys。
第六步:
- SSH到部署了Jenkins Master的EC2实例。
- 使用
ssh jenkins@Jenkins_Agent_IP_ADDRESS测试与代理节点的连接。
注意: Jenkins Agent的公网IP必须在Master安全组的白名单内。
- 通过执行
sudo cp ~/.ssh/known_hosts /var/lib/jenkins/.ssh将SSH密钥复制到/var/lib/jenkins/.ssh。 - Jenkins Master将从上面的文件夹中查找密钥。
- 如果在Docker上运行Jenkins Master，那么使用命令
sudo cp ~/.ssh/known_hosts <JENKINS HOME directory >/.ssh。
第七步:
- 为Jenkins代理添加证书。
- 配置路径为: Jenkins Master → Manage Jenkins → Manage Credentials → Global Credentials → Add Credentials
- 我们在步骤3中已经在代理节点上创建了jenkins用户，因此用户名为jenkins。
- 可以使用
sudo cat ~/.ssh/id_rsa命令从主节点复制私钥。 - 确保复制了整个密钥。
-----BEGIN RSA PRIVATE KEY-----
-----
-----END RSA PRIVATE KEY-----
第八步:
- 在Jenkins Master中注册代理节点。
- 配置路径为: Jenkins Master → Manage Jenkins → Manage Nodes
管理节点
- 单击"New Node"，输入"Node Name"，并将节点配置为"Permanent Agent"。
- 用以下值配置代理并保存。
- 可以选择第七步中创建的key。
第九步:
- 启动代理并检查日志。
代理连接日志
第十步:
- 恭喜配置完成了Jenkins分布式系统，现在可以开始构建工作了。
- 可以看到Jenkins主节点通过从节点执行作业。
你好，我是俞凡，在Motorola做过研发，现在在Mavenir做技术工作，对通信、网络、后端架构、云原生、DevOps、CICD、区块链、AI等技术始终保持着浓厚的兴趣，平时喜欢阅读、思考，相信持续学习、终身成长，欢迎一起交流学习。
微信公众号：DeepNoMind
