????  这是第 108 篇不掺水的原创,想要了解更多,请戳上方蓝色字体:政采云前端团队 关注我们吧~

本文首发于政采云前端团队博客:如何搭建适合自己团队的构建部署平台

https://www.zoo.team/article/webbuild

前端业界现有的构建部署方案,常用的应该是 Jenkins,Docker,GitHub Actions 这些,而恰巧,我们公司现在就并存了前两种方案。既然已经有了稳定的构建部署方式,为什么还要自己做一套前端自己的构建平台呢?当然不是为了好玩啊,原因听我慢慢分析。

前端构建使用的时候可能会碰到各种各样问题,比如:

  • Eslint 跳过校验——公司里面的前端项目,随着时间的推移,不同阶段,通过新老脚手架创建出来的项目可能风格各异,并且校验规则可能也不一定统一,虽然项目本身可以有着各种的 Eslint,Stylelint 等校验拦截,但阻止不了开发者跳过这些代码校验。

  • npm 版本升级不兼容——对于依赖的 npm 版本必须的一些兼容性校验,如果某些 npm 插件突然升级了不兼容的一些版本,代码上线后就会报错出错,典型的就是各类 IE 兼容。

  • 无法自由添加自己想要的功能——想要优化前端构建的流程,或者方便前端使用的功能优化,但因为依赖运维平台的构建应用,想加点自己的功能需要等别人排期。

而这些问题,如果有了自己的构建平台,这都将不是问题,所以也就有了现在的——云长。

为何起名叫“云长“呢,当然是希望这个平台能像”关云长“一样,一夫当关万夫莫开。那云长又能给我们提供什么样的一些能力呢?

云长能力

构建部署

这当然是必备的基本能力了,云长提供了公司不同前端项目类型,例如 Pampas、React、Vue、Uniapp 等的构建能力。整个流程其实也并不复杂,开始构建后,云长的服务端,获取到要构建的项目名,分支,要部署的环境等信息后,开始进行项目的代码更新,依赖安装,之后代码打包,最后将生成的代码再打包成镜像文件,然后将这份镜像上传到镜像仓库后,并且将项目的一些资源静态文件都可以上传 CDN,方便前端之后的调用,最后调用 K8S 的镜像部署服务,进行镜像按环境的部署,一个线上构建部署的流程也就完成了。

可插拔的构建流程

如果是使用别人的构建平台, 很多前端自己想加入的脚本功能就依赖别人的服务来实现,而如果走云长,则可以提供开放型的接口,让前端可以自由定制自己的插件式服务。

比如这个线上构建打包的过程当中,就可以处理一些前文提到过的问题,痛点,例如:

  • 代码的各类 Eslint、Tslint 等合规性校验,再也不怕被人跳过检验步骤。

  • 项目构建前还可以做 npm 包版本的检测,防止代码上线后的兼容性报错等等。

  • 代码打包后也能做一些全局性质的前端资源注入,例如埋点,错误监控,消息推送等等类型。

审核发布流程

公司现有的平台发布流程管控靠的是运维的名单维护,每个项目都会管理一个可发布人的名单,所以基本项目发版都需要发布人当晚跟随进行发布,而云长为了解决这个问题,提供了一个审核流的概念。

也就是当项目在预发环境测试完成之后,代码开发者可以提起一个真线的发布申请单,之后这个项目的可发布人会通过钉钉收到一个需要审核的申请单,可以通过网页端,或者钉钉消息直接操作,同意或者拒绝这次发布申请,在申请经过同意后,代码开发者到了可发布时间后,就能自己部署项目发布真线,发布真线后,后续会为这个项目创建一个代码的 Merge Request 请求,方便后续代码的归档整理。

这么做的好处呢,一方面可以由前端来进行项目构建发布的权限管控,让发布权限可以进行收拢,另一方面也可以解放了项目发布者,让开发者可以更方便的进行代码上线,而又开放了项目的发布。

能力对外输出

云长可以对外输出一些构建更新的能力,也就让第三方插件接入构建流程成为了可能,我们贴心的为开发者提供了 VsCode 插件,让你在开发过程中可以进行自由的代码更新,省去打开网页进行构建的时间,足不出户,在编辑器中进行代码的构建更新,常用环境更是提供了一键更新的快捷方式,进一步省去中间这些操作时间,这个时候多写两行代码不是更开心吗。

我们的 VsCode 插件不仅仅提供了云长的一些构建能力,还有小程序构建,路由查找,等等功能,期待这个插件分享的话,请期待我们后续的文章哦。

云长架构

上面讲过云长的构建流程,云长是依赖于 K8S 提供的一个部署镜像的能力,云长的客户端与服务端都是跑在 Docker 中的服务,所以云长是采用了Docker In Docker 的设计方案,也就是由 Docker 中的服务来进行一个 Docker 镜像的打包。

针对代码的构建,云长服务端部分引入了进程池的处理,每个在云长中构建的项目都是进程池中的一个独立的实例,都有独立的打包进程,而打包过程的进度跟进则是靠 Redis 的定时任务查询来进行,也就实现了云长多实例并行构建的架构。

云长客户端与服务端的接口通信则是正常的 HTTP 请求和 Websocket 请求,客户端发起请求后,服务端则通过 MySQL 数据存储一些应用,用户,构建信息等数据。

外部的资源交互则是,构建的过程中也会上传一些静态资源还有打包的镜像到 cdn 和镜像仓库,最后则是会调用 K8S 的部署接口进行项目的部署操作。

前端构建的 0-1

上面看过了“云长”的一些功能介绍,以及“云长”的架构设计,相信很多朋友也想自己做一个类似于“云长”的前端构建发布平台,那需要怎么做呢,随我来看看前端构建平台主要模块的设计思路吧。

构建流程

前端构建平台的主要核心模块肯定是构建打包,构建部署流程可以分为以下几个步骤:

  • 每一次构建开始后,需要保存本次构建的一些信息数据,所以需要创建构建发布记录,发布记录会存储本次发布的发布信息,例如发布项目的名称,分支,commitId,commit 信息,操作人数据,需要更新的发布环境等,这时我们会需要一张构建发布记录表,而如果你需要项目以及操作人的一些数据,你就又需要应用表以及用户表来存储相关数据进行关联。

  • 构建发布记录创建以后,开始了前端构建流程,构建流程可以 pipeline 的流程来进行,流程可以参考以下例子

  // 构建的流程async run() {const app = this.app;const processData = {};const pipeline = [{handler: context => app.fetchUpdate(context), // Git 更新代码name: 'codeUpdate',progress: 10 // 这里是当前构建的进度}, {handler: context => app.installDependency(context), // npm install 安装依赖name: 'dependency',progress: 30}, {handler: context => app.check(context), // 构建的前置校验(非必须):代码检测,eslint,package.json 版本等name: 'check',progress: 40}, {handler: context => app.pack(context), // npm run build 的打包逻辑,如果有其他的项目类型,例如 gulp 之类,也可以在这一步进行处理name: 'pack', progress: 70}, {handler: context => app.injectScript(context), // 构建的后置步骤(非必须):打包后的资源注入name: 'injectRes',progress: 80}, { // docker image buildhandler: context => app.buildImage(context), // 生成 docker 镜像文件,镜像上传仓库,以及之后调用 K8S 能力进行部署name: 'buildImage',progress: 90}];// 循环执行每一步构建流程for (let i = 0; i < pipeline.length; i++) {const task = pipeline[i];const [ err, response ] = await to(this.execProcess({...task,step: i}));if (response) {processData[task.name] = response;}}return Promise.resolve(processData);}// 执行构建中的 handler 操作async execProcess(task) {this.step(task.name, { status: 'start' });const result = await task.handler(this.buildContext);this.progress(task.progress);this.step(task.name, { status: 'end', taskMeta: result });return result;}
  • 构建的步骤,上面构建的一些流程,相比大家也想知道在服务端如何跑构建流程当中的一些脚本,其实思路就是通过 node 的child_process 模块执行 shell 脚本,下面是代码的一些示例:

import { spawn } from 'child_process';
// git clone
execCmd(`git clone ${url} ${dir}`, {cwd: this.root,verbose: this.verbose
});
// npm run build
const cmd = ['npm run build', cmdOption].filter(Boolean).join(' ');
execCmd(cmd, options);
// 执行 shell 命令
function execCmd(cmd: string, options:any = {}): Promise<any> {const [ shell, ...args ] = cmd.split(' ').filter(Boolean);const { verbose, ...others } = options;return new Promise((resolve, reject) => {let child: any = spawn(shell, args, others);let stdout = '';let stderr = '';child.stdout && child.stdout.on('data', (buf: Buffer) => {stdout = `${stdout}${buf}`;if (verbose) {logger.info(`${buf}`);}});child.stderr && child.stderr.on('data', (buf: Buffer) => {stderr = `${stderr}${buf}`;if (verbose) {logger.error(`${buf}`);}});child.on('exit', (code: number) => {if (code !== 0) {const reason = stderr || 'some unknown error';reject(`exited with code ${code} due to ${reason}`);} else {resolve({stdout,  stderr});}child.kill();child = null;});child.on('error', err => {reject(err.message);child.kill();child = null;});});
};
  • 而例如我们想在构建前想加入 Eslint 校验操作,也可以在构建流程中加入,也就可以在线上构建的环节中加入拦截型的校验,控制上线构建代码质量。

import { CLIEngine } from 'eslint';
export function lintOnFiles(context) {const { root } = context;const [ err ] = createPluginSymLink(root);if (err) {return [ err ];}const linter = new CLIEngine({envs: [ 'browser' ],useEslintrc: true,cwd: root,configFile: path.join(__dirname, 'LintConfig.js'),ignorePattern: ['**/router-config.js']});let report = linter.executeOnFiles(['src']);const errorReport = CLIEngine.getErrorResults(report.results);const errorList = errorReport.map(item => {const file = path.relative(root, item.filePath);return {file,errorCount: item.errorCount,warningCount: item.warningCount,messages: item.messages};});const result = {errorList,errorCount: report.errorCount,warningCount: report.warningCount}return [ null, result ];
};
  • 构建部署完成后,可根据构建情况,来更新这条构建记录的更新状态信息,本次构建生成的 Docker 镜像,上传镜像仓库后,也需要信息记录,方便后期可用之前构建的镜像再次进行更新或者回滚操作,所以需要添加一张镜像表,下面为 Docker 镜像生成的一些实例代码。

import Docker = require('dockerode');
// 保证服务端中有一个基本的 dockerfile 镜像文件
const docker = new Docker({ socketPath: '/var/run/docker.sock' });
const image = '镜像打包名称'
let buildStream;
[ err, buildStream ] = await to(docker.buildImage({context: outputDir}, { t: image })
);
let pushStream;
// authconfig 镜像仓库的一些验证信息
const authconfig = {serveraddress: "镜像仓库地址"
};
// 向远端私有仓库推送镜像
const dockerImage = docker.getImage(image);
[ err, pushStream ] = await to(dockerImage.push({authconfig,tag
}));
// 3s 打印一次进度信息
const progressLog = _.throttle((msg) => logger.info(msg), 3000);
const pushPromise = new Promise((resolve, reject) => {docker.modem.followProgress(pushStream, (err, res) => {err ? reject(err) : resolve(res);}, e => {if (e.error) {reject(e.error);} else {const { id, status, progressDetail } = e;if (progressDetail && !_.isEmpty(progressDetail)) {const { current, total } = progressDetail;const percent = Math.floor(current / total * 100);progressLog(`${id} : pushing progress ${percent}%`);if (percent === 100) { // 进度完成progressLog.flush();}} else if (id && status) {logger.info(`${id} : ${status}`);}}});
});
await to(pushPromise);
  • 每一次的构建需要保存一些构建进度,日志等信息,可以再加一张日志表来进行日志的保存。

多个构建实例的运行

到这里一个项目的构建流程就已经成功跑通了,但一个构建平台肯定不能每次只能构建更新一个项目啊,所以这时候可以引入一个进程池,让你的构建平台可以同时构建多个项目。

Node 是单线程模型,当需要执行多个独立且耗时任务的时候,只能通过 child_process 来分发任务,提高处理速度,所以也需要实现一个进程池,用来控制多构建进程运行的问题,进程池思路是主进程创建任务队列,控制子进程数量,当子进程完成任务后,通过进程的任务队列,来继续添加新的子进程,以此来控制并发进程的运行,流程实现如下。

ProcessPool.ts 以下是进程池的部分代码,主要展示思路。

import * as child_process from 'child_process';
import { cpus } from 'os';
import { EventEmitter } from 'events';
import TaskQueue from './TaskQueue';
import TaskMap from './TaskMap';
import { to } from '../util/tool';
export default class ProcessPool extends EventEmitter {private jobQueue: TaskQueue;private depth: number;private processorFile: string;private workerPath: string;private runningJobMap: TaskMap;private idlePool: Array<number>;private workPool: Map<any, any>;constructor(options: any = {}) {super();this.jobQueue = new TaskQueue('fap_pack_task_queue');this.runningJobMap = new TaskMap('fap_running_pack_task');this.depth = options.depth || cpus().length; // 最大的实例进程数量this.workerPath = options.workerPath;this.idlePool = []; // 工作进程  pid 数组this.workPool = new Map();  // 工作实例进程池this.init();}/*** @func init 初始化进程,*/init() {while (this.workPool.size < this.depth) {this.forkProcess();}}/*** @func forkProcess fork 子进程,创建任务实例*/forkProcess() {let worker: any = child_process.fork(this.workerPath);const pid = worker.pid;this.workPool.set(pid, worker);worker.on('message', async (data) => {const { cmd } = data;// 根据 cmd 状态 返回日志状态或者结束后清理掉任务队列if (cmd === 'log') {}if (cmd === 'finish' || cmd === 'fail') {this.killProcess();//结束后清除任务}});worker.on('exit', () => {// 结束后,清理实例队列,开启下一个任务this.workPool.delete(pid);worker = null;this.forkProcess();this.startNextJob();});return worker;}// 根据任务队列,获取下一个要进行的实例,开始任务async startNextJob() {this.run();}/*** @func add 添加构建任务* @param task 运行的构建程序*/async add(task) {const inJobQueue = await this.jobQueue.isInQueue(task.appId); // 任务队列const isRunningTask = await this.runningJobMap.has(task.appId); // 正在运行的任务const existed = inJobQueue || isRunningTask;if (!existed) {const len = await this.jobQueue.enqueue(task, task.appId);// 执行任务const [err] = await to(this.run());if (err) {return Promise.reject(err);}} else {return Promise.reject(new Error('DuplicateTask'));}}/*** @func initChild 开始构建任务* @param child 子进程引用* @param processFile 运行的构建程序文件*/initChild(child, processFile) {return new Promise(resolve => {child.send({ cmd: 'init', value: processFile }, resolve);});}/*** @func startChild 开始构建任务* @param child 子进程引用* @param task 构建任务*/startChild(child, task) {child.send({ cmd: 'start', task });}/*** @func run 开始队列任务运行*/async run() {const jobQueue = this.jobQueue;const isEmpty = await jobQueue.isEmpty();// 有空闲资源并且任务队列不为空if (this.idlePool.length > 0 && !isEmpty) {// 获取空闲构建子进程实例const taskProcess = this.getFreeProcess();await this.initChild(taskProcess, this.processorFile);const task = await jobQueue.dequeue();if (task) {await this.runningJobMap.set(task.appId, task);this.startChild(taskProcess, task);return task;}} else {return Promise.reject(new Error('NoIdleResource'));}}/*** @func getFreeProcess 获取空闲构建子进程*/getFreeProcess() {if (this.idlePool.length) {const pid = this.idlePool.shift();return this.workPool.get(pid);}return null;}/*** @func killProcess 杀死某个子进程,原因:释放构建运行时占用的内存* @param pid 进程 pid*/killProcess(pid) {let child = this.workPool.get(pid);child.disconnect();child && child.kill();this.workPool.delete(pid);child = null;}
}

Build.ts

import ProcessPool from './ProcessPool';
import TaskMap from './TaskMap';
import * as path from 'path';
// 日志存储
const runningPackTaskLog = new TaskMap('fap_running_pack_task_log');
//初始化进程池
const packQueue = new ProcessPool({workerPath: path.join(__dirname, '../../task/func/worker'),depth: 3
});
// 初始化构建文件
packQueue.process(path.join(__dirname, '../../task/func/server-build'));
let key: string;
packQueue.on('message', async data => {// 根据项目 id,部署记录 id,以及用户 id 来设定 redis 缓存的 key 值,之后进行日志存储key = `${appId}_${deployId}_${deployer.userId}`;const { cmd, value } = data;if(cmd === 'log') { // 构建任务日志runningPackTaskLog.set(key,value);} else if (cmd === 'finish') { // 构建完成runningPackTaskLog.delete(key);// 后续日志可以进行数据库存储} else if (cmd === 'fail') { // 构建失败runningPackTaskLog.delete(key);// 后续日志可以进行数据库存储}// 可以通过 websocket 将进度同步给前台展示
});
//添加新的构建任务
let [ err ] = await to(packQueue.add({...appAttrs, // 构建所需信息
}));

有了进程池处理了多进程构建之后,如何记录每个进程构建进度呢,我这边选择用了 Redis 数据库进行构建进度状态的缓存,同时通过Websocket 同步前台的进度展示,在构建完成后,进行日志的本地存储。上面代码简单介绍了进程池的实现以及使用,当然具体的应用还要看自己设计思路了,有了进程池的帮助下,剩下的思路其实就是具体代码实现了。

前端构建的未来

最后来聊聊我们对于前端构建未来的一些想法吧,首先前端构建必须保证的是更加稳定的构建,在稳定的前提下,来达到更快的构建,对于 CI/CD 方向,比如更加完整的构建流程,在更新完生成线上环境以后,自动处理代码的归档,归档后最新的 Master 代码重新合入各个开发分支,再更新全部的测试环境等等。

而对于服务端性能方面,我们考虑过能不能将云端构建的能力来靠每台开发的电脑来完成,实现本地构建,云端部署的离岸云端构建,将服务器压力分散到各自的电脑上,这样也能减轻服务端构建的压力,服务端只做最后的部署服务即可。

还有比如我们的开发同学很想要项目按组的维度进行打包发布的功能,一次发布的版本中,选定好要一起更新发布的项目以及版本分支,统一发布更新。

小结

所以有了自己的构建发布平台,自己想要的功能都可以自己操作起来,可以做前端自己想要的各类功能,岂不是美滋滋。我猜很多同学可能会对我们做的 VsCode 插件感兴趣吧,除了构建项目,当然还有一些其他的功能,比如公司测试账号的管理,小程序的快速构建等等辅助开发的功能,是不是想进一步了解这个插件的功能呢,请期待我们之后的分享吧。

参考文档

node child_process 文档 (http://nodejs.cn/api/child_process.html#child_process_child_process_fork_modulepath_args_options)

深入理解Node.js 进程与线程 (https://blog.csdn.net/xgangzai/article/details/98919412)

浅析 Node 进程与线程 (https://juejin.cn/post/6844904033640169486?utm_source=weibo&utm_campaign=admin)

内推社群

我组建了一个氛围特别好的腾讯内推社群,如果你对加入腾讯感兴趣的话(后续有计划也可以),我们可以一起进行面试相关的答疑、聊聊面试的故事、并且在你准备好的时候随时帮你内推。下方加 winty 好友回复「面试」即可。

如何搭建适合自己团队的构建部署平台相关推荐

  1. 搭建适合自己团队的构建部署平台

    起因 前端业界现有的构建部署方案,常用的应该是 Jenkins,Docker,GitHub Actions 这些,为什么还要自己做一套前端自己的构建平台呢? 前端构建使用的时候可能会碰到各种各样问题, ...

  2. 速度与压缩比如何兼得?压缩算法在构建部署中的优化

    压缩在数据传输和存储过程中经常扮演着十分重要的角色,因此提高压缩的效率可以帮助我们节省时间和降低存储成本.本文介绍了压缩算法的优化在构建部署平台的应用,能够帮助研发团队提高研发和交付效率. 背景 通常 ...

  3. 云效搭建流水线实现自动化构建部署

    前言 云效,是阿里云提供的一款服务类产品,能够多人协作开发集成.多种编程语言构建打包和分布式集群部署发布等服务.轻松搭建从代码提交.集成.构建到测试环境.预发环境.线上环境部署发布验证的持续交付流水线 ...

  4. 部署一套免费云电脑系统 特别适合初创团队和工作室

    前两期视频,我们从零开始,安装了宝塔面板,并且部署了一个多商户商城平台.本期视频会继续利用此面板,部署一套对初创团队或者工作室特别实用的免费私有云电脑系统.这套系统使用起来,就像用windows系统的 ...

  5. 项目搭建与部署平台构建

    一.业务场景 最近接到项目需求,需要对项目模块进行拆包部署,自己做的一个模块需要独立出一个项目来开发.同时也需要配置git.搭建jenkins平台和华为云部署平台,借这个整理的机会也稳固下学习到的细节 ...

  6. 搭建团队文档协作平台(OnlyOffice)Linux 系统部署

    搭建团队文档协作平台(OnlyOffice) 机器环境 CentOS7 Docker 搭建OnlyOffice # 创建网桥 docker network create --driver bridge ...

  7. 12款适合小团队协作、任务管理和进度跟踪的在线任务管理的工具推荐?

    国内外12款主流任务管理软件测评: 1.开发任务管理PingCode; 2.多合一项目任务管理Worktile;3.个人和小团队项目任务管理Notion; 4.企业任务管理平台SmartTask; 5 ...

  8. 一款适合IT团队的在线API文档、技术文档工具-showdoc介绍

    还在为word文档传来传去查阅不方便而烦恼吗,还在为查看数据库字段含义不方便而烦恼吗,还在为编写接口文档而烦恼吗?今天为大家推荐一款适合IT团队的在线API文档.技术文档工具,有免费开源和在线托管的版 ...

  9. 比Teambition、Worktile 更适合研发团队的几大工具盘点

    Worktile 和 Teambitiom 哪个更好?两个产品各有特点.1.Teambition 优势:操作简单.个人版永不收费.更适合小型团队:2.Teambition 劣势:无法满足中大型团队复杂 ...

最新文章

  1. 关于二叉树的链表表示的一个问题
  2. 记录一下ECS修改实例密码以及安装可视化桌面
  3. 垂垂老矣,一代人的回忆,Adobe Flash 寿命将尽
  4. 【C++多线程系列】【四】将类的成员函数作为线程启动函数
  5. 关于ORACLEOraDb11g_home1TNSListener服务启动后又停止问题的关键点
  6. sonar 报错日志分析(根据日志跟踪源码执行)
  7. 如何在 SAP Spartacus 自定义 UI 里使用标准 UI 的上下文数据 - let 关键字的用法
  8. 通过SD卡来安装Linux系统
  9. 作战手册-2011-12-18
  10. 输入框聚焦隐藏提示语
  11. Git CMD - diff: Show changes between commits, commit and working tree, etc
  12. Network 20Q--Q2 How does Google sell ad spaces?
  13. 奇瑞a3中控按键图解_5万元价位人生第一辆爱车如何选 奇瑞艾瑞泽5对比吉利远景...
  14. 计算机网络知识点汇总(考研用)
  15. ae合成设置快捷键_AE设计首选快捷键大全+解析
  16. 计算机程序班搞笑口号,二班班级霸气押韵口号(精选50句)
  17. div是什么意思?HTML和CSS中div标签怎么用
  18. [NOI2008]糖果雨
  19. 耳机接口规则_耳机接口种类与标准
  20. linux+tomcat无法显示图片验证码

热门文章

  1. jmeter--上传图片类接口
  2. 如何查找重复文件并快速删除,电脑查重复文件的方法
  3. 压敏电阻特点,与普通电阻有什么不同?
  4. 一 、单片机IO实验
  5. 多多客id是什么意思_【多多情报学堂】拼多多id是什么?拼多多店铺id在哪里看?...
  6. ubuntu18.04安装opencv viz模块
  7. FPGA存储块,有没有使能Primitives output Register作用
  8. UMLChina公众号文章精选(20210706更新精选)
  9. About 一行Python代码搞定局域网内文件共享与传输
  10. 高含金量国际计算机编程竞赛